自律型兵器の誕生
著者はハリウッド映画「ターミネーター」のファンです。
機械が将来進化して人類に大規模な戦争を仕掛ける様になりますが、そこで人類を救った英雄ジョン・コナーの母親を殺害するために2029年の未来から1984年にタイムスリップして送られてくるのが、アーノルドシュワルツネッガー扮する殺人兵器ターミネーターでした。
そんな荒唐無稽な話と思われるかも知れませんが、この機械が人類に対して攻撃を仕掛けてくるというシナリオは今や現実味を帯びてきている様です。
人間の手を借りずに自ら敵を特定して攻撃する自律型兵器の運用開始について米誌Foreign Affairsが「The Perilous Coming Age of AI Warfare - How to Limit the Threat of Autonomous Weapons」(来るべき危険なAI戦争時代 - 自律型兵器の脅威を制限する方法）と題した論文を掲載しました。
かいつまんでご紹介したいと思います。
Foreign Affairs論文要約
昨年、ウクライナのドローン製造会社セイカーは、人工知能を使用して戦場で誰を殺すかを自ら決定する完全自律型兵器を配備したと発表しました。
同社は、ドローンは小規模な自律攻撃を行ったと発表しました。
これは第三者により検証されていませんが、そのような兵器を製造するために必要な技術は既に存在します。
技術的には小さな一歩ですが、自ら標的を探索し選択する完全自律型兵器を製造することは、道徳的、法的、倫理的に注意を要する一歩です。
セイカー氏の自律型ドローンの配備は、自律型兵器を規制する可能性が急速に失われつつあることを示しています。
各国は自律型兵器をどうするかについて10年にわたり議論してきましたが、その規制については合意できていません。
しかし、国際的な合意が急務です。
たとえ全面的な禁止が現実的ではないとしても、自律型兵器の最悪のリスクを軽減するために政府が採用できる実際的な規制は数多くあります。
規制がなければ、人類は危険な機械主導の戦争の未来に向かって突進する危険を冒すでしょう。
1980年代以来、限られた状況で部分的に自律型の兵器が使用されてきました。
現在、多くの国々が防空およびミサイル防衛システムにそれを採用しています。
これらの防御システムは、一度起動すると、飛来するロケット弾、ミサイル、航空機などを自動的に感知し、迎撃することができます。
ただし、人間はその動作を監視しており、何か問題が発生した場合には介入することができます。
ウクライナ戦争は、特に小型ドローンなどの技術において、イノベーションを加速させました。
両国は地上軍に対する偵察や攻撃にドローンを広範囲に使用しています。
ほとんどのドローンは遠隔操作で操縦されるため、 人間のオペレーターがいないと役に立たなくなります。
自律型ドローンが価値があるのは、脆弱な通信リンクに依存しないためです。
ドローン以外の自律型兵器の開発も進んでいます。
いくつかの国が現在、ステルス戦闘用無人機の開発に取り組んでいます。
将来の戦争では、これらの無人機が自律的に防空や移動式ミサイル発射装置を標的にする可能性があります。
将来の戦争ではロボットに自律型兵器が配備される可能性があります。
変化はおそらくこれで止まらないでしょう。
ドローンの群れは自律的に行動を調整し、人間の能力を超えた速度で戦場の変化に反応することができます。
これにより、意思決定サイクルから人間を排除するというさらなる圧力が生じるでしょう。
機械主導の戦争の新時代への移行の影響は甚大なものとなるでしょう。
自律型兵器は戦闘員を正確に標的にすることで民間人の死傷者を減らすことができると考えられていますが、民間人の死傷者をほとんど気にしない国家の手に渡れば、壊滅的な残虐行為を行うために使用される可能性があります。
軍事 AI の他の側面と統合された自律型兵器が広く配備されれば、機械主導の戦争の新時代が生まれる可能性があります。
軍事 AI アプリケーションは、情報処理と意思決定を加速できます。
理論的には、これにより人間が思慮深く慎重な決定を下すための時間がより多くなる可能性がありますが、 実際には、競合他社に遅れを取らない様に、自動化を使用して意思決定をスピードアップしようとするでしょう。
その結果、自動化が進み、人間による制御が減少するというスパイラルがエスカレートすることになります。
この競争の最終状態は、おそらく人間の制御を超えた機械の速度で実行される戦争になるでしょう。
金融の分野では、高頻度取引におけるアルゴリズムの普及により、株式が超人的なスピードで自律的に取引されるようになりました。
人民解放軍陸軍指揮学院の中国軍事学者チェン・ハンフイ氏は、戦場における「シンギュラリティ」、つまり機械主導の戦争のペースが人間の意思決定のスピードを上回る地点について仮説を立てています。
この転換点を超えると、人間は戦術的決定と作戦レベルの戦争戦略の両方において制御を機械に譲らざるを得なくなるでしょう。
機械は個々のターゲットを選択するだけでなく、戦闘全体を計画し、実行します。
人間の役割は機械のスイッチを入れて傍観するだけとなり、戦争を制御したり終わらせたりする能力はほとんどないことになります。
自律型兵器を完全に禁止しようとする試みは、残念ながら無駄に終わる可能性が高いです。
その軍事的価値は大きすぎるのです。
しかし効果的な制限がなければ、自律型兵器は戦争に対する人間の制御を低下させ、民間人や戦闘員にさらなる危険をもたらし、国際的な安定を損なうことになります。
これらの兵器の最悪の危険に対処するための措置を早急に講じる必要があります。
自律型兵器は、より危険な兵器化された AI に対処する人類の能力を試す初期のテストです。
最先端の AI システムは、サイバー兵器や化学兵器、生物兵器の開発を支援する能力を実証しています。
それらの改善を管理し、その拡散を制限し、潜在的な使用を防ぐためには、世界的な協力が緊急に必要とされています。
機械が人間を絶滅させる可能性
いやいや恐ろしい世の中になってきたものです。
機械の進化はこれまで人間の生活を豊かにしてきましたが、今後更に進化が続いていけば、人間を滅亡に追い込むかもしれないのです。
最悪は機械が核のボタンを握るというシナリオではないでしょうか。
冷戦時代に何度か核戦争の危機はありましたが、最後は東西指導者が思いとどまりました。
冷酷な独裁者でさえ一分の良心はあるのだと思います。
血も涙もない機械が世界を支配するようになったら、勝つか負けるか、得になるかならないかだけで戦争が始まってしまいます。
自律型兵器の規制は極めて難しいと思いますが、人類の破滅を避けるために、対立する陣営も協力しあうべきでは無いかと思います。
最後まで読んで頂き有難うございました。
