戦場AIの増加により、戦争の霧はさらに危険になる

ウィル・ナイト

米軍はかつてのような無敵の軍隊ではないが、新興企業スケールAIのCEOアレクサンドル・ワン氏は先週議会委員会で、人工知能を活用することで新たな優位性を確立できる可能性があると語った。

王氏は下院サイバー・情報技術・イノベーション小委員会で「われわれは世界最大の軍用ハードウェアを保有している」と語った。 「生成されるこのデータを適切に設定して計測することができれば、人工知能の軍事利用に関しては、克服できないほどのデータ上の優位性を生み出すことができます。」

ワン氏の会社は定期的に国防総省と連携してAIプロジェクトの大量のトレーニングデータを処理しているため、そのビジョンに強い関心を持っている。 しかし、米軍関係者の間には、AIと機械学習の利用拡大は事実上避けられず、不可欠であるという確信がある。 私は最近、その動きが拡大していることと、国防総省のある部隊が既製のロボット工学と AI ソフトウェアを使用して中東の海洋の広い範囲をより効率的に監視していることについて書きました。

王氏は議会公聴会で、米国には比類のない軍事データのほかに、エヌビディアなどの世界最先端のAIチップメーカーと世界最高のAI専門知識があるという利点があると語った。 「世界で最も才能のあるAI科学者にとってアメリカは選ばれる場所だ」と同氏は語った。

Scale AI は強力な大規模言語モデルや ChatGPT のような高度なチャットボットの開発という別の AI 革命の最前線にあるため、Wang 氏の軍事 AI への関心も注目に値します。

軍事戦争ゲームで大規模な言語モデルを使用する実験はいくつかありますが、ChatGPT を兵役に徴兵することはまだ誰も考えていません。 しかし観察者らは、米国企業の最近のAI性能の飛躍は、国防総省が利用できるかもしれないもう一つの重要な利点だと見ている。 このテクノロジーの発展の速さ、そして依然として問題を抱えていることを考えると、軍事 AI に関してどのような保護措置が必要なのかについて新たな疑問が生じています。

AI の能力のこの飛躍は、AI の軍事利用に対する一部の人々の態度が変化していることを受けて起こります。 2017年、グーグルは国防総省のプロジェクト・メイブンを通じて米空軍が航空画像を解釈するためにAIを利用するのを支援したことで反発に直面した。 しかし、ロシアのウクライナ侵攻により、民間部門とハイテク企業との協力に対する国民と政治の態度は軟化し、安価な自律型ドローンとデータ分析用の商用AIの可能性が実証された。 ウクライナ軍はニューラルディープラーニングアルゴリズムを使用して航空画像と映像を分析している。 米国企業パランティアは、ウクライナに標的化ソフトウェアを提供していると発表した。 そしてロシアは自律システム用のAIにますます注目している。

アンジェラ・ウォーターカッター

ジュリアン・チョッカトゥ

ウィル・ナイト

ジョー・レイ

「殺人ロボット」に対する懸念が広まっているにもかかわらず、この技術はまだこのような用途に使用できるほど信頼性がありません。 そして、国防総省の AI の野望についてレポートしている間、国防総省、米軍、または完全自律型兵器の開発に熱意を持っている AI に焦点を当てた新興企業の中に、私は一人も遭遇しませんでした。

しかし、AIの活用が進むと、人間が方程式から排除されたり、排除されたりする軍事衝突がますます多くなるだろう。 AI を核兵器に喩える人もいますが、より差し迫ったリスクは、軍事 AI システムの破壊力よりも、戦争の霧を深め、人為的ミスをより可能にする可能性です。

2015年から2018年まで米海軍の海軍作戦部長を務めた元四ツ星提督のジョン・リチャードソン氏と話をしたとき、彼はAIが軍事力に産業革命や原子力時代と同様の影響を与えるだろうと確信していた。 そして彼は、過去の革命を最もよく利用した側が過去2回の世界大戦で勝利したと指摘した。

しかしリチャードソン氏は、強力なテクノロジーによる軍事交流を管理する上での人間関係の役割についても語った。 海軍長官を務めている間、彼は他の国の艦隊の海軍司令官と知り合いになるために尽力した。 「会ったり話したりするたびに、お互いのことをよりよく理解できるようになりました」と彼は言います。 「私が本当にしたかったのは、何らかの計算違いなどで何かが起こった場合に、比較的すぐに彼らに電話できるようにすることでした。 それが最初の電話にはなりたくないのです。」