米軍が中国船舶を対象にした軍事作戦を実行直前で中止していたことがわかった。人工知能（AI）が作った情報に基づいて作戦を準備していたが間違いを発見したためだ。

CNNが18日に報道した内容によると、イランとの戦争の最中だった今年春、米軍内部で中東にいた中国船舶1隻が核兵器開発関連物質を運んでいるという内容の情報報告書が回覧された。米軍はすぐにこの船舶を遮断するための作戦準備に入った。武装した米軍兵力が船舶に上がる準備をした。軍用機まで出撃した。


だが作戦を実行する直前に軍当局者が報告書を追加で検討する過程で間違いを発見した。問題の報告書は、ある分析官が米太平洋特殊作戦司令部が入手した中国船舶の貨物目録情報をAIチャットボットに入力して分析を要請し作成され始めた。チャットボットは公開情報と米政府が保有した機密信号情報を統合分析した末に、この船舶の貨物が核兵器計画に関連したという誤った結論を下した。分析官は再びAIを活用してこの内容を米軍の標準情報報告書形式で作った後内部に配布した。


作戦を実際に実行したとすれば米中間の武力衝突で飛火でしかねない事件だった。消息筋はCNNに「（AI報告書は）全面的に間違いだった。戦争を始めるところだった」と打ち明けた。米国防総省と情報機関がAI活用を徐々に拡大する中でAIのエラーが実際の軍事的誤判断につながりかねないという危険性を見せる事例だとCNNは指摘した。

ヘグセス米国防長官は1月に「「AI加速化戦略」を発表し、情報分析と標的選定など軍業務全般にAI導入を拡大している。CNNは「米政府内各組織がそれぞれ異なるAIツールと安全基準を使っているが、AIが生成した情報をどのように検証するのかに対する統一された基準がない」と指摘した。

米軍がイランを空爆した初日に誤って小学校を爆撃し175人以上が死亡する惨事が発生した際もAIによる問題の可能性が提起された。ロイター通信は「米中の専門家が、AIが軍事危機状況で誤って作動したり両国の軍事システムが誤認する可能性に備え緊急連絡網を構築し、AIシステムの運用範囲と人間の最終承認原則などを事前合意する案を議論している」と報道した。