アンソロピックが次世代人工知能（AI）モデル「ミトス（Mythos）」を公開すると米国政府とビッグテックが防御総力戦に入った。高い水準に発達したAIが生産性ツールを超え国の核心インフラを脅かす実質的なサイバー兵器に進化しかねないという懸念からだ。

ウォール・ストリート・ジャーナルは10日、「ホワイトハウスが主要省庁と民間企業を総動員してAIモデルが誘発しかねないサイバー脅威を事前に遮断する作業に着手した」と報道した。ホワイトハウスはケーンクロス国家サイバー長官を指令塔に政府機関関係者とグーグル、マイクロソフトなどテック企業とシティグループ、モルガン・スタンレーなど金融企業のトップまで総動員しAIサイバー攻撃を防ぐ防御幕構築に突入した。AIが国家基幹通信網や金融電算網に浸透してシステムをまひさせる最悪のシナリオを想定し、AIが生成した悪性コードをリアルタイムで探知・遮断する次世代セキュリティ標準策定に出たのだ。


◇人間が見つけられなかった欠陥まで指摘


米国政府が総力対応に乗り出した契機とされるミトスはアンソロピックが7日に公開した高性能AIモデルだ。ソフトウエアの弱点を自ら見つけ出し、これを実際に作動可能な攻撃コードに変えられる水準のサイバー能力を備えたのが特徴だ。既存のAIがコード分析や補助の役割をするのにとどまったとすれば、ミトスは弱点探知から攻撃コード作成までの過程を相当部分自律的に遂行する段階に近づいたという評価を受ける。米CBSはミトスについて「事実上ほとんどすべての主要システムから弱点を見つけ出せる水準」と評価した。

アンソロピックは危険性を考慮してミトスを一般大衆に公開せず一部核心インフラ企業と機関にだけ制限的に提供している。問題はこうした水準のモデルが特定企業1カ所だけにとどまる可能性が大きくない点だ。実際にオープンAIもまた次世代モデル「スパッド（Spud）」を開発してサイバーセキュリティ能力を強化している。これもまたモデルの強力な性能がハッキング武器として悪用される可能性を遮断するためサービス開始前にセキュリティ専門家に先に公開し弱点を補完する過程を経る予定だ。

専門家らは弱点探知から実際の攻撃コード作成まで続くAIの自動化水準が高まるほど一度発見されたハッキング手法が早く広がりかねないと懸念する。アンソロピックによると、ミトスは世界で最もセキュリティが強力な基本ソフト（OS）に選ばれるオープンBSDで27年間隠れていた設計ミスを見つけ出した。人間のセキュリティ専門家が長期間手動で検討しても発見できなかった弱点を短時間で見つけ出したのだ。

このようなAIモデルの作動方式が公開されたり広く知られたりする場合、人間がセキュリティパッチを開発して配布する速度を追い抜いて既存の防衛システムが圧迫を受けることになりかねない。シスコのアンソニー・グリエコ首席副社長兼最高セキュリティ責任者（CSTO）は同社公式ブログで「AI能力が臨界点を超え核心インフラ保護の緊急性が根本的に変わり、もう取り返しがつかない段階に入った」と話した。

◇サービス超えて戦略資産になったAI

AIの性能が国の核心インフラを脅かしたり防御できる水準に高度化されるほど国レベルの安全保障資産に編入される流れが明確になる見通しだ。アンソロピックは最近アマゾンウェブサービス（AWS）、グーグル、マイクロソフト、JPモルガン・チェース、シスコ、エヌビディアなど主要企業とともにAIの攻撃能力を防御技術に転換するための官民合同セキュリティ協議体である「プロジェクト・グラスウイング」を発足させたと明らかにした。インターネットやスマートフォンが大衆的拡散を踏み台として成長したのと違い、次世代AIは制限されたアクセスと選別的活用を前提とする閉鎖的運営体系を選んだ形だ。アンソロピックは公式ブログを通じ「AIセキュリティ問題に対応することは民主主義国家に重要な安全保障優先順位」と明らかにした。