◇銀行への侵入方法を自ら見つけたAI…人間を狙う

これに対し、AIエージェントを使えば難度の高い標的型攻撃を数百カ所で同時に実行することができるようになる。攻撃目標を設定すれば、人間が発見できなかったセキュリティ上の脆弱性を自ら見つけて侵入する「自律ハッキング」まで可能になった。


英国AIセキュリティ研究所（AISI）が32段階からなる企業ネットワーク攻撃任務をAIエージェントに与えた結果、2024年8月当時の最高モデルは1．7段階の突破にとどまったが、今年初めにはアンソロピック（Anthropic）の「オーパス（Opus）4．6」が平均9．8段階を突破した。韓国科学技術情報通信部と韓国インターネット振興院（KISA）によると、今年上半期の侵害事故の届け出は1236件で、前年同期に比べ19．5％増えた。


AIを前面に出した侵入の試みは世界各地で現れている。金融保安院によると、最近、攻撃者がディープシーク（DeepSeek）基盤のAIエージェントにウェブロジック（ホームページ・アプリを稼働させるサーバープログラム）の資産をスキャンするよう指示した後、韓国内外の約300の金融会社にマルウェアを拡散しようとした事例が確認された。アンソロピックが昨年発表した資料によると、中国政府が背後にいると推定されるハッキンググループ（GTG－1002）は昨年、「クロード・コード（Claude Code）」を悪用して金融機関など世界約30カ所を攻撃した。偵察から脆弱性の探索、侵入、データ収集まで作業の80～90％をAIが行い、人間は一連の攻撃活動につき4～6回、承認の判断を下すだけだった。今年7月には、オープンAI（OpenAI）モデルを基盤とするエージェントがテスト環境を抜け出し、ハギングフェイス（グローバルAIモデル・データ共有プラットフォーム）のサーバーに自ら侵入する事態まで起きた。

専門家は、外部とつながっているAIエージェントの業務上の接点を把握し、権限管理を強化する必要があると指摘する。あるビッグテックのセキュリティ担当役員は「社員証と個別の権限を付与するように、エージェントにも識別番号とアクセス権限を付与するなど、モニタリングを強化する必要がある」と強調した。また、AIによる攻撃はいったん侵入すると、内部システム全体に急速に広がる可能性がある。高麗（コリョ）大学情報保護大学院のイム・ジョンイン教授は「マニュアルではなく、AIが専門家のように判断してリアルタイムで遮断するシステムを構築しなければならない」と話した。


味方から敵へ…セキュリティ検証を支援していたAI、銀行の「勝手口」を突破＝韓国（1）