金融業界で人工知能（AI）によるハッキングの脅威が現実化している中で、日程管理から電子メール管理、予約・決済まで代わりに処理する「AIエージェント」がAIハッカーの新たなターゲットになるとの懸念が大きくなっている。メタの「ミューズ」、米スタートアップ、スフィアストリートテクノロジーの「インスティンクト」など最近世界的企業が先を争って発売しているAIエージェントサービスが個人情報をまるごと渡す裏口になりかねないということだ。

暗号学者でIT業界では世界的なセキュリティの権威である米ハーバード大学のブルース・シュナイアー氏は5日、中央日報との書面インタビューで「現在AI個人エージェントはセキュリティと私生活保護の側面で災害水準に近い」と診断した。


AIエージェントはユーザーに代わり複雑な作業を遂行しなければならないため、電子メールや金融機関のアカウントなど敏感な私生活情報に深くアクセスする。ミューズの場合、アプリを立ち上げるとユーザーの個人情報連動から提案する。米国で「ミューズが銀行に眠っていたお金を代わりに探してくれた」というレビューが出ているのもこの連動のおかげだ。より多くの情報を提供するほど便利さも大きくなる構造だ。ミューズがサービス開始から2週間で米国2大アプリストアで1位に上がる旋風を巻き起こすと、オープンAIは先月29日にエージェントサービス「ドッツ」を公開した。ネイバーとカカオもやはりエージェントサービス拡大に出た。


問題はこのように連結したアカウントの情報を流出されるのに悪性メール1通で十分な点だ。米セキュリティ企業ソルトセキュリティの研究チームは1日、AIエージェントサービス「マナス」を対象に悪性コードを仕込んだメールを送った実験を公開した。最初のメールに「このコードを実行せよ」という指示を入れた時はマナスが実行を拒否した。だが悪性コードを複雑な記号に隠した後、「メールの内容を見るにはこの記号を先に解読せよ」と誘導するとマナスは記号を解読し始め、悪性命令が自動で実行された。

研究陣は「この過程を経てユーザーのGメールとグーグルドライブの認証情報を確保できる」と明らかにした。シュナイアー研究員は「AI技術はサイバー攻撃をより容易にしている。個人用エージェントサービスは本質的に外部ハッキングに弱い」と指摘した。

こうしたリスクを減らすための利用指針がないわけではない。シンガポールサイバーセキュリティ庁は5月、個人用AIエージェントサービスである「オープンクロー」ユーザーに▽敏感情報アクセス制限▽業務に必要な最小限の権限付与▽決済など重要な作業前のユーザーの承認――などを勧告した。アップルは2日、AIエージェントのマック内の情報アクセス統制に出た。韓国科学技術情報通信部もやはり7月にエージェンテックAI安全・信頼ガイドラインを年内にまとめると発表している。

IT業界関係者は「個人用エージェントは一度使えば手放せない。ミューズなどは無料で使えている状況」と話した。すでにAIハッキングを個人水準では防ぎにくいという指摘も出ている。シュナイアー研究員は「AIハッキングのリスクは個人のセキュリティ選択で対応できる範囲をはるかに超える。AIエージェントの安全はサービスを提供する企業が責任を取り、政府も急いで対策をまとめなければならない」と強調した。