「ディープフェイク(deepfake)」は機械学習を意味するディープラーニング(deep learning)と偽物を意味するフェイク(fake)をあわせた言葉で、人工知能(AI)に特定の言葉・イメージ・オーディオを学習させて複製することをいう。[写真 シャッターストック]
CNNによると、香港警察は2日に会見を開き、ディープフェイク技術を使った精巧な詐欺が発生し、これと関連して被疑者6人を検挙したと明らかにした。
事件はある多国籍企業の財務担当者が1通の電子メールを受け取って始まった。
メールは英国にある本社の最高財務責任者(CFO)の名前で送られ、機密維持の下で口座振り込みが必要だという内容だった。
おかしいと感じた担当者は、フィッシング詐欺を疑ったがその後かかってきたビデオ通話で信じてしまった。ビデオ通話によるテレビ会議の出席者が、担当者もよく知っている同僚で、顔も声も同じだったためだ。
担当者は振り込みに同意し、会議が終わった後に2億香港ドル(約38億円)を送金した。
担当者が詐欺に遭ったという事実はその後本社に振込依頼を再確認して判明した。
香港警察によると、担当者が参加したテレビ会議の映像と音声はいずれもAIを利用して合成・複製された偽物だった。
今回の犯行と関連し被疑者6人が逮捕されたと香港警察は伝えた。彼らは紛失届が出ている8つの身分証を利用して昨年7~9月に90回の借入を受け、54件の銀行口座を開設した容疑も受けている。
AI技術が普遍化し世界の当局がディープボイスやディープフェイクを使った犯罪の発生に神経を尖らせている。
2021年にアラブ首長国連邦(UAE)の銀行では普段から取引している大企業役員の電話を受け420億ウォンを送金し、後にディープボイス犯罪であることが明らかになったりもした。
昨年4月には中国・内モンゴルである事業家が友人の声と顔をまねたディープボイスビデオ通話にだまされ8億ウォンを送金する事件が起きている。
また、先月には米ポップスターのテイラー・スウィフトの顔にわいせつ画像を合成した写真が広がり、AIが生成したディープフェイクに規制が必要だという声が大きくなっている。
この記事を読んで…