ユーチューブなど主要プラットフォーム企業が低品質の人工知能（AI）コンテンツの取り締まりに出た。AIで大量生産されたいわゆる「AIスロップ（ごみ）」コンテンツがデジタル生態系を乱し、ユーザー経験（UX）を悪化させる悪循環を防ごうと刀を抜いたのだ。

IT業界と外信などによると、最近ユーチューブが低品質コンテンツの取り締まりを強化し、チャンネルが削除されたり収益創出が制限される事例が相次いでいる。米ITメディアのバージはオンライン動画編集プラットフォームのカップウイングが発表したAIスロップチャンネル事例を追跡した結果、最小16件が閉鎖または活動停止状態であることを確認したと伝えた。カップウイングは昨年国別上位ユーチューブチャンネル100件ずつ、合計1万5000件のチャンネルの実態調査を発表している。


制裁を受けチャンネル16件の総動画再生回数は47億回に達した。年間収益は約1000万ドルと推定される。全調査対象チャンネルのうち278件は人が介入していないAI低品質動画を繰り返し送出していた。これらチャンネルの広告収益は年間約1億1700万ドル水準だった。カップウイングは「AIスロップは中毒性が強いためユーチューブのような会社には両刃の剣」と評価した。短期的観点で見ればユーザーをプラットフォームに集める手段になるが、AIスロップが起こす「デジタル汚染」が長期的にプラットフォームの信頼度を損ねかねないということだ。保存やトラフィックなどインフラ運営コストが増加する点も企業の立場では負担だ。


ユーチューブは今年4大核心課題のひとつとして「AIスロップ対応」を挙げた。ユーチューブのニール・モーハン最高経営責任者（CEO）は先月21日に公式ブログを通じ「低品質・反復型AIコンテンツの拡散を減らすため積極的に努力している」と明らかにした。昨年7月には政策をアップデートして低品質量産型AIコンテンツを収益創出対象から除外した。

フェイスブックやインスタグラムなど交流サイト（SNS）プラットフォームを運営するメタのマーク・ザッカーバーグCEOは昨年10月、「SNSのコンテンツ製作主体が家族・友人など知人（1段階）、クリエーター（2段階）に続きAIを中心とする第3段階に入り込んだ」と言及している。メタはユーザーのアップロード便宜性を高めるため各種生成AIツールをサービスしているが、元の掲示者の許可がなかったり有意味な修正がないポスティングは収益創出を禁止する規定を設けている。

カップウイングの報告書よると韓国はAIスロップ動画を世界で最も多く消費する国だ。韓国基盤のAIスロップチャンネルの累積再生回数は84億5000万回で圧倒的な世界1位だ。2位のパキスタンの53億回、3位の米国の34億回を大きく上回る数値だ。最近では元ゴルフ選手のパク・セリと俳優キム・スンスが結婚を発表したというフェイク動画が860万回を超える再生回数を記録したりもした。2日には警察のボディカメラ動画をまねたAIフェイク動画を投稿したユーチューバーが拘束されている。

韓国で先月22日に施行された「AI基本法」にはまだAIスロップに関する明示的な条項がない。韓国のプラットフォームはAI活用コンテンツに対する独自の規定を設けている。ネイバーはブログやカフェなどでシェアする投稿に「AI活用」アイコンを表示できる機能を用意し使用を推奨している。ダウムのブログはAIなどを通じて短時間に類似の文を多量に投稿すると自動でコメントを削除している。