人工知能（AI）チャットボット「クロード」の開発会社Anthropic（アンソロピック）のダリオ・アモデイ最高経営責任者（CEO）が、今後数年以内に人類が直面し得るAIのリスクについて警告する長文のエッセーを公開した。

27日（現地時間）、フィナンシャル・タイムズ（FT）などによると、アモデイCEOは前日、自身の個人ウェブサイトに「技術の不安定な成長期」というタイトルのエッセーを掲載した。分量は約2万語で、A4用紙基準で60～70ページに達する。


◇「ノーベル賞受賞者より賢いAIが登場する可能性も」


アモデイCEOはこの文章で、制御されない強力なAIシステムが、大規模テロ、高度な技術独裁、失業や社会的二極化など、深刻な副作用をもたらす可能性があると指摘した。

彼は、今後数年以内に、ノーベル賞受賞者や有力政治家、技術戦略家よりもはるかに優れた知能を持つAIが登場する可能性が高いと見通した。

また、「学校で銃乱射を起こし得るほど精神的に不安定な『孤立した個人（loner）』は、現在の技術力では核兵器を製造したり、感染症を拡散させたりすることはできない」とした上で、「しかし、こうした高度なAIの支援を受ければ、その能力は博士級のウイルス学者の水準にまで引き上げられることになる」と警告した。

◇「倫理を放任するAI企業は自律性リスクに対処できるのか」

アモデイCEOは、一部AI企業の倫理意識の欠如も問題として指摘した。最近、未成年者の性的画像生成をめぐる論争を起こしたイーロン・マスク氏のAIチャットボット「Grok（グロック）」を念頭に置いたとみられ、彼は「一部のAI企業が、児童の性的対象化の問題に対して、憂慮すべきほど放任的な態度を示している」と述べた。

さらに、「基本的な倫理問題すら解決しようとする意志や能力のない企業が、将来のAI自律性リスクに対処できるのか疑問だ」と批判した。

◇「AI規制、安全より経済的利益に偏重」

アモデイCEOは、米国をはじめとする主要国のAI政策の方向性も問題視した。各国の規制議論が、AIリスクの緩和よりも、経済的利益の最大化に重点が置かれているという。

アモデイCEOは「AIリスクに対するこうしたためらいは非常に不幸なことだ」とし、「技術そのものは、世界で何が起きるかにまったく関心を持たない。私たちは2023年と比べて、2026年の現在、より現実的なリスクに一層近づいている」と強調した。

◇OpenAI出身…ChatGPTの強力な競争相手「クロード」

アモデイCEOは、ChatGPT開発会社OpenAI（オープンAI）の初期開発陣の出身だ。彼はOpenAIの方向性やAI安全性の問題をめぐり、サム・アルトマンCEOらと対立し、2020年に同社を離れてAnthropic（アンソロピック）を共同創業した。

アモデイ氏と妹で元OpenAI副社長のダニエラ氏を中心に、2021年に設立されたAnthropicは「安全なAI」を標榜し、2023年に初のAIモデル「クロード」を発売した。「クロード」は企業向けAI市場でChatGPTの主要な競争相手とされている。Anthropicは現在、約3500億ドル（約53兆4000億円）の企業価値を基準に、新規投資の誘致を協議中だとFTは伝えた。