メタが大規模言語モデル(LLM)の「LLaMA(=Large Language Model Meta AI)」を公開した。ビッグテックの超巨大人工知能(AI)競争にメタも合流した。競争の裏には「コスト負担」という影もある。
メタは24日(現地時間)、自社のAIブログでLLaMAを公開した。「賢いAI」より「少ないエネルギーで迅速に駆動する効率的なAI」を目指す。まず人間の脳のシナプスのように情報媒介の役割をするAIパラメータ(媒介変数)の個数が競合他社のAIモデルより少ない。LLaMAは70億個・130億個・330億個・650億個の計4種類で構成されていて、必要に応じて規模を選択して使用できる。パラメータ最大値はチャットGPT開発会社OpenAIの1750億個(GPT-3基準)の3分の1にすぎない。パラメータ個数を減らした代わりに学習量(データ)を増やして性能を高める戦略を使った。メタはウィキペディアのテキストやAI研究用データセットC4を活用してLLaMAを訓練させた。
この日、メタが公開した論文によると、LLaMAはGPT-3より性能が優秀だった。メタは「容量を減らしたことでパソコンやスマートフォンのような個別機器でもチャットGPTのようなサービスを具現できる」と説明した。しかしLLaMA基盤の生成AIサービスには言及しなかった。
代わりにLLaMAはオープンソースとして研究者に提供される。メタのマーク・ザッカーバーグ最高経営責任者(CEO)は24日、自身のフェイスブックで「LLaMAはAI研究者の業務を助けるために設計された」とし、AI研究開発生態系に友好的なジェスチャーを送った。世界46億人(フェイスブック25億9800万人、インスタグラム20億人)を対象にサービスする世界最大のソーシャルメディア運営企業であるだけに、メタが生成AIですぐに収益化に動く場合の逆風を意識したものとみられる。メタは非商業的な目的であることを明らかにした申請者に限りLLaMAを提供する計画だ。
超巨大AIとこれを活用した生成AI分野でマイクロソフト(MS)とグーグルが先を進み、危機感を感じたメタが一歩遅れて追いかける姿だ。メタはその間、AIチャットロボット「BlenderBot」、大規模言語モデル「OPT」などを公開しながらAI研究と開発を進めたが、反応はよくなかった。
OpenAIのようなスタートアップに比べ、メタのようなソーシャルメディアビッグテックはAI倫理などの問題なくAIの開発に注力しなければならず、保守的になるしかないという分析だ。ブルームバーグなど海外メディアによると、メタの最高AI科学者ヤン・ルカン氏はあるフォーラムで「BlenderBotはつまらなくなるしかなかった」とし「徹底的に安全にしなければいけないため」と吐露した。ブルームバーグは「メタ内で最新技術を活用するためのAI承認手続きの速度を高めるべきという職員の声が出てきた」と伝えた。メタのLLaMA公開で、メタの研究開発(R&D)に変化があるかも注目される。メタはその間、メタバースを次期産業と見なし、毎年数十億ドルを仮想・拡張現実(VR・AR)プラットホームおよび機器開発に投資してきた。
グーグル・MS・メタなどがすべて参戦したビッグテックのAI戦争はさらに激しくなるとみられる。この競争のカギは天文学的なコンピューティング費用だ。超巨大AIを運用するためにはグラフィック処理装置(GPU)など高性能AI半導体とクラウドコンピューティングインフラが必要だ。アルファベットのジョン・ヘネシー会長は22日、ロイターのインタビューで、AI検索方式の費用は従来のキーワード検索より10倍以上かかると明らかにした。ロイターは「アナリストはAI検索技術に入る数十億ドルの追加費用がアルファベットの収益に影響を及ぼしかねないとみている」と伝えた。AIが出す答弁の品質を保証しながらも費用を減らすことがビッグテックの課題になるとみられる。
メタは24日(現地時間)、自社のAIブログでLLaMAを公開した。「賢いAI」より「少ないエネルギーで迅速に駆動する効率的なAI」を目指す。まず人間の脳のシナプスのように情報媒介の役割をするAIパラメータ(媒介変数)の個数が競合他社のAIモデルより少ない。LLaMAは70億個・130億個・330億個・650億個の計4種類で構成されていて、必要に応じて規模を選択して使用できる。パラメータ最大値はチャットGPT開発会社OpenAIの1750億個(GPT-3基準)の3分の1にすぎない。パラメータ個数を減らした代わりに学習量(データ)を増やして性能を高める戦略を使った。メタはウィキペディアのテキストやAI研究用データセットC4を活用してLLaMAを訓練させた。
この日、メタが公開した論文によると、LLaMAはGPT-3より性能が優秀だった。メタは「容量を減らしたことでパソコンやスマートフォンのような個別機器でもチャットGPTのようなサービスを具現できる」と説明した。しかしLLaMA基盤の生成AIサービスには言及しなかった。
代わりにLLaMAはオープンソースとして研究者に提供される。メタのマーク・ザッカーバーグ最高経営責任者(CEO)は24日、自身のフェイスブックで「LLaMAはAI研究者の業務を助けるために設計された」とし、AI研究開発生態系に友好的なジェスチャーを送った。世界46億人(フェイスブック25億9800万人、インスタグラム20億人)を対象にサービスする世界最大のソーシャルメディア運営企業であるだけに、メタが生成AIですぐに収益化に動く場合の逆風を意識したものとみられる。メタは非商業的な目的であることを明らかにした申請者に限りLLaMAを提供する計画だ。
超巨大AIとこれを活用した生成AI分野でマイクロソフト(MS)とグーグルが先を進み、危機感を感じたメタが一歩遅れて追いかける姿だ。メタはその間、AIチャットロボット「BlenderBot」、大規模言語モデル「OPT」などを公開しながらAI研究と開発を進めたが、反応はよくなかった。
OpenAIのようなスタートアップに比べ、メタのようなソーシャルメディアビッグテックはAI倫理などの問題なくAIの開発に注力しなければならず、保守的になるしかないという分析だ。ブルームバーグなど海外メディアによると、メタの最高AI科学者ヤン・ルカン氏はあるフォーラムで「BlenderBotはつまらなくなるしかなかった」とし「徹底的に安全にしなければいけないため」と吐露した。ブルームバーグは「メタ内で最新技術を活用するためのAI承認手続きの速度を高めるべきという職員の声が出てきた」と伝えた。メタのLLaMA公開で、メタの研究開発(R&D)に変化があるかも注目される。メタはその間、メタバースを次期産業と見なし、毎年数十億ドルを仮想・拡張現実(VR・AR)プラットホームおよび機器開発に投資してきた。
グーグル・MS・メタなどがすべて参戦したビッグテックのAI戦争はさらに激しくなるとみられる。この競争のカギは天文学的なコンピューティング費用だ。超巨大AIを運用するためにはグラフィック処理装置(GPU)など高性能AI半導体とクラウドコンピューティングインフラが必要だ。アルファベットのジョン・ヘネシー会長は22日、ロイターのインタビューで、AI検索方式の費用は従来のキーワード検索より10倍以上かかると明らかにした。ロイターは「アナリストはAI検索技術に入る数十億ドルの追加費用がアルファベットの収益に影響を及ぼしかねないとみている」と伝えた。AIが出す答弁の品質を保証しながらも費用を減らすことがビッグテックの課題になるとみられる。
この記事を読んで…