これまで推論用AIはオープンAIのo1モデルが最も有名だったが、オープンソースとして提供されず、技術も隠した。ところが、ディープシークが推論用R1モデルをオープンソースとして公開し、後続研究が活発になる見通しだ。
ディープシークの主な差別化要素は、ソフトウェアとハードウェアの最適化だ。AIモデルを訓練する時、一般に使うより精密でない方式(8ビット浮動小数点混合)を使う一方で、アルゴリズムとハードウェアを最適化して補完したという。イーロン・マスク氏などはディープシークがあらかじめ貯めておいたNVIDIAの高仕様チップH100数万個使ったと主張したが、NVIDIAは「ディープシークが輸出統制から完全に逃れるコンピューティングと技術を使用した」として肩を持った。
技術業界ではディープシークの費用・技術力の主張をそのまま信じることはできないという見方も多い。R1はディープシークの既存の大型モデルV3を基盤に作られたが、会社はV3の費用を除いてR1だけで費用を計算したということだ。「中国が少ない費用でも米国に勝つ」と強調する政治的判断もあると見る。
しかし、ディープシークがAI競争で「費用効率化」の幕を開けたということには異見が少ない。特に、高性能推論AIの進入障壁が低くなり、現在よりさらに多くのAIサービスが開発され、半導体需要も増加するだろうという楽観も出ている。
推論用AIチップを開発している韓国のAI半導体スタートアップであるハイパーエクセルのイ・ジンウォン最高技術責任者(CTO)は「先発走者の技術力を後発走者が早く追いついて公開し、AI推論市場が大きくなっている」として「AI推論でメモリーは依然として多く必要なので、高性能DDR(ダブルデータレート)と旧型HBMなど、価格効率性のある先端DRAMの需要はさらに増えるものとみられる」と話した。現在、最新HBM3E(第5世代)はAI訓練用として大型AIデータセンターに主に使われるが、これより性能・価格の低い旧型HBMや現在PC・モバイルに使われるグラフィックメモリー(GDDR)7や低電力(LP)DDRなどメモリーがAI推論用として広く使われる可能性があるということだ。
NVIDIAは個人開発者がAI推論モデルを開発し実行できる3000ドル(約46万円)の個人向けAIスーパーコンピュータ「プロジェクト・ディジッツ(Digits)」を5月に発売する計画だ。
「ディープシーク、僕が言った通りだ」 株価17%の暴落にもNVIDIAは称賛(1)
ディープシークの主な差別化要素は、ソフトウェアとハードウェアの最適化だ。AIモデルを訓練する時、一般に使うより精密でない方式(8ビット浮動小数点混合)を使う一方で、アルゴリズムとハードウェアを最適化して補完したという。イーロン・マスク氏などはディープシークがあらかじめ貯めておいたNVIDIAの高仕様チップH100数万個使ったと主張したが、NVIDIAは「ディープシークが輸出統制から完全に逃れるコンピューティングと技術を使用した」として肩を持った。
技術業界ではディープシークの費用・技術力の主張をそのまま信じることはできないという見方も多い。R1はディープシークの既存の大型モデルV3を基盤に作られたが、会社はV3の費用を除いてR1だけで費用を計算したということだ。「中国が少ない費用でも米国に勝つ」と強調する政治的判断もあると見る。
しかし、ディープシークがAI競争で「費用効率化」の幕を開けたということには異見が少ない。特に、高性能推論AIの進入障壁が低くなり、現在よりさらに多くのAIサービスが開発され、半導体需要も増加するだろうという楽観も出ている。
推論用AIチップを開発している韓国のAI半導体スタートアップであるハイパーエクセルのイ・ジンウォン最高技術責任者(CTO)は「先発走者の技術力を後発走者が早く追いついて公開し、AI推論市場が大きくなっている」として「AI推論でメモリーは依然として多く必要なので、高性能DDR(ダブルデータレート)と旧型HBMなど、価格効率性のある先端DRAMの需要はさらに増えるものとみられる」と話した。現在、最新HBM3E(第5世代)はAI訓練用として大型AIデータセンターに主に使われるが、これより性能・価格の低い旧型HBMや現在PC・モバイルに使われるグラフィックメモリー(GDDR)7や低電力(LP)DDRなどメモリーがAI推論用として広く使われる可能性があるということだ。
NVIDIAは個人開発者がAI推論モデルを開発し実行できる3000ドル(約46万円)の個人向けAIスーパーコンピュータ「プロジェクト・ディジッツ(Digits)」を5月に発売する計画だ。
「ディープシーク、僕が言った通りだ」 株価17%の暴落にもNVIDIAは称賛(1)
この記事を読んで…