◇「HBM4速度競争」に送る苦言
第1世代HBMは、データ伝送速度は遅いがデータ入出力幅(I/O)が広く距離が短かった。例えば、制限速度が時速30キロメートルでも2つの地点の距離を大きく縮めて2車線道路を4車線に拡張したところ交通渋滞が消えた。しかしその後HBMは速度を急激に上げた。HBM4はHBMに比べ幅(I/O)は2倍だが速度は8倍だ(標準規格基準)。
SKハイニックスとサムスン電子は半導体標準協会(JEDEC)の規格をはるかに超え、HBM4速度競争を行っている。ところがブラック博士は「メモリー企業がHBMの速度引き上げに集中してはならない」とした。
――それでは何をすべきか
「インターフェース(物理的構造)を変えなければならない。HBMの核心目的は速度を遅らせて複雑度を低くし、電力消費を減らすことだった。ところが速度を高め続けて電力消費と費用が大きくなっている。『若干速くなった次世代DRAM』は興味深くない。真の変化が必要だ」
――メモリーの真の変化とは
「現在の16~32倍まで帯域幅を増やすことができる最適なDRAM構造を見つけ出しそれを可能にする技術を開発しなければならない。業界では10年~15年ごとに衝撃的変化があり、いまそれが必要だ」
顧客は高速HBMを望んでいる。大規模言語モデル(LLM)の大きさが幾何級数的に増えて必要な帯域幅が急騰し、速い解決策は速度を上げることだった。エヌビディアはメモリー3社にHBM4の速度を規格より高めることを要求した。ブラック博士はエヌビディアを名指しはしなかったが、「会社が未来に向けた技術開発を中断することになる理由」をこのように話した。
「本当に大きな顧客を得ることになれば、その顧客が現在望まないことをするのは容易でない。顧客を守るのに全力を使いそれと関係のない技術開発をたたむのだ。そうするうちに顧客が考えを変えて違うものを望む瞬間対応できなくなる。顧客はすぐに離れていき何も残らない。このリスクから自由な会社はない」
◇チップレット、ガラス基板の現在と未来
モトローラ、インテル、AMDのアーキテクターだったブラック博士は3D半導体を研究してチップを積層するパッケージングに深く関与することになった。アーキテクターはコンピュータシステムの最初の段階で「大きな絵」を描くが、パッケージングは半導体製造の最後の段階(後工程)だ。
――パッケージングに関心を持った契機は
「いまは次世代半導体設計よりパッケージングの変化がコンピューティング性能にはるかに大きな影響を与える。CPU設計エンジニアが1000人以上でやってもせいぜい0.5%程度性能が上がるだけだが、チップレット、積層のようなパッケージングを通じて性能が2倍上がったりもする」
チップレットは複雑なチップをレゴブロックのように分けて作り再度組み合わせる技術だ。AMDは2019年からCPU・GPUにチップレットを導入し、エヌビディアは今年出荷したブラックウェル(GB200)に適用した。チップレッツはチップレット設計プラットフォームのスマート基板を開発したが、これはブロックを簡単に入れ替えられる最先端基板だ。
チップレッツの大株主はAMDと世界1位のパッケージング企業ASEで、SKCは2023年にチップレッツの株式10%ほどを取得して戦略的投資家になった。SKCのガラス基板事業子会社であるアブソリックスはチップレッツと密接に協力している。丈夫で熱に強いガラスは複数のチップを細かく配置する上で既存の基板より有利だ。初めてHBMを作ったSKグループとAMDの協力がガラス基盤で再現される格好だ。
――チップレット技術の課題は
「チップレットを適用すれば個別チップの歩留まりが高まりコストも安いが、チップレット同士の通信に追加電力と面積が必要だ。これを克服しなければならない」
――SKCとのガラス基板協力進展は
「新しい試みをしているので完成まで公開しない。SKCのほかにも多くの韓国企業と良い協力を進めている」。
「HBM速度競争ばかりするな」10年後を見ろというHBM設計者(1)
第1世代HBMは、データ伝送速度は遅いがデータ入出力幅(I/O)が広く距離が短かった。例えば、制限速度が時速30キロメートルでも2つの地点の距離を大きく縮めて2車線道路を4車線に拡張したところ交通渋滞が消えた。しかしその後HBMは速度を急激に上げた。HBM4はHBMに比べ幅(I/O)は2倍だが速度は8倍だ(標準規格基準)。
SKハイニックスとサムスン電子は半導体標準協会(JEDEC)の規格をはるかに超え、HBM4速度競争を行っている。ところがブラック博士は「メモリー企業がHBMの速度引き上げに集中してはならない」とした。
――それでは何をすべきか
「インターフェース(物理的構造)を変えなければならない。HBMの核心目的は速度を遅らせて複雑度を低くし、電力消費を減らすことだった。ところが速度を高め続けて電力消費と費用が大きくなっている。『若干速くなった次世代DRAM』は興味深くない。真の変化が必要だ」
――メモリーの真の変化とは
「現在の16~32倍まで帯域幅を増やすことができる最適なDRAM構造を見つけ出しそれを可能にする技術を開発しなければならない。業界では10年~15年ごとに衝撃的変化があり、いまそれが必要だ」
顧客は高速HBMを望んでいる。大規模言語モデル(LLM)の大きさが幾何級数的に増えて必要な帯域幅が急騰し、速い解決策は速度を上げることだった。エヌビディアはメモリー3社にHBM4の速度を規格より高めることを要求した。ブラック博士はエヌビディアを名指しはしなかったが、「会社が未来に向けた技術開発を中断することになる理由」をこのように話した。
「本当に大きな顧客を得ることになれば、その顧客が現在望まないことをするのは容易でない。顧客を守るのに全力を使いそれと関係のない技術開発をたたむのだ。そうするうちに顧客が考えを変えて違うものを望む瞬間対応できなくなる。顧客はすぐに離れていき何も残らない。このリスクから自由な会社はない」
◇チップレット、ガラス基板の現在と未来
モトローラ、インテル、AMDのアーキテクターだったブラック博士は3D半導体を研究してチップを積層するパッケージングに深く関与することになった。アーキテクターはコンピュータシステムの最初の段階で「大きな絵」を描くが、パッケージングは半導体製造の最後の段階(後工程)だ。
――パッケージングに関心を持った契機は
「いまは次世代半導体設計よりパッケージングの変化がコンピューティング性能にはるかに大きな影響を与える。CPU設計エンジニアが1000人以上でやってもせいぜい0.5%程度性能が上がるだけだが、チップレット、積層のようなパッケージングを通じて性能が2倍上がったりもする」
チップレットは複雑なチップをレゴブロックのように分けて作り再度組み合わせる技術だ。AMDは2019年からCPU・GPUにチップレットを導入し、エヌビディアは今年出荷したブラックウェル(GB200)に適用した。チップレッツはチップレット設計プラットフォームのスマート基板を開発したが、これはブロックを簡単に入れ替えられる最先端基板だ。
チップレッツの大株主はAMDと世界1位のパッケージング企業ASEで、SKCは2023年にチップレッツの株式10%ほどを取得して戦略的投資家になった。SKCのガラス基板事業子会社であるアブソリックスはチップレッツと密接に協力している。丈夫で熱に強いガラスは複数のチップを細かく配置する上で既存の基板より有利だ。初めてHBMを作ったSKグループとAMDの協力がガラス基盤で再現される格好だ。
――チップレット技術の課題は
「チップレットを適用すれば個別チップの歩留まりが高まりコストも安いが、チップレット同士の通信に追加電力と面積が必要だ。これを克服しなければならない」
――SKCとのガラス基板協力進展は
「新しい試みをしているので完成まで公開しない。SKCのほかにも多くの韓国企業と良い協力を進めている」。
「HBM速度競争ばかりするな」10年後を見ろというHBM設計者(1)
この記事を読んで…