エヌビディアが10-12月期に発売される次世代人工知能(AI)半導体から液体冷却を本格的に導入する。AIサーバーの学習・推論過程で発生する熱を、液体を使って冷ますということだ。これまではエアコンから出る冷たい空気を利用してサーバーの熱を冷ます空冷式冷却が主に活用されていた。
IT業界によると、エヌビディアは25日から開かれる半導体カンファレンスで、既存の空冷式に液体冷却を加えた新しい冷却方式を公開する予定だ。サーバーに温水を通過させて熱を冷ます方法が有力だ。エヌビディアは新しい冷却方式が電力消費を最大28%まで減らすとみている。AI半導体市場の90%近くを占めたエヌビディアが本格的に液体冷却方式を導入しサーバー市場にも地殻変動が予想される。
最近AIインフラが爆発的に増えデータセンターの電力要求が増加していることから、空気で熱を冷ます方式は限界に達した。データセンターの最適温度は20~25度だが、使用電力のうち半分近くがサーバーの発熱を抑えるのに使われる。液体は空気より熱吸収量が3000倍以上多く、データセンターの冷却効率が高いほど性能をさらに引き上げることができる。
水を主要冷媒に活用し水冷式冷却とも呼ばれるが水以外の他の液体を使うケースが増え最近は液体冷却という表現が次第に定着する傾向だ。ゴールドマン・サックスは2026年までにサーバー全体で液体冷却の割合が57%まで高まると予想した。
◇AIは熱との戦い
AIデータセンター運営は莫大な電力を消費する。米スタンフォード大学が昨年発表した報告書によると、オープンAIのチャットGPTと40回前後の質問と回答が含まれた対話をするたびにデータセンターで発生する熱を解決するためにミネラルウォーター1本分の500ミリリットルに相当する水が必要なものと試算された。
半導体業界では電気を通さない冷却油にサーバーをまるごと漬けて熱を冷ます液浸冷却も研究中だ。ただこのためはサーバー設計を全部変えなければならない。エヌビディアは現在のサーバー規格を変えずに液体冷却を部分的に導入する方式を検討中という。
◇サーバー冷却方式まで「標準」作るエヌビディア
サーバー冷却技術は主にデータセンターを運用するグーグル、マイクロソフト、アマゾンや、サーバー製造企業の担当だった。半導体業界関係者は今回のエヌビディアの発表に対し「これからは冷却方式をはじめとするAIサーバーの標準をエヌビディアが主導するという戦略」と評価した。エヌビディアは3月に新型AIチップ「ブラックウェル」を公開し、チップ単品ではなくAIサーバー完成品まで丸ごと販売するという方針を公開している。これに加え、これからは冷却装置まで含んだエヌビディアのAIサーバー完成品を供給すると宣言する格好だ。
これに対し業界では相当数のサーバーメーカーとデータセンター運営会社もやはりエヌビディアが提案した液体冷却方式に従う可能性が大きいとみる。エヌビディア関係者は「ブラックウェルは単純なグラフィック処理装置(GPU)ではなくひとつのAIプラットフォーム」と話した。
◇SKとLGも挑戦
世界のデータセンターの液体冷却市場は2030年に160億ドルまで拡大すると予想される。液体冷却設置費用は空冷式より3倍以上高いという。今後サーバー性能と用途により空冷式と液体・液浸冷却などに冷却方式が多様化するだろうという見通しが出ている。
韓国企業も発熱するAIサーバーのため冷却市場に参入している。LGエレクトロニクスはデータセンターの熱を冷ますのに活用される超大型冷却器のチラー事業で3年以内に年間売り上げ1兆ウォンに挑戦する。SKイノベーションの潤滑油子会社であるSKエンムーブは冷却油を活用したデータセンター液浸冷却ソリューションを下半期に発売する予定だ。
IT業界によると、エヌビディアは25日から開かれる半導体カンファレンスで、既存の空冷式に液体冷却を加えた新しい冷却方式を公開する予定だ。サーバーに温水を通過させて熱を冷ます方法が有力だ。エヌビディアは新しい冷却方式が電力消費を最大28%まで減らすとみている。AI半導体市場の90%近くを占めたエヌビディアが本格的に液体冷却方式を導入しサーバー市場にも地殻変動が予想される。
最近AIインフラが爆発的に増えデータセンターの電力要求が増加していることから、空気で熱を冷ます方式は限界に達した。データセンターの最適温度は20~25度だが、使用電力のうち半分近くがサーバーの発熱を抑えるのに使われる。液体は空気より熱吸収量が3000倍以上多く、データセンターの冷却効率が高いほど性能をさらに引き上げることができる。
水を主要冷媒に活用し水冷式冷却とも呼ばれるが水以外の他の液体を使うケースが増え最近は液体冷却という表現が次第に定着する傾向だ。ゴールドマン・サックスは2026年までにサーバー全体で液体冷却の割合が57%まで高まると予想した。
◇AIは熱との戦い
AIデータセンター運営は莫大な電力を消費する。米スタンフォード大学が昨年発表した報告書によると、オープンAIのチャットGPTと40回前後の質問と回答が含まれた対話をするたびにデータセンターで発生する熱を解決するためにミネラルウォーター1本分の500ミリリットルに相当する水が必要なものと試算された。
半導体業界では電気を通さない冷却油にサーバーをまるごと漬けて熱を冷ます液浸冷却も研究中だ。ただこのためはサーバー設計を全部変えなければならない。エヌビディアは現在のサーバー規格を変えずに液体冷却を部分的に導入する方式を検討中という。
◇サーバー冷却方式まで「標準」作るエヌビディア
サーバー冷却技術は主にデータセンターを運用するグーグル、マイクロソフト、アマゾンや、サーバー製造企業の担当だった。半導体業界関係者は今回のエヌビディアの発表に対し「これからは冷却方式をはじめとするAIサーバーの標準をエヌビディアが主導するという戦略」と評価した。エヌビディアは3月に新型AIチップ「ブラックウェル」を公開し、チップ単品ではなくAIサーバー完成品まで丸ごと販売するという方針を公開している。これに加え、これからは冷却装置まで含んだエヌビディアのAIサーバー完成品を供給すると宣言する格好だ。
これに対し業界では相当数のサーバーメーカーとデータセンター運営会社もやはりエヌビディアが提案した液体冷却方式に従う可能性が大きいとみる。エヌビディア関係者は「ブラックウェルは単純なグラフィック処理装置(GPU)ではなくひとつのAIプラットフォーム」と話した。
◇SKとLGも挑戦
世界のデータセンターの液体冷却市場は2030年に160億ドルまで拡大すると予想される。液体冷却設置費用は空冷式より3倍以上高いという。今後サーバー性能と用途により空冷式と液体・液浸冷却などに冷却方式が多様化するだろうという見通しが出ている。
韓国企業も発熱するAIサーバーのため冷却市場に参入している。LGエレクトロニクスはデータセンターの熱を冷ますのに活用される超大型冷却器のチラー事業で3年以内に年間売り上げ1兆ウォンに挑戦する。SKイノベーションの潤滑油子会社であるSKエンムーブは冷却油を活用したデータセンター液浸冷却ソリューションを下半期に発売する予定だ。
この記事を読んで…