タグ

serverとllmに関するkaorunのブックマーク (1)

  • NVIDIAの600kW怪物サーバー、発熱にベンダーはお手上げ 冷却は独自開発か

    「ラック当たりの電力は600kWです」 思わず耳を疑った。米NVIDIA(エヌビディア)のJensen Huang(ジェンスン・ファン)CEOは、2027年後半に市場投入する次世代AI人工知能)サーバー「NVL576」の驚くべき仕様をさらりと紹介した。サーバーラック当たりの消費電力が600kWに達するという。 電話ボックスの中で600台のヘアドライヤーが一斉に稼働するようなものだ。ざっと計算してみたが、ラック内の空気温度が1秒で250℃以上上昇する。この膨大な熱を、一体どうやって冷やすというのだろうか。 水冷でも足りない ある大手サーバーベンダーの担当者は、「正直言ってどう冷やしたらいいか見当もつかない」と、お手上げ状態だ。空冷の限界がおよそ45kWとされるため、より効率的な液冷方式の採用が必須になるだろう。しかし、600kWともなると「冷却水の流量を増やしたり、温度を下げたりすれば解決

    NVIDIAの600kW怪物サーバー、発熱にベンダーはお手上げ 冷却は独自開発か
  • 1