まず「何が足りないのか」から

AIの計算には、GPUという計算用の部品をたくさん並べた設備が使われます。NVIDIAはこうした設備を「AIファクトリー」と呼んでいます。工場が原料を製品に変えるように、電力を「トークン」（AIが読み書きする文字の単位）に変える工場、というたとえです。

少し前まで、設備の規模を決めていたのは「GPUを何台買えるか」でした。GPUは高価で、品薄でもあったからです。ところがいまは、もう一つの上限が先に効いてきています。電力です。

大きなデータセンターを建てるには、電力会社から受け取れる電力の枠（何メガワットまで、という契約や送電の上限）が必要です。この枠は、お金を積んでもすぐには増やせません。送電線や変電設備を新しく作るには年単位の時間がかかるからです。元記事は、こうした「土地・受電できる電力・建物と設備の器」をまとめてサイトの上限と捉え、その上限の中でどれだけAIの出力を出せるかが勝負だ、という立場をとっています。

家庭で言えば、ブレーカーの容量がすでに決まっている家を想像してください。家電をいくら買っても、同時に使える電力はブレーカーで決まります。だとすれば、比べるべきは「家電の値段」より「同じ電力で、どれだけの仕事をしてくれるか」です。AIインフラで起きているのは、これと同じ話です。

受け取った電力は、全部が計算に使われるわけではない

もう一つ大事なのは、受電した電力のすべてがGPUの計算に回るわけではない、という点です。冷却装置、電源の変換で生じる損失、ネットワーク機器、ストレージ、照明などにも電力は使われます。

元記事は代表的な例として、100メガワットの施設のうち、計算そのものに使われるのは約60％にとどまるという内訳を示しています。残りは施設側の負担、ラック内での損失、運用上のムダに消えるという見立てです（ただし、元記事自身が「代表的な一例」と断っている数字です）。

データセンターの世界には、この「余計な分」を表す指標として PUE（Power Usage Effectiveness、電力使用効率）があります。施設全体で使った電力を、IT機器が使った電力で割った値で、国際規格 ISO/IEC 30134-2 で定義されています。1.0に近いほど、冷却などの付帯設備に使う電力が少ないことを意味します。たとえばPUEが1.5なら、IT機器が1使うごとに、付帯設備がさらに0.5使っている計算です。

「1Wあたりの性能」は何で測るのか

ここで本題の「1Wあたりの性能（performance per watt）」です。「性能」の中身は、何に使うかで変わります。

• 学習（AIモデルを作る作業）なら、一定の電力でどれだけ計算を進められるか。
• 推論（できたモデルに質問して答えを出させる作業）なら、1秒あたりに出せるトークン数を、使った電力で割った値。元記事も、推論ではこの「トークン毎秒毎ワット」で効果を測れるとしています。

ポイントは、GPU単体のカタログ値ではなく、実際のアプリケーションを動かしたときの値で測ることです。同じGPUでも、設定や処理の組み方しだいで、同じ電力から出てくるトークンの量は大きく変わります。

なぜ経営の数字に直結するのか

ここまでくると、経営の数字とのつながりが見えてきます。

電力の枠が固定されているなら、その施設が1秒間に出せるトークンの上限は、ざっくり次の掛け算で決まります。

計算に回せる電力 × 1Wあたりのトークン生成速度 ＝ 施設全体のトークン生成速度

そして推論を売る事業では、トークンを売ることが売上です。

施設全体のトークン生成速度 × 稼働率 × トークンの単価 ＝ 売上

つまり、電力の上限が動かせないとき、1Wあたりの性能が上がることは、そのまま売上の上限が上がることを意味します。逆に、電気代は使った電力量に比例してかかるので、同じ電力でトークンを多く出せれば、トークン1つあたりの原価も下がります。売上の天井が上がり、原価が下がる。両方に効くので「経営の数字に直結する」と言われるわけです。

NVIDIAは別の技術ブログでも、性能あたりの電力効率を「電力が、収益を生む知能に変わる速さ」と位置づけ、AIインフラの決定的な指標だと述べています。メーカーの主張なので割り引いて読む必要はありますが、考え方の骨格は上の掛け算と同じです。

元記事が紹介する「MaxLPS」とは

元記事は、この1Wあたりの性能を施設全体で引き上げるための枠組みとして、NVIDIAの DSX MaxLPS を紹介しています。公式ドキュメントによれば、MaxLPSは施設の設計、電力を配り直すソフトウェア、GPU側の省電力の工夫を組み合わせ、決まった電力予算の中で1Wあたりの性能を最大にするための設計と運用の考え方です。中身は大きく3つに分けられます。

1. 余っている電力を、必要なところに回す。 従来は、ラック（GPUサーバーを収めた棚）ごとに「最大でこれだけ使うかもしれない」という電力をあらかじめ確保していました。しかし実際には、全ラックが同時に最大まで使うことはまれです。確保したのに使われない電力は、ほかに回せないまま眠ってしまいます。元記事はこれを「座礁した（stranded）電力」と呼んでいます。

MaxLPSの中心にある Dynamic Power Software（DPS）は、GPUやラックごとの消費電力を数秒おきに監視し、余っている分を、電力を必要としているGPUへ配り直します。施設全体の上限は守ったまま、眠っていた電力を起こして使う、という発想です。元記事の例では、こうして浮いた電力でラックをもう1台追加できる様子が示されています。

2. 仕事の種類に合わせて、GPUの設定を変える。 推論か学習か、メモリの読み書きが多い処理か計算が多い処理かによって、最適な電力や動作周波数の設定は違います。MaxLPSでは、こうした仕事の種類ごとに検証済みの設定（プロファイル）を用意し、まとめて適用します。元記事によれば、既存世代のラックでの検証では、ラックあたりの電力を2〜3割下げながら同等のスループットを保ち、同じ電力で置けるラックの数を3〜4割増やせたとしています。

3. 冷却に使う電力を減らす。 次世代のラックは、45℃の温水で冷やす前提で設計されています。冷却水の温度が高くてよいなら、外気で冷やせる時間が増え、電力を多く使う冷凍機（チラー）に頼る場面が減ります。冷却のために確保していた電力の一部を、計算に回せるようになるというわけです。

数字の読み方には注意が要る

元記事は、こうした工夫を組み合わせることで、同じ電力の施設に置けるGPUを「最大40％」増やせると見込んでいます。ただしこれは予測値で、実測ではありません。公式ドキュメントでも、同じ施設内の推論シナリオでのスループット向上は「試験が進行中」とされています。また、元記事の本文と図の説明で、検証に使ったラックの機種名が食い違っている箇所もありました。メーカーが自社製品を紹介する記事なので、数字は「条件がそろえば、ここまで行く可能性がある」と読むのが妥当だと思います。