$NVDA長いピッチは次のとおりです。 ラックのスペースは有限です - これはDCの壁によって制限されますが、主に利用可能な電力量によって制限されます。 そのフットプリントには、独自のチップ、NVDA、場合によっては ASIC を配置できますが、最終目標は販売できるトークン + スプレッドを提供することです。 その TCO には、ラック コスト + 電力 (ラック間で比較すると固定) があります。 したがって、問題は、ラックにいくら支払っているのか、そして耐用年数にわたってどれだけのトークンを吐き出すことができるかということです。NVL72 は、出力トークンで 1.5m トークン/秒、@ 0.40c/百万を実行できます。それが毎年70%圧縮されたとしても、そのラックは3年間でほぼ$26mの収益を生み出します-ラックの$4m、= $22m Jensenが言っているのは、ラックを手放すと、ボックスは推論回転数で$22mを生み出すのに十分なパフォーマンスが得られないということです。フットプリントが無制限であれば、より多くのものをまとめることで、より悪いパフォーマンスを補うことができ(中国が行っていることです)、最終的にはより多くの収益を得ることができます。 1)すべてのラックがトークンの需要によって使い果たされている2)電力に制約がある3)価格がパフォーマンスの低下を補うレベルまで下がることができないと仮定すると、NVDAは長いです。