NVIDIA、DSXでAI factoryのtokens per watt最適化を提示
NVIDIAはDSX platformでAI factoryのcompute、networking、power、cooling、operationsを統合設計する考え方を示しました。Lambda検証では同じ電力枠でcluster-wide token throughputが24%増えたと説明しています。
公式発表を読むNVIDIAはDSX platformでAI factoryのcompute、networking、power、cooling、operationsを統合設計する考え方を示しました。Lambda検証では同じ電力枠でcluster-wide token throughputが24%増えたと説明しています。
公式発表を読む