AI 雲端供應商 Lambda 在 AI 基礎設施高峰會上發布了結果，首次驗證了 NVIDIA DSX MaxLPS 在 NVIDIA Blackwell 伺服器上的效能。
DSX MaxLPS 持續監控 GPU 和機架的耗電量，動態地將可用電力分配到最需要的地方，並回收靜態配置中未使用的容量。由於訓練和推理工作負載的功耗特性不同，MaxLPS 可優化混合工作負載 AI 工廠的電力分配。
結果顯著：Lambda 在通常分配給 16 個全功率節點的相同功率預算下運行了 19 個節點，叢集整體詞元吞吐量提高了 24%——從每秒約 400 萬個詞元提升至 500 萬個詞元——同時每瓦效能提高了 23%。對於下一代 NVIDIA Vera Rubin NVL72 AI 工廠，在合適的部署環境下，DSX MaxLPS 可以在相同的兆瓦預算內實現高達 40% 的 GPU 容量提升。
這意味著 AI 工廠營運商可以在相同的功率範圍內提高 AI 容量和 token 吞吐量，從而最大限度地提高每一兆瓦的生產力和經濟價值。
了解更多關於 Lambda 的研究結果。
9月搞畏獎開跑中，搞畏有獎放送中
現在就加入 ioioTIMES 臉書粉絲團 更多互動、更多好康攏抵加!!
我們有LINE TODAY頻道了，快來追踪我們吧!!--最新科技新聞 盡在你手
