NVIDIA DSX協助歐洲企業將冷卻用水量最高減少100%,並以節省高達30%的電力達到相同AI輸出
- NVIDIA DSX 參考設計採用閉環液冷與乾冷卻器,使設施冷卻用水量接近為零。以 20 億瓦(2 GW)的部署規模計算,每天可節省 5,400 萬公升用水,相當於 18 萬戶家庭的每日用水量。
- 歐洲的 AI 雲端正在打造及營運以 NVIDIA DSX 為基礎的 AI 工廠,讓該地區的企業、開發人員與政府能更容易取得加速運算資源。
- NVIDIA DSX MaxLPS 軟體可協助營運商在產生相同數量詞元(Token)的情況下,節省高達 30% 的電力,CoreWeave、Firmus、Google Cloud、IREN、Lambda、Nebius、Nscale 與 Sharon AI 計畫採用此技術;而 DSX Flex 軟體則可將 AI 工廠轉變為彈性的電力負載,以支援電網的可靠性並加速電網連接。
- NVIDIA SimReady Central 是實體設備數位模型模擬就緒的中心,現已在 Hugging Face 上推出,配備經過驗證的電力與冷卻資產,協助營運商更快地打造和模擬 DSX AI 工廠數位孿生。
- 全新的 NVIDIA DSX OS 開源軟體可自動化基礎設施生命週期,強化健康狀態自動化以及韌性能力,協助營運商大規模營運 AI 工廠。
- 持續擴大的生態系,包括科技與工業AI領導廠商AVEVA、達梭系統與西門子,以及能源與冷卻供應商 ABB、伊頓、GE Vernova、日立永續能源、施耐德電機、西門子能源、特靈科技與維諦,正連結 AI 工廠設計、電力、冷卻與營運支援歐洲的加速運算建設。
NVIDIA 今日宣布,歐洲領先的生態系合作夥伴正採用 NVIDIA DSX™ AI 工廠平台,打造能將冷卻用水消耗量降至最低,並以更少電力達到相同 AI 輸出的 AI 工廠。該平台也協助合作夥伴讓新產能更快上線,並調整工作負載能耗,以支持電網可靠性。
NVIDIA DSX 是一款與全球領先基礎設施公司共同創新的全端 AI 工廠參考架構。該架構透過協同設計,將運算、網路、儲存、軟體、電力及冷卻整合為單一系統,實現從設計到營運的最佳化。
AI 雲端與領先的設計、建築、能源與冷卻供應商正利用 DSX 打造和營運基礎設施,服務歐洲的企業、開發人員與政府。
NVIDIA DSX 產品管理副總裁 Warren Barkley 表示:「歐洲的技術領導地位,取決於我們能以多高的效率將電力與基礎設施轉化為智慧。NVIDIA DSX 匯集營運商所需的技術與生態系專業知識,協助營運商負責任地建構、實現大規模高效營運,並加速將智慧推向市場。」
NVIDIA DSX 平台包含用於動態電力分配的 DSX MaxLPS™ 、用於協調工作負載用電與電網狀況的 DSX Flex、用於經驗證的基礎設施架構的 DSX Reference Design、用於模擬的 DSX Sim™、用於基礎設施管理的 DSX OS™,以及用於連接運算與設施系統的 DSX Exchange™。這些技術協助營運商設計、部署及營運 AI 工廠,進而節省寶貴的資源。
NVIDIA DSX重新構思冷卻設計
傳統冷卻塔透過蒸發水來移除熱量,需要持續供應補充用水。NVIDIA DSX 參考設計將液冷運算與乾式冷卻器的散熱技術連接起來,避免蒸發:冷卻液體從運算設備吸收熱量並在閉環中循環,而室外乾冷卻器,類似於大型散熱器,將熱量釋放至空氣中而不蒸發水。
NVIDIA Vera Rubin 基礎設施支援 100% 液冷,冷卻液溫度最高可達攝氏 45 度。透過以乾式冷卻器為基礎的設計,該架構可將設施的冷卻用水量降至趨近於零。在 20 億瓦規模下,與傳統冷卻水塔系統相比,NVIDIA DSX 每天可節省 5,400 萬公升用水,相當於 18 萬戶家庭的每日用水量。在最炎熱的時段是否需要輔助機械冷卻,則取決於當地氣候條件。
以更低耗電量提供相同的AI輸出
可用電力決定營運者能上線多少容量。DSX MaxLPS 與 DSX Flex 則解決了此限制。
DSX MaxLPS 在 AI 工廠既定的電力預算內動態分配電力,協助營運商節省高達 30% 的電力,同時產生相同數量的詞元。營運商也可以利用這種效率,在現有電力預算內,支援更高的 GPU 容量與更高的輸送量。 CoreWeave、Firmus、Google Cloud、IREN、Lambda、Nebius、Nscale 與 Sharon AI 正在探索該軟體。
在搭載 DSX MaxLPS 的 NVIDIA HGX™ B200 系統的概念驗證中,Lambda 在固定能耗預算下展示了增加 24% 的叢集詞元輸送量以及增加 19% 的 GPU 容量。
透過電網協調AI工廠的電力需求
DSX Flex 協助 AI 工廠成為電網的彈性資產,使營運商能夠根據公用事業需求、需求回應事件與能源價格調整工作負載能耗。它還能夠協調來自電網、現場可再生能源與能源儲存的電力,協助 AI 工廠作為彈性電力負載運作,支援電網可靠性並實現更快的電網連線。
在早期試驗中,Emerald AI、美國電力研究院(EPRI)、Nebius、英國國家電網公司(U.K. National Grid)和 NVIDIA 證明,回應模擬電網事件時,NVIDIA Blackwell Ultra GPU 叢集的功率需求最多可降低 40%,同時關鍵工作負載仍持續運作。
Nscale透過NVIDIA DSX提升AI工廠效率
透過 DSX MaxLPS、DSX Flex 與 DSX Sim,Nscale 正展示 NVIDIA DSX 平台如何連接電力最佳化、電網響應式運作與設計。
根據在冰島 Nscale AI 工廠進行的評估,透過在四個 NVIDIA GB300 NVL72 機架上使用 DSX MaxLPS,Nscale 在相同的 264 千瓦預配電力預算內,展示出推論輸送量提高了 49%,且可管理的 GPU 容量提升了 37%。這些結果展示了動態電力分配如何透過現有基礎設施釋放額外的容量。
Nscale 也正在探索 DSX Flex,讓工作負載能耗與電網狀況保持一致。
Nscale 創辦人暨執行長 Josh Payne 表示:「歐洲的 AI 願景要求我們做到每百萬瓦都發揮價值。透過 NVIDIA DSX,我們正在打造 AI 工廠,從可用電力提供更多運算、對電網狀況作出回應,並加快從設計到部署的速度。」
Nscale 正為其在葡萄牙與冰島的設施,運用 DSX Sim 打造數位孿生,以協助在部署前評估電力、散熱與基礎設施配置。透過虛擬化驗證設計,Nscale 可及早發現潛在問題、降低部署風險,並加速從規劃階段到實現生產能力的過程。
使用DSX Sim與SimReady Central Library加速AI工廠設計
NVIDIA 正推出 SimReady Central Library,提供經過維諦等合作夥伴驗證的電力與冷卻設備資產,加速 DSX AI 工廠數位孿生的創建。
透過與 DSX Sim 一起使用,包括 PTC 在內的生態系合作夥伴正透過電腦輔助設計協助建立這些模擬就緒資產,以實現 SimReady 工作流程,讓建築商在設備安裝之前,對基礎設施配置進行建模,並評估電力與冷卻決策。營運商可提早驗證設計、降低部署風險,並加速從規劃到施工的進展。
透過NVIDIA DSX OS推動生產就緒
為協助營運商將安裝的基礎設施轉化為生產能力,NVIDIA 正擴展其模組化、開源 DSX OS 產品組合,包括開發人員預覽版中的三款元件:
- NVIDIA Config Manager 可自動執行 AI 工廠網路配置。
- NVIDIA Rack Management Service 提供機架級的電力、庫存、韌體與交換器管理。
- NVIDIA Cluster Readiness Engine 執行分散式工作負載,在生產工作負載到達之前驗證 GPU 叢集,並隔離特定節點的故障。
結合 NVIDIA Infrastructure Controller、NVIDIA AI Cluster Runtime 與 NVSentinel,這些元件可協助營運商自動化基礎設施生命週期管理、維持一致的執行階段環境,並強化健康運作狀態驗證、故障歸因與復原。
Aleria、Cassava、CoreWeave、Crusoe、Firmus、Firebird、G42、GMI Cloud、IREN、Lambda、Nebius、Nscale、Radiant、Sharon AI與 Volta 等雲端合作夥伴,正探索 NVIDIA DSX OS 的最新元件,以自動化基礎架構生命週期管理,並提升韌性與可靠性。
連接歐洲AI工廠生態系的設計、電力與冷卻
NVIDIA 的工業軟體、電力與冷卻合作夥伴正透過 DSX 參考設計、生命週期數位孿生以及將場所基礎設施與加速運算連接起來的合格設備,推動歐洲的 AI 工廠建設。
- 施耐德電機已為 NVIDIA Vera Rubin 基礎設施開發電力與散熱參考設計,並正與 AVEVA 合作開發涵蓋基礎設施設計、施工與營運的數位孿生。
- Procore 正透過其與 DSX Sim 整合的建築管理平台,協助管理 AI 工廠建設。
- 西門子正使用 DSX Sim 模擬電力、冷卻與聲學,而達梭系統與維諦則正在為維諦的 OneCore 基礎設施開發數位孿生模型,透過模型化系統工程進行模擬與最佳化。
- ABB 正運用 NVIDIA DSX Sim 開發 SimReady 資產,讓工程師能在施工前評估從電源端到機櫃的架構,同時透過新發表的 Infinitus Direct Current 產品組合,推進 800 VDC 技術開發。
合作夥伴也正在提供符合 DSX 參考設計的協調電力與冷卻基礎設施。特靈科技和伊頓近期與 NVIDIA 合作,透過專為 NVIDIA Vera Rubin DSX AI Factory參考設計打造的整合式設計,協助提升資料中心效率並降低安裝成本。該設計將伊頓的 Beam 平台與電力基礎設施以及特靈 Continuum 冷卻與協調控制,整合至電網到晶片(grid-to-chip)架構中。特靈科技已發布七款熱管理系統參考設計,其中包括三款 250 百萬瓦 DSX 散熱參考設計,以支援大規模散熱基礎設施規劃。
透過 NVIDIA DSX Ready 計畫,建置業者可選擇符合適用 DSX 類別資格的設備。特靈科技的 LiquidStack GigaModular 與維諦的 2.3 百萬瓦 CoolChip(兩者皆為冷卻液分配裝置)已取得其適用類別的認證,而日立永續能源的電池儲能系統則已獲得 NVIDIA DSX Ready BESS 認證。
能源供應與電網整合方面,GE Vernova、日立永續能源與西門子能源正與 NVIDIA 合作,共同開發電力基礎設施與數位孿生計畫,根據設施需求連接能源系統工程與電網規劃。日立永續能源正在開發其能源管理系統與 DSX Flex 之間的整合,將電網、發電與儲存資源與工作負載需求最佳化。
歡迎觀看 NVIDIA 創辦人暨執行長黃仁勳在 GTC Berlin 的主題演講,並探索更多議程。
現在就加入 ioioTIMES 臉書粉絲團 更多互動、更多好康攏抵加!!
我們有LINE TODAY頻道了,快來追踪我們吧!!--最新科技新聞 盡在你手
















