業界動態

Dell AI Factory運用先進冷卻、高密度運算與AI儲存等創新技術，引領資料中心轉型

News 10/17/2024

全新整合式機架、伺服器與儲存升級，以支援高效能AI工作負載

Dell整合式機架 7000 採用具備可擴展性電源管理功能的液冷高密度運算基礎架構
Dell PowerEdge XE9712搭載 NVIDIA GB200 NVL72 平台，鎖定使用於訓練和即時推理大型語言模型（LLM）的最大 AI GPU 叢集
Dell PowerEdge M7725 系統是一款採用直接晶片液冷技術的第 5 代 AMD EPYC，適用於高效能而密集的運算
Dell PowerScale 的進化提升容量、加速 AI 工作負載處理效能，並增進數據提高資料的可發現性
Dell Data Lakehouse 與 Dell Services 簡化用戶存取與管理數據的方式
Dell與 Intel 合作推出的生成式 AI 解決方案，為任何規模的工作負載提供 AI 最佳化解決方案

戴爾科技集團（NYSE: DELL）為 Dell AI Factory 引進全新整合式機架可擴展性系統、伺服器、儲存及數據管理創新技術，以支持高密度運算與大規模 AI 工作負載。

「當前的資料中心無法滿足 AI 需求，因此需要高密度運算，及具備模組化、靈活且效率設計的液冷創新技術，」戴爾科技集團基礎架構解決方案事業群總裁 Arthur Lewis 表示：「這些新系統提供組織在快速發展的 AI 領域中保持競爭力所需的效能。」

以領先冷卻創新技術加速運算未來

Dell Integrated Rack 7000（IR7000）以卓越的密度、更具永續性的電源管理與先進液冷技術以滿足加速運算需求。此款基於開放運算計畫（OCP）標準的機架非常適合大規模部署，並具有適用於多世代與多種不同技術環境，而永不過時的設計。

關鍵亮點：

專為密度而設計，21 吋 Dell IR7000 可支援業界領先的 CPU 和 GPU 密度。
永不過時而高效，該機架配備更寬、更高的伺服器模組化機盒（sled），可容納最新、更大型的 CPU 與GPU架構。此款機架專為液冷技術而設計，可冷卻高達 480KW 的未來部署，且能捕捉近乎 100% 的熱量產生。
提供更大選擇性與靈活性，此款整合式機架式可同時支援戴爾與現成網路。

Dell Integrated Rack Scalable Systems （IRSS）使部署簡單而節能。IRSS 提供針對AI 工作負載優化的創新機架規模基礎架構，採用完全整合隨插即用機架規模系統，使設定過程無縫且高效。

戴爾推出專為Dell IR7000而設計的AI就緒平台：

作為 Dell AI Factory與NVIDIA合作的一部分，Dell PowerEdge XE9712 提供高效能、高密度加速技術，以適用大規模 AI 部署的 LLM 訓練和即時推論。該平台搭載了專為領先業界之 GPU 密度而設計的 NVIDIA GB200 NVL72，在機架規模設計中連接 36 顆 NVIDIA Grace CPU 與 72 顆 NVIDIA Blackwell GPU。72 顆 GPU 的 NVLink 範圍作為單一 GPU 使用，可即時進行高達30倍速度提升的上兆參數LLM推論。液冷式 NVIDIA GB200 NVL72 的效率比氣冷式 NVIDIA H100 Tensor 核心 GPU 高出25 倍。
Dell PowerEdge M7725 提供高效能密集運算，是適合應用於研究、政府、金融科技與高等教育環境中的理想選擇。Dell PowerEdge M7725 專為部署在 IR7000 機架上而設計，透過搭載第 5 代 AMD EPYC CPU 的 64 或 72 個雙插槽節點，在每個機架間提升服務能力，計算核心可達 24K-27K。前置 IO 插槽支援高速 IO 連接，為需求較高的應用提供無縫連接。此款伺服器的節能外型可透過針對 CPU 的直接液冷技術（DLC），以及快速連接至整合式機架的氣冷技術，達到更永續的部署。

20241017 dell01 — ▲Dell PowerEdge XE9712

AI時代的非結構化儲存與數據管理創新技術

戴爾非結構化數據儲存產品組合創新技術可以提高 AI 應用程式的效能，且能輕鬆簡單地管理全球數據。

Dell PowerScale 是全球首款通過 NVIDIA DGX SuperPOD 認證的乙太網路儲存設備，提供的全新更新項目可以增強數據管理策略、提高處理工作負載效能，以及提供更強大的支援，以處理 AI 工作負載。¹

更強大的可發現性：利用 PowerScale 中繼資料和 Dell Data Lakehouse 取得寶貴的數據見解內容，以更快做出更明智的決策。即將推出適用於NVIDIA NeMo 服務與 RAG 框架的 Dell 開源文件載入器，旨在協助客戶縮短擷取數據的時間與降低運算和 GPU 成本。
更密集的儲存空間：客戶可以使用全新 61 TB 容量的硬碟機，透過更大的數據集訓練和微調其 AI 模型，以增加容量與效率，同時將資料中心儲存裝置佔用的空間減少一半。²
提高 AI 效能：由前端 NVIDIA InfiniBand 功能和 200 GbE 乙太網路介面卡支援，提高處理 AI 工作負載的效能，最高可以將輸送量提升 63%。³

客戶可以透過 Dell Data Lakehouse 數據管理平台新增的各項強大功能，利用災難復原、自動模式發現、全面管理 API 和自助全堆疊升級等新功能，節省時間及提升營運成果。

客戶可以透過 Optimization Services for Data Cataloging 和 Implementation Services for Data Pipelines 兩項服務，簡化數據驅動的旅程，以及快速擴充其 AI 和商業使用範例。這些服務透過發現、整理、自動化和整合，提高了存取優質資料的能力。

Dell與Intel合作，開發具現代化工作流程的生成式AI解決方案

Dell 與 Intel 合作開發的生成式 AI 解決方案提供聯合設計、測試和驗證的平台，做為 Dell AI Factory 的一部分，以完美部署 AI。這些預先配置、靈活及高效能的解決方案配備了 Dell PowerEdge XE9680 與 Intel®Gaudi®3 AI 加速器，並搭載 Dell 儲存設備、網路、服務和開源軟體堆疊，可以支援一系列生成式 AI 的使用範例，包括內容創作、數位助理、設計與數據創作、程式碼生成等。