G593 AI旗艦伺服器再升級,顯著提升記憶體頻寬與卓越效能
在生成式人工智慧與科學運算的發展之下,大規模數據集的需求日益增加,領先業者無不盼以強大算力驅動科技。因應客戶的需要,做為生成式人工智慧伺服器與先進冷卻技術領導者,技嘉科技子公司技鋼科技推出兩款新的 8-GPU 伺服器,這些伺服器支援 NVIDIA HGX™ H200 平台,該平台非常適用於大型 AI 數據集、科學模擬及其他高記憶體需求等工作負載。
適用於AI與高效能運算的G593 AI旗艦伺服器
G593 AI 旗艦伺服器系列在 GPU 冷卻的設計上獨占鰲頭,在緊湊的 5U 機箱中實現穩定且高要求的效能,並提供強大的氣流以解決驚人運算密度所帶來的熱能。
NVIDIA H200 Tensor 核心 GPU 與禁得起考驗的 GIGABYTE G593 8-GPU 基板伺服器系列完美結合。相較於 NVIDIA H100 Tensor 核心 GPU,NVIDIA H200 GPU 在記憶體容量和頻寬上有顯著提升,具高達 141GB 的 HBM3e 記憶體和 4.8TB/s 的記憶體頻寬,分別增加了 1.7 倍的記憶體容量和 1.4 倍的吞吐量。
新款技嘉GPU AI旗艦伺服器
- G593-SD1-AAX3:支援第 5 代Intel® Xeon® 可擴充處理器
- G593-ZD1-AAX3:支援 AMD EPYC™ 9004 系列處理器,多達 96 個 CPU 核心
透過精密的調整與設計,除了 CPU 平台之外,這些新款伺服器有著類似的佈局和規格,以適應加速運算的各種應用需求。這些伺服器將列在 NVIDIA 合格系統目錄中,更包括先前四款已通過 NVIDIA 認證系統™的 G593 AI 旗艦伺服器系列,有極佳的功能性與效能表現。
G593 AI 旗艦伺服器系列具備高水準的網路和儲存能力。支援最多 8 個 U.2 Gen5 NVMe SSD,該系列可以使用 NVIDIA GPUDirectⓇ Storage(NVIDIA Magnum IO™技術之一)快速處理數據,實現從 GPU 記憶體到儲存的直接路徑,提升頻寬且降低延遲。為了連接叢集中的其他伺服器或進行資料中心外的數據傳輸,提供了 12 個擴展插槽,支援透過 NIC 或 DPU 進行 NVIDIA InfiniBand 或乙太網路連接。此外,更配置了 4+2 3000W 冗餘電源,提供充足的電力和可靠的持續運行。
GIGAPOD:機架級整合解決方案
近期 AI 帶來科技的飛速進步,從企業到學術界都在引頸期盼最新發展,大型運算叢集的設計對人工智慧的發展就顯得至關重要。技嘉自去年推出了其機架級解決方案 GIGAPOD,並使用 NVIDIA HGX 系統的部署大獲成功。目前,GIGAPOD 均使用 G593 AI 旗艦伺服器系列來整合 NVIDIA HGX H100。隨著產品線擴展支援至 NVIDIA H200 GPU,GIGAPOD 將幫助客戶實現更高的效能和效率,大舉加速運算流程。