散熱更快、密度最高！採用Intel Xeon架構的NVIDIA HGX H100系統
高性能伺服器與工作站領導品牌技嘉科技，集團旗下子公司技鋼科技今天宣布推出新款 AI 伺服器 — G363-SR0 與 G593-SD2；支援第四代 Intel Xeon 可擴充處理器與 NVIDIA HGX H100 的 4-GPU 和 8-GPU。考量到最佳性能與散熱效率，G363-SR0 能輕鬆排解多 GPU 運算下產生的高功耗熱能；G593-SD2 則為標準氣冷機種，兩款伺服器都展現了各自尺寸中最高的 GPU 算力。
未來，我們亦將針對 NVIDIA 近期發表的 L40S 運算卡進行相容性測試，該 GPU 適用於多用途工作負載，例如 3D 繪圖、影像渲染、虛擬化工作站、影像串流加速，以及炙手可熱的人工智慧訓練等。同時亦積極進行以工作站工作負載導向設計的 NVIDIA Ada Generation 運算卡做相容性測試。
G363-SR0：直接液體冷卻
為了更高的效能，需要採用更創新的解決方案。G363 採用直接液體冷卻（DLC）設計，藉由搭載在處理器與 GPU 上方的直接液體冷卻模組，能迅速將熱能從 2 個 Intel Xeon 處理器和 4 顆 NVIDIA GPU 模組中帶走。3U 高度的 G363-SR0 提供了超乎理想的運算效能，伺服器共有 8 個 2.5 吋插槽，支援 Gen5 NVMe/SATA/SAS 藉以提供快速的 IO 傳輸。網路連接部分提供 6 個 PCIe 5.0 low-profile 擴充槽。系統供電則配備了 2 + 1 的冗餘電源配置，使用 3000W 的鈦金電源。
資料中心的電力消耗問題正逐步造成全球環境議題，為了減緩此困境，開發突破傳統氣冷技術中配置大量風扇與空間散熱的替代方案成為趨勢。直接液體冷卻技術是讓運轉中的 CPU 或 GPU 等零組件，透過導熱銅片（或稱「冷板」）將熱能傳導到冷卻液，冷卻液沿著封閉式的迴流管線帶出伺服器，通過冷卻液分配裝置將熱能排出資料中心。與傳統氣冷系統相比，DLC 技術不僅能維持高效運算，不必額外增設冷卻基礎設施，還能節省更多的能源，從而降低總成本、營運費用並提高投資報酬率。
G593-SD2：高密度8 GPU系統
近期人工智慧訓練和密集運算工作負載需求不斷上升，技嘉 G593 系列以能處理頂尖的 GPU 加速運算，並可在 5U 機身中搭載 8 顆 NVIDIA H100 SXM5 GPU 的領先技術而聞名。G593 整體結構被分為上下兩部分，上方 1U 支援 Intel Xeon 雙處理器，技嘉以最高密度的配置，在下方 4U 空間放入相較業界減少 1~3U 空間的 8 顆 NVIDIA H100 SXM5 GPU 模組，集中散熱區域的溫控與耗電量，呈現最佳的散熱效益與低能耗。
技鋼的研發團隊擁有高度彈性與機動性，依據市場需求對產品做滾動式微調，G593-SD2 便是在這個情況下誕生的！有別於 G593-SD0 在機箱後方上排保留數個 low-profile 擴充槽的空間。在新的 SD2 機箱中以用於 NVIDIA BlueField DPUs 的 FHHL 擴充槽取代。這個小小的改變讓 G593-SD2 能運用多個 BlueField 資料處理器來加速資料傳輸以及高效能與高效率的工作負載，並確保伺服器中至關重要的資訊安全議題。G593-SD0 與 G593-SD2 皆可為生成式人工智慧或高效能運算應用帶來令人驚豔的超算力。
加速器支援
本週 NVIDIA 為其龐大的 GPU 產品線再增添了 4 款新的加速器生力軍，特別著重在運算與虛擬化領域，技鋼時時做好準備，持續不斷為新款加速器進行相容性認證，確保搭載於技嘉伺服器的效能表現，讓客戶得以快速部屬啟用。
基於 NVIDIA Ada Lovelace 架構的 NVIDIA L40S GPU，號稱是資料中心前所未見最強大的通用 GPU，可實現突破性的多工作負載效能，從生成式人工智慧和大型語言模型推論與訓練、3D 繪圖、渲染和動態影像加速。
新公布工作站工作負載導向的 NVIDIA RTX Ada Generation 運算卡，針對不同專業領域的用戶，提供高效能、即時光線追蹤、人工智慧運算和先進的繪圖渲染。基於 Ada 架構的 RTX 5000、RTX 4500 和 RTX 4000 GPU 採用 PCIe Gen4 x16 規格，支援如 NVIDIA GPUDirect 和 NVIDIA GPUDirect RDMA 等技術，可加速影像運算，並實現系統間更快更高效的數據傳輸。
技嘉科技今日宣布了強大的 GPU 解決方案，接下來亦將有更多支援先進液冷技術的 GPU 模組伺服器。降低資料中心能源成本，環保與科技就在眼前。
