在近期的 COMPUTEX 大會上，Supermicro 宣佈推出全新伺服器產品，以滿足代理式 AI (Agentic AI) 時代快速成長的運算需求。該系統搭載 Arm 三月底推出的 Arm AGI CPU，能夠為次世代 AI 推論及代理式工作負載提供業界領先的運算密度與能源效率。
AI基礎設施正邁入推論時代
自 2022 年底 ChatGPT 問世以來，業界對 AI 基礎設施的討論主要是針對 GPU 而展開。過去幾年，資料中心的擴張，主要也由大規模模型訓練所需的加速算力部署所驅動。然而，AI 技術格局正在快速演進。與主要聚焦於模型訓練的第一階段 AI 部署不同，代理式 AI 工作負載呈現出持續性、分散式和推論驅動的特點，這類工作負載要求系統能夠大規模處理編排、檢索、推論和即時決策。
此項轉變正推動基礎設施的新需求，其中高效的 CPU 運算在最大化整體 AI 系統效能方面發揮著基礎性作用。隨著工作負載從訓練轉向推論，並日益邁向自主化、多步驟的代理式 AI 系統，CPU 正成為現代 AI 基礎設施的關鍵組成部分。
代理式 AI 帶來了一種全新的運算特徵。與傳統的聊天機器人式互動不同，代理式 AI 系統可跨多個服務與模型，持續完成推論編排、記憶體存取、資訊檢索、任務規劃與協同互動。這些工作流程對於高效通用運算、記憶體頻寬以及 I/O 可擴展性產生了巨大需求，並需要與 GPU 加速協同配合。
為因應此項轉變，Arm 推出了 Arm AGI CPU。該處理器基於多達 136 個 Arm Neoverse V3 核心打造，配備最高速率達 8,800 MT/s 的 12 通道 DDR5 記憶體以及 PCIe Gen6 連接，並在 300W 功耗範圍內實現高效能設計，為以 AI 優先的資料中心提供卓越的運算密度與能源效率。Arm 測試資料顯示，憑藉出眾的單核效能、高核心密度、出色的單核記憶體頻寬以及產業領先的能源效率水準，Arm AGI CPU 可實現單機櫃效能達到同級別 x86 平台的兩倍以上。
專為次世代AI工作負載打造的基礎設施
Supermicro 的次世代伺服器及機櫃級產品組合，將 Arm AGI CPU 的能力進一步落實，包含雲端、企業端及邊緣端等多元部署場景。
其中，針對超大規模、新型雲端 (neocloud) AI 基礎設施，Supermicro 發佈了液冷 Open Rack Wide (ORW) 平台——ARS-142TP-QNR-LCC。一台滿配的 ORW 機櫃可支援多達 336 顆 Arm AGI CPU，為雲端規模的代理式 AI 和推論工作負載提供極高的運算密度。
而針對採用 Open Rack V3 (ORV3) 環境的客戶，Supermicro 推出了液冷 2U4N ORV3 伺服器——ARS-242TP-QNR-LCC，每機櫃可支援多達 168 顆 Arm AGI CPU，同時保障現代資料中心的部署靈活性。ORW 和 ORV3 系統預計將於 2027 年第一季提供樣品，2027 年第二季開始量產。
除液冷解決方案外，Supermicro 還將 Arm AGI CPU 的支援擴展至風冷環境。針對功耗和空間受限的邊緣部署場景，單插槽 ARS-212HE-FNR 短深度伺服器，為分散式 AI 推論和邊緣運算應用提供了最佳化的平台。該系統預計於 2026 年第四季提供樣品，並於 2027 年第一季開始量產。
針對通用運算工作負載，雙插槽 2U ARS-222H-NR 伺服器在標準 19 英寸外形規格下，支援最高八塊 NVMe 硬碟和額外的加速器擴展。該系統廣泛適用於各類資料中心工作負載，包括 Web 與應用服務、資料庫與分析、虛擬化和雲端基礎設施，以及媒體和內容處理等應用場景。
同時，5U ARS-522GP-NR 平台針對高效能 AI 推論部署場景，支援多達八張加速卡，並配備雙路 Arm AGI CPU 和高密度 NVMe 儲存。這些平台預計於 2026 年第三季提供樣品，並於 2027 年第一季開始量產。
這些平台的推出凸顯了一個重要的產業轉變：AI 基礎設施的未來將不再僅由 GPU 效能來定義。隨著代理式 AI 在企業及雲端服務提供者中的規模化應用，融合高效能 CPU、加速器、記憶體頻寬和高效系統設計的均衡架構將變得十分重要。
同時，能源效率和資料中心可擴展性正變得日益關鍵。隨著企業在雲端、本地企業機房和邊緣環境中廣泛部署 AI，基礎設施必須在實現更高運算密度的同時，避免功耗與散熱需求無節制的攀升。而這正是基於 Arm AGI CPU 打造的平台所具備的顯著優勢：在提供可擴展的 AI 算力的同時，也提升每瓦效能。
憑藉基於 Arm AGI CPU 打造的一系列解決方案，Supermicro 正在協助客戶建構適合代理式 AI 運算實際場景、深度最佳化的 AI 基礎設施，包含從超大規模推論叢集，到企業機房及邊緣部署的廣泛場景。隨著產業向能夠自主推論、協作與執行的 AI 系統邁進，高效 CPU 運算與加速型 AI 基礎設施的結合，將成為次世代資料中心的基礎。
