MLPerf v5.1基準測試顯示Intel Xeon 6與Arc Pro B系列顯示卡能為工作站與邊緣裝置提供強大、低延遲的AI推論能力
MLCommons 今日發佈最新 MLPerf Inference v5.1 基準測試結果,展現了搭載 P-core 的 Intel® Xeon®處理器與 Intel® Arc™ Pro B60 顯示卡的 Intel GPU 系統(代號 Project Battlematrix)在六項關鍵基準測試的成果。在 Llama 8B 測試中,Intel Arc Pro B60 的每元效能相較於 NVIDIA RTX Pro 6000 為 1.25 倍、比起 L40S 更高達 4 倍。這些結果凸顯了全英特爾平台在高階工作站與邊緣應用中,針對新興 AI 推論工作負載所展現的效能與可及性。

英特爾公司副總裁暨軟體、GPU 與 NPU IP 部門總經理 Lisa Pearce 表示:「MLPerf v5.1 的結果有力地驗證了英特爾的 GPU 與 AI 策略。Arc Pro B 系列的顯示卡搭配針對推論最佳化的軟體堆疊,讓開發者與企業能透過推論工作站更快速地開發與布署 AI 應用。這些工作站效能強大、設定簡單、價格合理且具備可擴展性。」
重要意義:專業使用者在尋找高推論效能平台時,往往選擇有限,必須在資料隱私與專有 AI 模型的高訂閱成本之間做取捨,同時還需具備布署大型語言模型(LLM)的能力。
這些新的 Intel GPU 系統(代號 Project Battlematrix)正是針對現代 AI 推論需求而設計,提供結合完整硬體與軟體堆疊的全方位推論平台。
Intel GPU 系統導入針對 Linux 環境設計的新容器化解決方案,進一步簡化採用並提升使用體驗。除了可透過多 GPU 擴展與 PCIe P2P 資料傳輸最佳化推論效能,同時也具備企業級可靠性與可管理性,包括 ECC、SR-IOV、遙測與遠端韌體更新等功能。
CPU 在 AI 系統中持續扮演關鍵角色。作為協調中樞,CPU 負責前處理、傳輸與整體系統協調。過去四年,英特爾持續強化 CPU 的 AI 效能,讓 Intel Xeon 成為 GPU 驅動系統中承載與管理 AI 工作負載的首選 CPU。
英特爾也是唯一向 MLPerf 提交 CPU 伺服器測試結果的廠商,展現其領導地位與推動運算與加速架構上 AI 推論能力的深度承諾。值得強調的是,搭載 P-core 的 Intel Xeon 6 在 MLPerf Inference v5.1 中,相較於前一代展現了 1.9 倍的效能提升。
更多資訊:MLPerf Inference v5.1測試成果 | Project Battlematrix