隨著開放式模型改變代理式 AI(Agentic AI)的經濟性,市場對具備更高彈性、成本效益與高能源效率的基礎架構需求與日俱增。這些進展共同強化了英特爾在開放、異質 AI 基礎架構上的布局,透過結合通用運算、專用加速、開放式軟體與符合標準的系統架構,最佳化不同 AI 工作負載的效能與效率。
為何重要:代理式 AI 正將推論轉變為多步驟工作流程,涵蓋資訊檢索、推理、協調、工具使用與執行,而 x86 CPU 在其中扮演關鍵角色。開放模型雖讓企業擁有更多選擇,但功耗限制、記憶體瓶頸與成本壓力,也使AI擴展日益成為系統級的挑戰。
要滿足這些需求,企業需要易於部署與管理的整合式異質基礎架構。英特爾以成熟的 x86 軟體生態系為基礎,透過開放且可互通的軟體,結合 CPU、GPU 與專用加速器,讓不同工作負載能使用最合適的運算資源,進而提升整體工作流程的資源利用率、效能與效率。
英特爾資料中心系統與解決方案事業群副總裁 Nicolas Dubé 表示:「開放模型拓展了企業部署 AI 的選擇。若要充分發揮其潛力,組織需要針對不同的工作負載,配置合適的智慧能力、運算資源、與兼顧成本效益的基礎架構。這正是我們所謂『為每項 AI 任務配置最合適的運算資源』的意義。」
Intel Xeon:代理式AI的運算基礎
英特爾於 OCP 全球峰會中展示與生態系夥伴共同開發、採用 Xeon 處理器的新款機櫃設計,以滿足代理式 AI 日益成長的運算需求。其中許多設計採用開放運算計畫的 Open Rack v3(ORv3)標準,簡化在開放式資料中心基礎架構中的部署與整合。
▲英特爾GPU D系列機櫃
隨著代理式 AI 工作流程日益複雜,通用運算也必須承擔更多工作,包括協調工作負載、處理資料、管理 I/O,以及執行各項任務,確保加速器持續發揮效能。為因應這些需求,部分 Xeon 6+ 配置可讓單一機櫃的核心數超過 46,000 個,機櫃總功耗為 133.45 kW,藉此提高 CPU 運算密度,支援代理式 AI 大規模部署。
憑藉二十年來在機櫃級系統的創新,以及廣泛的 x86 軟體生態系,Xeon 提供擴展代理式 AI 所需的高密度通用運算基礎。Xeon 可與 GPU 及專用加速器協同運作,負責協調工作負載、執行任務並管理資料傳輸,讓整體系統維持高效運作。
隨著 AI 基礎架構持續演進,效能衡量日益著重於單一機櫃在符合目標延遲要求的情況下,能支援多少個 AI 代理同時運作。Xeon 透過維持資料順暢流動、工具持續執行,並確保加速器獲得所需資料,協助系統最大化實際工作產出。
英特爾資料中心事業群 AI 產品與市場策略副總裁 Anil Nanduri 表示:「推論正成為 AI 最具代表性的工作負載,企業需要能以合理成本提供適當效能的基礎架構。Intel GPU D 系列致力於讓高容量推論更容易部署,也更能以具成本效益的方式擴展。」
為協助客戶將相關能力導入正式環境,英特爾正與廣泛的生態系合作,包括 OEM、ODM、專注 AI 運算的新世代雲端服務業者(neocloud)、獨立軟體供應商、整合式設備供應商,以及 AI 原生企業。合作重點包括經驗證的平台、軟體整合與可直接部署的解決方案,以降低複雜度,協助客戶更快從模型評估邁向實際運作。
▲英特爾GPU D系列生態系合作夥伴
目前 Intel GPU D 系列已開始提供客戶樣品。英特爾將持續擴大硬體、軟體與開放生態系,讓企業能更靈活地在既有及新建資料中心基礎架構中部署並擴展推論應用。
支援異質AI的開放式軟體
要讓異質 AI 基礎架構大規模運作,需要開放軟體連結不同運算資源、簡化部署流程,並讓開發者能依據工作負載選擇合適的架構。英特爾的開放軟體策略,著重於在業界標準 AI 框架、推論執行環境與部署環境的上游專案中,原生整合對 CPU 與 GPU 的支援。透過支援開發者既有的工具,英特爾致力於簡化開發流程、最佳化效能並加速部署,主要能力包括:
簡化Intel GPU平台間的部署:Intel GPU D 系列採用共通的 Xe 軟體基礎,支援 Intel GPU 平台間的軟體移植,協助開發人員重複運用現有應用程式,降低在新硬體上部署工作負載的門檻。
開放框架與高效能軟體:英特爾支援業界廣泛採用的 AI 框架、服務引擎(serving engines)與開發工具,並輔以效能函式庫及可程式化軟體層以最佳化推論吞吐量。這些相同的框架亦支援在 Intel Xeon 處理器上運行的推論與代理式應用,讓開發人員能在 CPU 與 GPU 架構上進行開發。
新興開放模型發布首日即提供支援:透過上游框架整合與模型支援,英特爾致力於在新開放模型發布之際,即在 Intel GPU D 系列與 Xeon 處理器上提供即時支援。近期成果包括在 Meta 的 Muse Glimmer 發布首日即提供支援,協助開發人員更快速地評估與部署新興的代理式 AI 工作負載。
專為真實世界AI應用與代理設計:英特爾的軟體堆疊支援多元的工作負載,涵蓋高吞吐量的 token 生成、程式碼編寫代理(coding agents)以及複雜的企業級工作流程。目前 Intel AI for Enterprise Agent Toolkit 已針對 Xeon 處理器進行最佳化並可直接部署,為生產環境中的代理式應用提供協調運算能力。其架構設計以 provider 為基礎,可延伸支援 Intel GPU,為企業的多模態工作流程提供彈性基礎,並支援跨異質運算資源擴展。
今年,英特爾展示與產業夥伴透過 Open Adapter Card 工作小組,共同制定適用於機櫃內部署的標準化加速器卡規格,並於會中展示相關成果。這項工作將提升不同系統設計在機構、電氣與管理層面的互通性,讓系統建置商與雲端服務供應商能以更一致的方式,將加速器整合至開放式基礎架構。
對客戶而言,這種做法的價值在於能持續演進 AI 系統,而不必從頭開始。企業可在既有投資的基礎上,隨工作負載變化導入新的運算技術,以更有效率的方式擴展推論、管理成本,並保有基礎架構發展方向的選擇。
英特爾資料中心事業群執行副總裁暨總經理 Kevork Kechichian 表示:「代理式 AI 正在改變客戶對資料中心的需求。成功關鍵不在於任何單一元件,而在於整合 Xeon、專用加速與可互通軟體的開放式異質基礎架構。英特爾正協助客戶延續既有投資,同時建立具彈性的基礎,讓新興 AI 工作負載得以有效率地擴展。」
與會者可造訪位於 B32 展位的英特爾攤位,並參與英特爾主管的精彩演講,包括 Nicolas Dubé 於美西時間 10 月 13 日上午 10:30 發表的「為每項 AI 任務配置最合適的運算資源」(Put Every Prompt in Its Place)專題演講。此外,英特爾亦將參與 30 多場技術研討與演說議程。