Arm與Google Cloud協同設計TPU 8i Max基礎設施，以加速代理式AI時代

基於 Arm 架構的 Google Axion 主機處理器，進一步擴大其在 Google TPU 產品組合中的應用，為高需求 AI 工作負載提供所需的高效能與能源效率。

Google Cloud 最新的 TPU 系統之一，採用基於 Arm Neoverse® 平台客製化打造的 Google Axion CPU，負責主機運算。隨著 Axion 已應用於 TPU 8t 與 TPU 8i 的基礎上，Google 進一步將其應用擴展至 TPU 8i Max，為 AI 加速器提供所需的運算支援。

Google Axion 提供 CPU 運算基礎，支援 Google AI 基礎設施的大規模訓練、即時推理，以及需求日益提高的代理式 AI 工作負載。Google 將 Axion 擴展至 TPU 8i Max，展現 Arm 在驅動次世代 AI 基礎設施的系統核心中，再度達成重要里程碑。

 

提升AI系統整體效能

AI 效能不僅取決於加速器。CPU 負責準備資料、編排工作負載，以及執行維持整體系統高效率運作的基礎設施軟體。隨著 AI 代理進行推理、使用工具並協調複雜任務，對 CPU 運算基礎的需求也不斷提高。

透過 Axion，Google 將 Neoverse 的效能與能源效率優勢，融入專為自身基礎設施打造的客製化晶片設計中。將這項設計方式也擴展至 TPU 8i Max，更進一步凸顯 CPU 與加速器的共同設計，對於 AI 規模化發展的重要性。

Google Cloud AI 與運算基礎設施副總裁暨總經理 Mark Lohmeyer 表示：「要大規模提供 AI 效能，就必須共同設計 CPU 與加速器，讓兩者無縫地協同運作。我們基於 Arm 架構的 Google Axion 處理器，具備 TPU 系統高需求主機工作負載所需的效能、效率與彈性。透過 TPU 8i Max，我們正進一步擴展這項共同設計的基礎，協助客戶處理最複雜的 AI 應用。」

 

開啟推論時代

Google Cloud 持續投入相關技術，反映出產業正朝向 CPU 與加速器協同運作的整體趨勢，藉此推動 AI 推論邁入新時代。除了為加速器提供主機運算能力，Google Axion 也驅動通用型雲端執行個體，讓 AI 代理執行階段環境與編排框架得以順利運作。

而在今年稍早，Google Cloud 發表 Google Axion N4A，其性價比最高可達同世代、同級 x86 架構虛擬機器的兩倍。透過在 Axion N4A 上執行 GKE Agent Sandbox，客戶也能安全隔離代理式 AI 工作負載，同時提升30% 的性價比。在此基礎上，GKE 上的 Agent Substrate 也原生支援 Google Axion 處理器，提供開源、預設具備安全防護機制的 AI 代理執行環境，專為執行數百萬個沙盒而設計，其密度較標準容器執行環境高出 10 倍。

 

從驅動 Google 最新 TPU 系統，到支援數百萬個 AI 代理規模化運作，Arm 正協助打造下一個 AI 時代的運算基礎。

 

 

11月搞畏獎現正開跑，留言抽好禮!!
ioioTIMES IG | Threads 歡迎加入!!
我們有LINE TODAY頻道了，快來追踪我們吧!!--最新科技新聞 盡在你手