從執行AI代理的CPU,到保障AI代理安全運行的基礎設施,Arm為代理式AI時代信任邊界的兩端提供運算支援
人工智慧(AI)基礎設施正在加速向 Arm 架構遷移。如今,Arm 技術已部署在所有主要超大規模雲端服務提供者的平台中。根據 IDC 資料,基於 Arm 架構的機櫃級伺服器現已超越 x86,成為加速運算領域的主流平台。
隨著 AI 邁入代理式 AI 時代,此一轉變顯得愈發重要。AI 代理不僅能生成答案,還能持續運作、使用工具、存取資料,
Arm 為這兩類運算需求提供支援。一方面,高效能 CPU 可用於執行代理式 AI 工作負載;另一方面,基於 Arm 架構的基礎設施處理器,如資料處理單元(DPU),
NVIDIA 最新推出的開放式 AI 代理安全平台(NVIDIA Open Agent Safety Platform),正是這一架構理念的落地實踐。
Arm運算平台驅動AI代理執行
CPU 是代理式 AI 基礎設施的核心。AI 代理執行環境、代理框架、編排系統、工具執行以及各類應用都仰賴 CPU。隨著 AI 代理的能力不斷提升、持續運作能力日益增強,
目前,Arm 已為 AI 代理和雲端運算工作負載中的大部分運算提供支援。無論是 Arm AGI CPU、Amazon Graviton、Google Axion、Microsoft Cobalt,還是 NVIDIA 客製化開發的 Vera CPU,這些產品雖採用不同的架構設計,但皆與 Arm 軟體生態系相容。NVIDIA OpenShell 將 AI 代理安全執行能力擴展到了這一廣泛的 Arm CPU 生態系之中。
OpenShell 為 AI 代理建立安全的執行環境邊界,管控 AI 代理可存取的資源以及可執行的動作。這代表在日益豐富且多元的 Arm 雲端運算和 AI 基礎設施生態系中,可以採用統一的方法來實現 AI 代理的安全執行。
Arm運算平台管控並限制AI代理行為
除了運行 AI 代理,AI 代理基礎設施還需要獨立的運算資源,能夠在 AI 代理自身的執行環境之外,進行觀測、隔離並執行策略管控。
基於 Arm 架構的 DPU 和基礎設施處理器提供了這一獨立層。透過將網路、監測、
這種架構模式已經擴展至廣泛的 Arm DPU 生態系。由於這些基礎設施處理器同樣基於 Arm CPU 技術建構,
NVIDIA BlueField 在 NVIDIA 開放 AI 代理安全平台中充分展現此一模式。BlueField-4 由搭載 64 個 Arm Neoverse V2 核心的 NVIDIA Grace 所驅動,可在主機之外提供獨立的基礎設施環境。OpenShel
做為即時監控機制,NVIDIA Sentry 再添一層防護,能夠對 AI 代理行為進行持續監測,並在發現 AI 代理出現不安全行為時對其進行隔離處理。
安全地擴展代理式AI
隨著 AI 代理能力不斷提升、且擁有更強的持續運行能力和自主性,代理式 AI 對運算資源的需求將持續增加。同時,
NVIDIA 開放式 AI 代理安全平台展現此發展方向:Arm 生態的各類運算平台運行代理 AI 工作負載,而獨立的基於 Arm 架構的 DPU 則協助進行觀測、隔離和保護。
隨著 AI 代理從雲端基礎設施擴展至邊緣裝置和實體系統,無論 AI 代理在那些場景執行與採取行動,這些安全邊界都必須隨之延伸。
代理式 AI 時代正建構於 Arm 之上,而 Arm 始終致力於從一開始就為這個時代奠定堅實的安全基礎。
看QNAP活動文拿好禮|看TP-LINK WirFroce現場直擊拿好禮 |
ioioTIMES 中秋大放送 留言得好禮
現在就加入 ioioTIMES 臉書粉絲團 更多互動、更多好康攏抵加!!
我們有LINE TODAY頻道了,快來追踪我們吧!!--最新科技新聞 盡在你手
















