從運行代理程式的CPU到為其提供安全保障的基礎設施，Arm為代理時代的信任邊界兩端都提供了支援
人工智慧基礎設施正越來越多地向 Arm 架構遷移。 Arm 技術已被所有主要的超大規模資料中心營運商部署，根據 IDC 的數據，基於 Arm 的機架式伺服器現在已經超越 x86，成為加速運算的主導平台。
隨著人工智慧邁入智能體時代，這種轉變變得愈發重要。人工智慧智能體不再只是生成答案；它們持續運行，使用工具，存取資料並採取行動來完成任務。隨著智能體規模的擴大，它們會產生兩種基本的運算需求：運行智能體所需的運算能力，以及保護智能體所需的運算能力。
Arm 為兩者提供強大的運算能力：高效能 CPU 用於運行代理程式工作負載，而基於 Arm 的基礎設施處理器（例如 DPU）則用於提供獨立的觀察、隔離、策略執行和安全保障。 NVIDIA 的全新開放代理程式安全平台正是此架構的實際應用。
Arm計算運行代理
CPU 是智能體 AI 基礎設施的核心。智能體運行時間、框架、編排、工具執行和應用程式都依賴 CPU，而且隨著智能體功能越來越強大、持久性越來越強，以及大規模並發運行，這些需求也會不斷增長。
Arm 架構已為代理程式和雲端工作負載中的絕大多數運算提供支持，例如 Arm AGI CPU。此外，AWS Graviton、Google Axion、Microsoft Cobalt 和 NVIDIA 客製化的 Vera CPU 雖然架構各異，但都與 Arm 軟體生態系統相容。 NVIDIA OpenShell 為這廣泛的 Arm CPU 生態系統帶來了安全的代理執行功能。
OpenShell 在代理程式周圍建立了一個安全的執行時間邊界，控制其存取權限和可執行的操作。這意味著，這種確保代理程式安全執行的基本方法可以擴展到日益多樣化的基於 Arm 的雲端和 AI 基礎設施生態系統中。
Arm計算控制並包含代理行為
運行代理只是問題的一方面。代理基礎架構也需要獨立的運算能力，以便在代理本身運行環境之外觀察、隔離和管理策略。
基於 Arm 架構的分散式實體單元 (DPU) 和基礎架構處理器提供了這樣一個獨立的層。透過將網路、監控、隔離和安全性等基礎架構服務從主機 CPU 中分離出來，它們創建了一個獨立的控制點，該控制點獨立於它所保護的代理程式和應用程式。
這種架構已擴展到基於 Arm 的分散式處理器 (DPU) 的廣泛生態系統中。由於這些基礎設施處理器是基於 Arm CPU 技術構建，開發人員和基礎設施提供者可以在通用運算架構上建構安全功能。
NVIDIA BlueField 在開放代理安全平台中展示了這種模型。 BlueField-4 由 NVIDIA Grace 提供支持，配備 64 個 Arm Neoverse V2 內核，可在主機之外提供一個獨立的底層架構環境。 OpenShell 與 BlueField 上的 NVIDIA Sentry 集成，將策略執行從代理運行時擴展到這個獨立的信任域，從而使底層架構和網路控制能夠獨立於代理本身運行。
NVIDIA Sentry 是一款即時監控工具，它增加了一層安全防護，能夠監控代理的行為，並將表現出不安全行為的代理隔離。這些功能共同建構了一個更全面的系統級安全模型：Arm CPU 可以承載和運行代理程式工作負載，而基於 Arm 的 DPU 則可以獨立地觀察、管理、隔離並協助保護這些工作負載。
▲動畫影片示範了系統級安全模型，其中 Arm CPU 託管和運行代理工作負載，而基於 Arm 的 DPU 則獨立地觀察、管理、隔離和幫助保護它們
安全地擴展智能體人工智慧
隨著智能體能力的增強、持久性和自主性提高，智能體人工智慧將需要更多的運算能力，但同時也需要安全性來與運算能力同步擴展，而無需在兩者之間做出權衡。
NVIDIA 的 Open Agent Safety Platform 展示了這種方法，它使用 Arm 相容的計算來運行代理工作負載，並使用獨立的基於 Arm 的 DPU 來幫助觀察、隔離和保護它們。
隨著智慧體從雲端基礎設施擴展到邊緣設備和實體系統，安全邊界也需要隨之擴展，無論智慧體運作和執行到哪裡。 Arm 在人工智慧基礎設施中扮演著越來越重要的角色，我們肩負著幫助生態系統同時提升效能和安全性的重任。
智能體時代正在 Arm 架構之上構建，我們致力於從一開始就確保其安全性。
9月搞畏獎開跑中，搞畏有獎放送中 | ioioTIMES 中秋大放送 留言得好禮
現在就加入 ioioTIMES 臉書粉絲團 更多互動、更多好康攏抵加!!
我們有LINE TODAY頻道了，快來追踪我們吧!!--最新科技新聞 盡在你手
