開放式軟體平台與參考系統設計匯聚產業、研究機構與公部門組織, 共同為AI代理建立更安全的邊界、分享最佳實務並促進國際合作,從而提升AI代理的安全部署標準
- NVIDIA 開放式 AI 代理安全平台由 NVIDIA OpenShell 開源軟體與 NVIDIA Sentry 參考系統設計組成,可針對軟體,以及執行 AI 代理的硬體、運算與機器人系統,提供全端治理與控制。
- OpenShell 開源軟體提供一個安全的執行時邊界,可在 AI 代理於 NVIDIA Vera CPU 上運行時追蹤所有動作並執行政策。作為開源軟體,OpenShe
ll 亦可擴展支援包括 Arm 與英特爾第三方運算平台。 - Sentry 新增一套運行於 NVIDIA BlueField-4 DPU 的頻外監控機制,可持續監控 AI 代理行為。當 AI 代理試圖越出既定邊界時,Sentry 可在數毫秒內將其隔離。
- AI 生態系統各領域的產業領導者正與 NVIDIA 共同合作,從基礎設施、軟體、模型到機器人等全端層面,
強化各產業的 AI 安全,包括 Anthropic、思科、CrowdStrike、 戴爾科技集團、Figure、慧與科技、Hugging Face、摩根大通、微軟、Palantir、Palo Alto Networks、Perplexity、Red Hat、Salesforce、思愛普、Scale AI、ServiceNow 與 SpaceXAI。
NVIDIA 宣布推出 NVIDIA 開放式 AI 代理安全平台(NVIDIA Open Agent Safety Platform),
近期發生的安全事件凸顯了組織需要開放且可客製化的工具,
NVIDIA 執行長黃仁勳表示:「唯有解決 AI 的安全問題,AI 為社會帶來的龐大潛力才能真正實現。隨著我們持續探索 AI 能力的前沿,也必須加速推進對 AI 安全領域的探索。安全與資安需要全端工程。NVIDIA 開放式 AI 代理安全平台匯聚產業界、研究機構與公部門組織,
開放式AI代理安全平台,全面強化AI代理堆疊控制能力
NVIDIA 開放式 AI 代理安全平台可針對執行 AI 代理的軟體、支援其運作的硬體與運算層,
其中包括 NVIDIA OpenShell™ 安全執行環境軟體,可為在 CPU 上運行的 AI 代理設定邊界。隨著 AI 代理跨越更多系統、承擔更多工作,
OpenShell 可在 NVIDIA Vera 上以極低的負擔提供此項防護。NVIDIA Vera 是首款專為代理型 AI 打造的 CPU。OpenShell 與 Vera 結合,可讓 AI 代理在安全運行的同時,盡可能快速完成工作。作為開源軟體,Op
NVIDIA 開放式 AI 代理安全平台的參考系統設計採用 NVIDIA Sentry。這是一套運行於 NVIDIA BlueField®-4 DPU 的頻外監控機制,可持續監控 AI 代理行為。 Sentry 提供晶片內建安全執行機制,當 AI 代理試圖超出其軟體邊界時,可在毫秒內將其隔離並停止運行。
Sentry 運行於 BlueField-4 DPU 上,可持續監控 AI 代理活動,並直接在晶片中獨立執行安全政策。Sentry 透過隔離的頻外信任網域,整合威脅偵測、以硬體為基礎的 AI 代理治理與政策執行,以及資料存取保護,不僅能即時回應,
Sentry 以 ™ NVIDIA DOCA軟體為基礎。DOCA 提供 Sentry 所需的可程式化能力,使其能檢查 AI 代理的要求與回應、提供可驗證的遙測資訊、驗證代理身分,
產業領導者與NVIDIA合作,強化代理安全
Anthropic 與 NVIDIA 共同合作,為 AI 代理堆疊加入更多層次的安全與控制機制。Claude Managed Agents 透過將代理迴圈與執行其工作的沙箱分別部署於不同伺服器,
Anthropic 商務長 Paul Smith 表示:「企業正將愈來愈多重要工作交由 AI 代理處理,因此需要能夠指引並驗證 AI 代理的行為,尤其在敏感環境中。Claude Managed Agents 可讓企業清楚掌握每個 AI 代理正在執行的工作,而 NVIDIA 的平台則進一步在硬體與軟體層面增加治理與控制。」
SpaceXAI 正將 NVIDIA 開放式 AI 代理安全平台用於 Cursor 程式設計代理與 Grok 模型。
SpaceXAI 總裁 Mike Nicolls 表示:「隨著客戶愈來愈仰賴 AI 代理處理實際工作,安全機制就應在模型之外,透過 AI 代理無法繞過的額外控制措施加以落實。客戶應能為 Cursor 與 Grok 設定這些限制,並相信這些限制會持續有效。」
Scale AI 正與 NVIDIA 合作,將 NVIDIA 開放式 AI 代理安全平台技術整合至 Scale GenAI Portfolio 的代理型基礎設施層。
Scale AI 執行長 Francis deSouza 表示:「Scale AI 正運用 NVIDIA 開放式 AI 代理安全平台參考設計,
Salesforce 與 NVIDIA 已將 OpenShell 與 Slack 整合,讓團隊可直接透過 Slack 管理 OpenShell AI 代理活動,包括查看代理活動與稽核事件,以及核准或拒絕 AI 代理提出的額外權限要求,讓團隊在 AI 代理執行工作時,能獲得更高的可視性與人工監督能力。
思愛普正將 OpenShell 整合至 Joule Studio 執行階段。Joule Studio 為思愛普 Business AI Platform 的一部分,可將企業監督與執行階段安全相結合。思愛普也正投入 OpenShell 的工程開發,並與 NVIDIA 透過開放安全 AI 聯盟(Open Secure AI Alliance)共同推動互通性標準。
埃森哲、Armadin、益華電腦、Cognition、Cro
Figure、Gecko Robotics 與 Skild AI 等機器人領域領導業者,也正採用 OpenShell,將 AI 代理安全控制導入能在實體世界採取行動的自主系統。
花旗與摩根大通等金融服務領導企業,則正與 NVIDIA 合作,共同推動開源 AI 代理安全技術。
日立永續能源、美國電力研究院、NextEra Energy、Quanta Services、日本住友精密、施耐德電機、
科能、SUSE 與 Red Hat 等基礎設施軟體領導者,也正將 NVIDIA 開放式 AI 代理安全平台整合至廣泛採用的軟體作業系統。Red Hat 在 Red Hat AI Factory with NVIDIA 上執行 OpenShell 與 DOCA,兩者皆為 NVIDIA 開放式 AI 代理安全平台的一部分。Red Hat AI Factory with NVIDIA 是由雙方共同開發的企業級 AI 解決方案,可協助企業在混合雲環境中大規模建置、部署與管理 AI。
包括 Baseten、思科、CoreWeave、戴爾科技集團
上市時間
NVIDIA 開放式 AI 代理安全平台軟體,包括 OpenShell 與相關技術,現可透過 NVIDIA 開發者資源頁面與 GitHub 取得。
NVIDIA 開放式 AI 代理安全平台等生態系統貢獻,將有助於推動開放安全 AI 聯盟的使命,以及更廣泛的 AI 安全與資安社群。開放安全 AI 聯盟由 NVIDIA 與超過 120 家領先組織共同發起,並由 Linux Foundation 管理,透過開放研究、技能與工具,以及 Shared AI Findings Exchange(SAFE)等專案,強化 AI 代理安全。
9月搞畏獎開跑中,搞畏有獎放送中 | ioioTIMES 中秋大放送 留言得好禮
現在就加入 ioioTIMES 臉書粉絲團 更多互動、更多好康攏抵加!!
我們有LINE TODAY頻道了,快來追踪我們吧!!--最新科技新聞 盡在你手
















