AAI 2026: AMD ROCm.ai全面加速AMD平台上的AI開發

全新AI原生開發體驗，支援透過自然語言與主流AI程式碼助理，在AMD平台上安裝、部署、除錯與最佳化AI工作負載

• AMD 宣布推出 ROCm.ai，為一款專為在 AMD 平台上進行 AI 開發所設計的 AI 原生（AI-native）軟體體驗。它將 AI 輔助開發、智慧部署以及 AI 驅動的軟體最佳化整合為統一體驗，協助開發人員快速從想法走向實際應用（from intent to production）。於 Advancing AI 2026 年度大會中亮相的 ROCm.ai 包括 ROCm CLI，此為用於安裝、驗證、模型服務部署與管理 AI 工作負載的全新命令列（command-line）體驗，以及 AMD Skills，由 AMD 撰寫的專業知識整合至 Claude、Cursor 與 Codex 等主流 AI 程式碼助理中。此外，ROCm.ai 包含全新開源的代理式系統 Hyperloom，旨在自動化執行耗時的端對端推論工作負載最佳化任務。透過這套統一的軟體體驗，ROCm.ai 協助開發人員在 AMD 平台上順暢完成 AI 工作負載的安裝、部署、除錯與最佳化。

 

 

AI 開發正日益朝向為代理式驅動（agent-driven）模式發展，開發人員開始越來越多運用自然語言與 AI 程式碼助理來建構、部署與最佳化軟體。ROCm.ai 將 AMD 的專業知識直接注入這些工作流程中，協助開發者依循 AMD 專屬指引，而非通用型建議，來建構與最佳化 AI 工作負載。AMD Skills 的推出大幅降低採用 ROCm 的門檻，並減少設定時查找大量文件的需求。

此外，ROCm.ai 更利用 AI 來改善 AMD ROCm™軟體堆疊。透過對核心（kernel）、記憶體管理與排程進行 AI 驅動的最佳化，最新版本 ROCm 在相同硬體條件下，相較於 ROCm™ 7，能實現推論效能平均提升 3.3 倍、訓練效能平均提升 2.4 倍^註1、2。

AMD AI 軟體事業群全球副總裁 Anush Elangovan 表示：「AMD 致力於協助開發人員以前所未有的速度前進。ROCm.ai 將代理式 AI 開發引入 AMD 平台，這些代理不僅能回答問題，更能進行效能剖析（profiling）、除錯，並協助工作負載在 AMD 硬體上達到最佳效能。這是 AMD AI 軟體堆疊的下一次演進，縮短從想法到工作負載運行之間的距離，讓開發人員能夠快速建構與迭代。無論是建立環境、模型服務部署，還是縮短與峰值效能之間的差距，ROCm.ai 都能在開發人員已慣用的程式碼助理中，完成繁瑣工作。」

 

AMD ROCm.ai AI原生開發體驗

ROCm.ai 是 AMD AI 原生開發體驗，專為協助開發人員在 AMD 平台上更快速建構、部署與最佳化而設計。它將 ROCm CLI、AMD Skills 與 AI 驅動的軟體最佳化整合為統一體驗，簡化從安裝、部署、除錯到效能最佳化的整體 AI 開發流程。

• ROCm CLI: 提供統一的命令列體驗，用於在 AMD 平台上安裝、驗證、模型服務部署、更新以及疑難排解 AI 工作負載。具備硬體感知（hardware-aware）的工作流程、自動化環境設定，以及對安全實體隔離（air-gapped）部署的支援，有助於簡化軟體安裝，同時在不同環境間實現一致的部署。
• AMD Skills: 將 AMD 撰寫的專業知識整合Claude、Cursor 及 Codex 等主流 AI 程式碼助理中。開發人員無需依賴通用建議，即可獲得針對 AMD 平台的具體指引，用於在整個 AMD AI 軟體堆疊中進行 AI 工作負載的安裝、轉移、除錯與最佳化。
• Hyperloom: 實現端對端推論工作負載最佳化的自動化，涵蓋從效能剖析、分析到核心最佳化與驗證的完整推論最佳化閉環，協助開發人員在數小時內完成過去需要專業工程團隊耗費數週才能達成的工作。
• AI驅動的軟體最佳化：透過 Hyperloom 等 AI 驅動的軟體最佳化，ROCm.ai 協助改善 ROCm 軟體堆疊在平行化與排程、記憶體管理及最佳化核心方面的表現。這些軟體層面的提升有助於加速現有 AMD 硬體上的推論與訓練效能，同時隨著時間推移持續提升開發生產力與工作負載效能。
• ROCm.ai 將於 2026 年 8 月上線。

 

AMD 宣布推出 ROCm.ai AI 原生開發體驗，結合 ROCm CLI、AMD Skills 與 AI 驅動的軟體最佳化，協助開發人員在 AMD 平台上建構、部署與最佳化 AI 工作負載。該平台將 AMD 專業知識整合 Claude、Codex 與 Cursor 等主流 AI 程式碼助理中；在相同硬體條件下，最新版本 ROCm 相較於 ROCm 7，帶來平均提升 3.3 倍的推論效能與平均提升 2.4 倍的訓練效能。

 

_{註1：根據AMD Performance Labs截至2026年7月7日所進行的測試，於搭載8張AMD Instinct MI355x GPU的平台並使用AMD ROCm 7.0軟體之系統上，運行GLM-5、Kimi-K2.5及DeepSeek-R1-0528模型，測量其推論效能（以每秒處理token數，即TPS計算），並與組態相同、惟改用AMD ROCm.ai預覽版（ROCm 7.2.2，並含核心最佳化、平行化與排程等最佳化技術）之系統進行比較。MI350-81
所述效能提升幅度，係以三款受測模型的綜合平均TPS計算。
硬體組態
Supermicro AS-4126GS-NMR-LCC（主機板H14DSG-OD）
8張AMD Instinct MI355X。BIOS AMI v1.4a（2025年4月16日）、GPU韌體SMC 04.86.11.02、TA RAS 27.69.00.10、TA XGMI 32.00.00.20、RLC43、MEC36、SDMA12、Ubuntu 22.04.2 LTS、kernel 5.15.0-70-generic、amdgpu驅動軟體6.16.6、主機端ROCm 7.1.0
軟體組態
GLM-5 ROCm Docker影像檔：rocm/sgl-dev:v0.5.8.post1-rocm700-mi35x-20260219
PyTorch版本2.8.0、SGLang v0.5.8
Kimi ROCm Docker影像檔：vllm/vllm-openai-rocm:v0.16.0，vLLM版本0.16.0
DeepSeek-R1 Docker影像檔：rocm/7.0:...sgl-dev-v0.5.2-rocm7.0-mi35x-20250915，SGLang版本V0.5.13
相較於
GLM-5 ROCm Docker影像檔：rocm/atom:rocm7.2.2_ubuntu24.04_py3.12_pytorch_release_2.10.0_atom0.1.2.post，ATOM v0.1.2.post
Kimi ROCm Docker影像檔：vllm/vllm-openai-rocm:v0.22.0，vLLM版本V0.22.0
DeepSeek-R1 Docker影像檔：lmsysorg/sglang-rocm:v0.5.13-rocm720-mi35x-20260612，SGLang版本V0.5.13
伺服器製造商可能採用不同組態，導致結果有所差異。效能可能因組態、軟體、vLLM版本，以及是否採用最新驅動軟體與最佳化技術而有所不同。MI350-81
註2：根據AMD Performance Labs截至2026年7月7日所進行的測試，於搭載8張AMD Instinct MI355x GPU的平台上，使用Megatron-LM運行DeepSeek-V2-Lite、DeepSeek-V3-16B及Qwen3-30B-A3B模型，測量AMD ROCm 7.0軟體與AMD ROCm.ai預覽版（ROCm 7.2.2，並含核心最佳化、平行化與排程等最佳化技術）之訓練效能（以每秒處理token數，即TPS計算），並進行比較。MI350-82
所述效能提升幅度，係以三款受測模型的綜合平均TPS計算。
硬體組態
Supermicro AS-4126GS-NMR-LCC（主機板H14DSG-OD）
8張AMD Instinct MI355。BIOS AMI v1.4a（2025年4月16日）、GPU韌體SMC 04.86.11.02、TA RAS 27.69.00.10、TA XGMI 32.00.00.20、RLC 43、MEC 36、SDMA 12、Ubuntu 22.04.2 LTS、kernel 5.15.0-70-generic、amdgpu驅動軟體6.16.6、主機端ROCm 7.1.0
軟體組態
DeepSeek-V2-Lite，ROCm 7.2.1 + Primus v26.3
DeepSeek-V3-16B，ROCm 7.2.1 + Primus v26.3
Qwen3-30B-A3B，ROCm 7.2.1 + Primus v26.3
伺服器製造商可能採用不同組態，導致結果有所差異。效能可能因組態、軟體，以及是否採用最新驅動軟體與最佳化技術而有所不同。MI350-82}

 

 

更多COMPUTEX 2026最新資訊就在 ioioTIME 專區中
現在就加入 ioioTIMES 臉書粉絲團 更多互動、更多好康攏抵加!!
我們有LINE TODAY頻道了，快來追踪我們吧!!--最新科技新聞 盡在你手