AAI 2026: AMD為代理式AI時代提供全方位算力

AMD推出廣泛的高效能運算與實體AI產品組合，包含首款機櫃級AI解決方案以及全球最強大的AI機櫃級系統AMD Helios

• 在 Advancing AI 2026 年度大會上，AMD 推出第 6 代 AMD EPYC™ CPU、AMD Instinct™ MI400 系列 GPU、AMD Helios™ AI 機櫃級解決方案、AMD Ryzen™ AI 嵌入式X100 處理器、AMD Kria™ AI 系統模組（SOM）與機器人開發平台（Robotics Developer Platform）。
• AMD Helios 每元可提供的推論 Token 數量較競爭方案提升高達 30%^註1，能最大化每台機櫃的運算產出效率。
• AI 正加速推動對 AMD 全系列晶片的需求，涵蓋資料中心、個人電腦、邊緣與嵌入式處理器，推升 AMD 於 2030 年的潛在市場規模（TAM）達到約 2 兆美元。
• Anthropic、OpenAI、Meta、Cerebras、AT&T 與思科（Cisco）等詳述其如何與 AMD 合作，共同推動 AI 基礎設施、企業級功能以及邊緣 AI 的發展。

 

 

AMD（NASDAQ: AMD）今日於 Advancing AI 2026 年度大會上推出下一代 AI 基礎設施與實體 AI 產品組合，其中由 AMD Helios 機櫃級解決方案領軍。AMD Helios 目前已進入量產，並獲各大 AI 企業進行 gigawatt 等級規模的部署。 

隨著 AI 從模型訓練擴展至推論與代理式工作負載，算力需求正加速成長。AMD 提供基於開放標準建構的完整 AI 運算堆疊，賦予客戶高度靈活性，為各種工作負載部署最合適的算力。 

AMD 董事長暨執行長蘇姿丰博士表示：「AI 的下一個階段將涵蓋前沿模型、代理式 AI 與實體 AI，創造將智慧應用普及至各處的新契機。要實現這一潛能，需要整個產業共同努力。AMD 正與整個產業體系展開合作，提供領先業界的算力與開放平台，為客戶提供所需的效能、靈活性與選擇，讓 AI 從資料中心延伸至邊緣。」

 

AMD Helios: 最高效能的機櫃級AI解決方案

交付前沿 AI（Frontier AI）需要完整整合的機櫃架構，並讓技術堆疊中各個組件皆突破效能極限。AMD Helios 機櫃級解決方案即為此而生，採用共同最佳化的晶片包括 72 個高效能 AMD Instinct™ MI455X GPU 與 18 個強大的第 6 代 AMD EPYC™ “Venice” CPU，並透過 AMD Pensando™前端、支援向上擴展（scale-up）與向外擴展（scale-out）的網路架構進行連接，同時經由 AMD ROCm™開放軟體進行加速。AMD Helios 結合了領先業界的運算效能、記憶體容量與網路頻寬，提供領先競爭方案高達 30% 的每元 Token 產出優勢^註1。

各大 AI 實驗室與雲端服務供應商因 AMD Helios 開放且完整的全堆疊效能而選擇採用，包含 OpenAI、Anthropic、Meta、微軟、Oracle、HUMAIN、Tensorwave、Vultr、Cirrascale 等。相關系統將由Bull、HPE、聯想與美超微（Supermicro）等各大 OEM 廠商，以及 Sanmina 與緯穎等基礎設施合作夥伴提供。

 

在 Advancing AI 大會上，AMD 合作夥伴詳述其如何大規模部署 AMD AI 基礎設施，以進行前沿訓練與推論：

• Anthropic 與 AMD 進一步詳述雙方於週三宣布的策略合作，將在 AMD Helios 機櫃級解決方案中部署高達 2 gigawatts 的 AMD Instinct MI455X GPU。雙方正展開多年的工程合作計畫，運用 Claude 加速 AMD 的軟體開發。具體而言，團隊將採用 Claude 最佳化 AMD Instinct GPU 的工作負載，並加速 ROCm 軟體開發。此外，AMD 也將在其工程與產品開發團隊中廣泛採用 Claude。
• OpenAI 與 AMD 正合作最佳化從晶片到軟體的完整AI堆疊。透過將 OpenAI 的 Triton 框架與 AMD ROCm 軟體相結合，雙方正對 AMD Instinct MI455X GPU 與 AMD Helios 機櫃進行 GPT 級別工作負載最佳化。OpenAI 預計自 2026 年第 4 季開始導入 Helios，並於 2027 年全面加速部署。
• Meta 與 AMD 正針對 Gigawatt 等級部署進行聯合設計，為 Meta 工作負載對 AMD 完整 AI 運算堆疊進行最佳化。Meta 目前正在其實驗室中驗證第 6 代 EPYC CPU 平台，並已開始在 AMD Helios 機櫃上測試與驗證工作負載，為大規模部署作準備。
• Cerebras 與 AMD 合作推出整合式解決方案，結合 Cerebras 的超低延遲 AI 運算與 AMD Helios 高吞吐量機櫃級基礎設施，協助提升超低延遲推論服務部署的效率、可擴展性與經濟效益。

 

提供最高效能的資料中心CPU與GPU

第 6 代 EPYC 處理器為代理式 AI 提供最廣泛的伺服器 CPU 產品組合^註2，其專用處理器系列涵蓋雲端、企業、通用型與高效能運算（HPC）工作負載。憑藉領先業界的單核心效能與最高的執行緒密度^註3，能在每瓦、每元與每機櫃條件下實現最多代理式 AI 工作負載支援能力。針對 AI 主機節點（host nodes），它們提供足夠的速度與記憶體頻寬以確保加速器維持滿載運作^註4,5,6。而對於通用型伺服器，第 6 代 EPYC CPU 則提供領先的效能與能源效率，支援企業關鍵應用程式與 AI 支援任務。 

憑藉 AMD Instinct MI400 系列 GPU，AMD 為雲端、企業與 HPC 工作負載提供強大效能。AMD Instinct™ MI455X GPU 相較於 MI355X GPU，提供高出 34 倍的 Token 吞吐量^註7。針對高精度工作負載，AMD Instinct™ MI430X 加速器是最先進的 HPC 與主權 AI 解決方案之一，為科學運算提供高達 288 TFLOPS 的硬體原生 FP64 效能。MI430X 加速器正為美國與歐洲的下一波 Exascale 等級超級電腦挹注動能。 

AMD 也推出 Instinct MI350P GPU，透過領先業界的 Token 經濟效益，為現有基礎設施帶來無縫 AI 加速能力。MI350P GPU 每元每秒可提供的 Token 數量較競爭方案提升高達 4.2 倍^註8。

 

推進開放軟體產業體系發展

對開發人員而言，AMD ROCm 是具備在 AMD 硬體上建置與部署 AI 所需效能、靈活性及產業體系支援的開放軟體平台。在此基礎上，AMD 推出 ROCm.ai，此為由 AI 驅動的開發平台，可協助開發人員在 AMD 各類平台上更快速地建置、最佳化與部署 GPU 軟體。ROCm.ai 透過使 Claude、Codex 與 Cursor 等熱門程式碼代理原生理解 AMD 平台與 ROCm，為開發人員帶來 AI 輔助的 GPU 程式設計能力。 

ROCm.ai 正加速 AMD Instinct MI455X GPU 的軟體支援，同時最佳化效能。包括 PyTorch、Hugging Face、vLLM 與 SGLang 等領先業界開源框架已可在 MI455X 上運行，並展現卓越成果。

 

加速新一代AI基礎設施發展

AMD 正將其每年更新的 CPU、GPU、網路與機櫃級創新時程推進至 2030 年。 AMD 分享最新產品藍圖細節，其中包括：

• 基於 “Zen 7” 架構的下一代 EPYC 伺服器 CPU 將於 2028 年推出。“Florence”、“Ferrara” 與 “Fidenza” CPU 預計將延續 AMD 在密度、效能、每系統成本效能（performance-per-system dollar）與每瓦效能方面的領先地位。
• 基於 “Zen 8” 架構的 “Ravenna” CPU 將於 2030 年推出，持續鞏固 AMD 在伺服器 CPU 市場的領先地位。
• 新一代 AMD Instinct MI500 系列 GPU 將於 2027 年推出，搭載下一代運算、記憶體與互連技術，提供領先業界的效能。
• AMD Instinct MI600 系列 GPU 將於 2028 年推出。
• 下一代 AMD Helios 500 機櫃級解決方案將搭載 AMD Instinct MI500 系列 GPU 與 AMD EPYC “Verano” CPU，並配備下一代 Pensando “Como” 與 “Monza” 網路技術。隨後推出的 AMD Helios 600 機櫃級解決方案將搭載 AMD Instinct MI600 系列 GPU、EPYC “Ferrara” CPU 以及 Pensando “Palma” 與 “Levanzo” 網路技術。

 

 

擴展企業的AI應用

從雲端、混合與地端資料中心，到支援 AI 的 PC 陣容，各大企業均運行於 AMD 基礎設施之上。AMD 技術正協助客戶迅速擴展並加速企業轉型。 

在 Advancing AI 大會上，AT&T 展示其如何運用 AMD 技術在雲端、地端與實體隔離（air-gapped）環境中部署靈活的企業級 AI 應用。AT&T 更使用 AMD Instinct GPU 與 ROCm 軟體驅動其專為電信領域訓練的開源模型 OTel 2.0。 

透過 AMD Ryzen™ AI Halo 開發平台，AMD 提供效能、效率與簡易性，使本地 AI 開發更易於實現。由 Ryzen™ AI Max PRO 400 系列處理器挹注動能的更多 AMD Ryzen AI Halo 平台將於今年稍後由 AMD 及 OEM 合作夥伴推出。 

思科與 AMD 正展開合作，將 AMD Ryzen AI Halo 系統等 AMD 高效能推論引擎，與思科的網路、可觀察性（observability）及安全性功能相結合，讓企業能夠大規模部署、治理與管理混合式及本地代理式 AI。

 

推進實體AI的下一階段發展

隨著 AI 擴展至雲端、企業與本地系統，下一階段是將智慧引入可在實體世界中進行感知、推理與行動的機器中。憑藉在採用 AMD FPGA 與自行調適 SoC 的機器人領域長久積累的深厚基礎，AMD 推出 AMD Kria™ AI 解決方案，將機器人技術能力從機器人機身延伸至機器人大腦。AMD 獨特地將 AI 感知、推理與代理式決策控制結合於單一平台上，提供要求嚴苛的真實世界機器人系統所需的效能。 

 

該產品組合包含由全新 AMD Ryzen AI 嵌入式 X100 系列處理器的 AMD Kria AI 系統模組（SOM），以及 AMD Kria AI 機器人開發平台，此為首款結合 CPU、GPU、NPU 與 FPGA 運算的開放式、統包型（turnkey）整合式自主機器人平台。結合擴展的開放軟體產業體系，AMD Kria AI 解決方案消除了廠商綁定（vendor lock-in），幫助開發人員與客戶加速下一代實體 AI 系統從原型設計到量產的進程。

 

_{註1：MI400-025：根據AMD效能實驗室（AMD Performance Labs）於2026年7月的估算，每美元Token處理效能（tokens-per-dollar）係採用Kimi K2 Thinking工作負載（32K輸入／8K輸出），比較AMD Helios機櫃級解決方案與NVIDIA Vera Rubin NVL72機櫃所得。結果反映系統於低、中、高互動性運作情境下的整體吞吐量估算，以及根據市場狀況推估的系統GPU每小時定價。不同系統製造商的配置可能有所不同，實際結果亦可能有所差異。
註2：EPYC-068：AMD EPYC伺服器CPU產品組合涵蓋業界最廣泛的資料中心部署需求，包括通用企業、雲端、電信、中小企業（SMB）、高效能運算（HPC）系統，以及新興AI環境，例如具沙盒代理式AI部署與GPU Head Node伺服器。第6代AMD EPYC平台進一步擴展此優勢，結合最高512執行緒的高核心與高執行緒密度、支援最高16通道12.8 GT/s MRDIMM的先進記憶體頻寬、次世代PCIe® Gen 6連線能力，以及部分型號最高可達5 GHz的Boost時脈。
註3：EPYC-025D：截至2026年7月，第6代AMD EPYC™ 9996配備256個核心，並於啟用SMT時提供512個執行緒，高於目前其他公開發表的單路（1P）CPU。
註4：9xx6-012：根據對NVIDIA、Intel®與AMD EPYC™伺服器處理器在代理式AI工作負載下的預估效能資料，AMD EPYC™ 9996在每機櫃100kW功耗範圍內，可提供最多的代理數量。
與採用NVIDIA Vera（88核心）處理器的伺服器機櫃相比：}

• _{AMD EPYC™ 9996（256核心）可提供每機櫃2.08倍的核心數（以及啟用SMT時的執行緒數）。}
• _{AMD EPYC™ 9965（192核心）可提供每機櫃1.86倍的核心數（以及啟用SMT時的執行緒數）。}
• _{Intel® Xeon 6980P（128核心）可提供每機櫃1.24倍的核心數（以及啟用SMT時的執行緒數）。}

_{來源： AMD《Methodology Description》文件 https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf
代理數量為估算值，係根據在一致理論工作負載下可用的CPU執行緒資源推導而來，並將其作為代理指標。實際代理能力與吞吐量將依據工作負載、模型、記憶體、軟體、協調管理以及系統配置而有所不同。
註5： 9xx6-013：比較係根據截至2026年7月22日公開的最高階產品核心數及1Ku定價，針對AMD EPYC™ 9006系列（512執行緒）、AMD EPYC™ 9005系列（384執行緒）及Intel® Xeon® 6系列（256執行緒）SKU，估算其最高每美元CPU可支援的AI代理數（Agents/CPU$）及每美元CPU執行緒數（Threads/CPU$）。執行緒數係以每核心2個執行緒（SMT）計算。Intel及Xeon為Intel Corporation或其子公司的商標。來源：https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf
AI代理數量係根據可用CPU執行緒資源，在一致的理論工作負載下作為代理指標所推估。實際AI代理容量與吞吐量將因工作負載、模型、記憶體、軟體、協調及系統配置而有所不同。
註6： 9xx6-014：比較係根據截至2026年7月22日公開的最高階產品核心數及CPU功耗資料，包括第六代AMD EPYC™處理器的Default CPU Power，以及第五代AMD EPYC™、Intel® Xeon®及NVIDIA Vera處理器的TDP，估算搭載AMD EPYC™ 9956（400W Default CPU Power）、AMD EPYC™ 9965（500W TDP）、NVIDIA Vera（450W TDP）、ARM AGI（300W TDP）及Intel® Xeon® 6980P（500W TDP）伺服器的最高每瓦CPU可支援AI代理數（Highest Agents/CPU W）。AMD及Intel® Xeon®處理器以每核心2個執行緒（SMT）計算；ARM AGI則以每核心1個執行緒計算。
自第6代AMD EPYC™伺服器處理器系列起，AMD採用**Default CPU Power（預設CPU功耗）**描述處理器功耗，取代過去使用的TDP參考值。Default CPU Power反映處理器在達成指定效能目標時，運算核心晶粒（compute dies）與I/O晶粒（I/O dies）的總耗電量。Default CPU Power與TDP皆可作為處理器功耗參考，用於產品比較、平台規劃及每瓦效能分析。
AI代理數量係根據可用CPU執行緒資源，在一致的理論工作負載下作為代理指標所推估。實際AI代理容量與吞吐量將因工作負載、模型、記憶體、軟體、協調及系統配置而有所不同。Intel Xeon TDP資料來源：ark.intel.com。NVIDIA Vera TDP資料來源：https://developer.nvidia.com/blog/nvidia-vera-cpu-sets-a-new-standard-for-agentic-workloads-in-ai-factories/。ARM AGI規格資料來源：https://www.arm.com/products/cloud-datacenter/arm-agi-cpu#Specifications。
註7：MI400-020：根據AMD效能實驗室（AMD Performance Labs）於2026年7月進行的測試與計算，針對AMD Instinct™ MI455X GPU搭配DeepSeek V4 Flash模型並採用FP4推論服務（serving），比較其於高、中、低互動性情境下所測得的Token吞吐量，並與AMD Instinct™ MI355X GPU進行比較。不同系統製造商的系統配置可能有所不同，因此實際結果亦可能有所差異。
註8：MI350P-007：根據AMD於2026年7月進行的內部測試，於Llama 3.3 70B Instruct（FP8）線上推論服務情境下，比較單張（1x）AMD Instinct™ MI350P GPU與單張（1x）NVIDIA H200 NVL GPU在ISL/OSL 1024/1024設定下，於並行度（concurrency levels）1、4、8、16、32、64、128、256及512時的**每美元輸出吞吐量（output-throughput per dollar, tok/s/USD）**表現；每個並行度測試結果取3次執行結果的中位數。搭載MI350P的伺服器價格採用AMD內部估算值，為327,238.40美元；搭載RTX PRO 6000的伺服器價格則採用OEM網站截至2026年7月16日公布的公開建議價格，為265,928.24美元。所列結果為各並行度下的最高比值：MI350P透過AIMS silogenai/aim-instinct-meta-llama-llama-3-3-70b-instruct:0.12.0-rc6 提供服務； H200 NVL透過NVIDIA NIM nvcr.io/nim/meta/llama-3.3-70b-instruct:2.0.6 提供服務； RTX PRO 6000透過NVIDIA NIM nvcr.io/nim/meta/llama-3.3-70b-instruct:2.0.6 提供服務。 測試配置，AMD Instinct™ MI350P平台：8張AMD Instinct™ MI350P PCIe卡（CDNA4、gfx950、128 CUs、144GB HBM3E、SPX compute／NPS1）、vBIOS 113-350P-01-1K1-000A、GPU Driver 6.19.13-2353916.24.04、ROCm™ 7.14.0（AMD-SMI 26.5.0）；主機採用雙路AMD EPYC™ 9455處理器（48核心）、Dell PowerEdge XE7745、BIOS 1.7.6、microcode 0xb002162、啟用SMT、Ubuntu 24.04.4 LTS、Linux 6.8.0-124-generic。NVIDIA RTX PRO 6000平台：8張NVIDIA RTX PRO 6000 Blackwell Server Edition、vBIOS 98.02.8D.00.01、GPU Driver 595.45.04、CUDA 13.2；主機採用雙路AMD EPYC™ 9455處理器（48核心）、Dell PowerEdge XE7745、BIOS 1.6.4、microcode 0xb00215a、啟用SMT、Ubuntu 24.04.4 LTS、Linux 6.8.0-124-generic。不同伺服器製造商可能採用不同系統配置，因此實際結果可能有所差異。測試結果亦可能因系統配置、軟體版本及BIOS設定等因素而有所不同。}

 

 

更多COMPUTEX 2026最新資訊就在 ioioTIME 專區中
現在就加入 ioioTIMES 臉書粉絲團 更多互動、更多好康攏抵加!!
我們有LINE TODAY頻道了，快來追踪我們吧!!--最新科技新聞 盡在你手