AMD (NASDAQ: AMD )宣布採用全新 “Zen 6” 架構的第 6 代 AMD EPYC™ 伺服器 SP7 處理器正式上市。隨著 AI 為資料中心帶來 全新需求,AMD 進一步鞏固其長期以來在伺服器 CPU 效能上的領 先地位。搭載全新 CPU 的系統現已由各大伺服器廠商出貨,微軟 A zure 及 OCI 的雲端執行個體也即將上線。
歷經五代發展,AMD EPYC 處理器不斷提升伺服器 CPU 在效能、 能源效率與平台選擇上的標準,其中第 5 代 AMD EPYC 處理器更創下紀錄,成為 AMD 歷史上產能提升最快、 出貨量最高的 EPYC 世代。如今,第 6 代 AMD EPYC 伺服器 CPU 將擴大 AMD CPU 的領先優勢,運行 AI 代理、 加速基礎設施及關鍵企業級應用的運作, 協助客戶擴大運算能力以支援核心業務運作。
AMD 資深副總裁暨運算與企業級 AI 事業群總經理 Dan McNamara 表示:「AI 正大幅擴展 CPU 在資料中心各層級 中所扮演的角色。透過第 6 代 AMD EPYC ,客戶能以經過驗證的 x86 架構進行標準化部署, 同時能選擇針對工作負載最佳化的解決方案, 從而運行更多代理程式、持續供應加速基礎設施的所需的資料, 並支援企業所依賴的業務關鍵應用穩定運作。」
專為現代資料中心打造的全球最佳伺服器 CPU 產品組合
第 6 代 AMD EPYC 為全球最佳伺服器 CPU 產品組合註 1 , 提供針對不同工作負載最佳化的產品堆疊, 除了在各類應用中展現領先效能,更能提升基礎設施的經濟效益, 並保留廣泛 x86 產業體系的靈活性。
代理式 AI 為資料中心帶來更具多樣性的工作負載, 單一工作流程可能同時涉及運行代理程式、呼叫模型、擷取資料、 執行程式碼,並與企業既有的資料庫及應用進行互動。第6 代 AMD EPYC 產品組合專為此現實需求所設計,在保有統一軟體、 安全性與運行基礎的前提下,精準匹配各項任務所需的 CPU 密度、 頻率、頻寬與效率。這種針對工作負載最佳化的策略,在代理式 AI 、企業級服務以及機櫃級解決方案等多項關鍵領域展現顯著優勢。
為更多企業級與雲端服務提供運算支援: 第 6 代 AMD EPYC™ 9996 CPU 為全球最佳通用型處理器,在整體效能、每瓦效能、 每元效能及每插槽效能均取得領先地位。基於 AMD EPYC 9996 CPU 的系統,效能較基於 NVIDIA Vera CPU 的系統帶來高達 3.7 倍的優勢,且效能與每元效能分別為 I ntel® Xeon® 6980P 系統的高達 2.2 倍與 2 倍註 2 。對客戶而言, 這代表每台伺服器能支援更多應用、資料處理量與使用者數量, 協助在現有資料中心的電力與空間限制下, 為新工作負載創造更多運算容量。
在代理式 AI 各個層級展現領先優勢: 代理式 AI 基礎設施涵蓋三種 明確的 CPU 角色,包括通用型服務、GPU 主機節點以及代理沙盒 ,而第 6 代 AMD EPYC 為每種角色皆提供針對工作負載最佳化的處理器。具備高達 5.3 GHz 的高頻率主機節點處理器,其大型語言模型(LLM ) 輸出吞吐量為前代 EPYC 處理器的高達 1.8 倍註 3 ; 而在託管代理沙盒方面,高密度 AMD EPYC 處理器的每瓦代理程式承載能力(Agents-per- CPU-watt ),相較於 NVIDIA Vera 可帶來高達約 3.3 倍的優勢,相較於 Intel Xeon 6980P 亦有約 2.5 倍的優勢註 4 。此外針對代理沙盒應用, 在相同的 35 kW 功耗限制及採用預設電源管理設定的系統相比下,基於 AMD EPYC 9996 CPU 的伺服器預估每機櫃可支援約 1.18 倍的代理程式數量註 5 。
在競爭選擇日益明確的情況下, 面對架構極具差異化的現代資料中心,採用第 6 代 AMD EPYC 的客戶無須再妥協於單一尺寸的 CPU 規格。AMD EPYC 提供卓越效能、豐富選擇與完善的產業體系支援, 協助客戶將 AI 從單純解答推進至採取行動, 並為下一階段的發展做好準備。
從伺服器節點延伸至機櫃級 AI 解決方案
第 6 代 AMD EPYC 將其領先優勢從單一伺服器延伸至 AMD Helion™ 代理式 AI 機櫃, 提供三種部署選項以精準配對客戶的營運模式與環境:AMD Helion Liquid 可與大型代理式 AI 部署中的 AMD Helios™ Rackscale 機櫃級解決方案並排配置, 提供最大的代理程式部署密度;AMD Helion Air 適用於在現有空冷資料中心內擴充代理程式算力;AMD Helion Air Inference 將 CPU 執行與本地 GPU 推論整合於單一機櫃 中。
AMD 攜手整體伺服器產業體系,共同開發高密度 AMD Helion 機櫃,特定配置在單一機櫃中最高可達 73,728 執 行緒,提供目前單一機櫃所能支援的最高代理程式數量。 隨著代理程式需求增長,客戶可依據自身基礎設施靈活配置 CPU 與 GPU 算力、散熱及網路連線能力。
廣泛的產業體系支援與供貨資訊
搭載第 6 代 AMD EPYC 伺服器處理器的系統現已由各大伺服器廠商出貨:
Meta 作為目前 AMD 的重要客戶,目前正與 AMD 密切合作驗證 基於第 6 代 AMD EPYC CPU 的平台,為大規模部署作準備。
微軟 Azure 正在將第 6 代 AMD EPYC 導入其 AI 基礎設施堆疊中,用於 AI 資料處理、代理式 A I 及 HPC 的 Azure HDv2 現已開放預覽;適用於 EDA 與技術運算的 Azure HXv2 ,以及基於 AMD Helios 、專為規模 AI 推理所打造的 Azure ND MI455X v7 也已推出預覽版。
AMD 近期公布與 OCI 多代合作計畫的最新進展。OCI Compute E7 雲端運算執行個體將採用第 6 代 AMD EPYC 伺服器處理器,支援企業級應用及圍繞 AI 模型運行的 CP U 服務。
憑藉第 6 代 AMD EPYC ,AMD 將延續五代在伺服器 CPU 的領先優勢, 進一步擴展至代理式 AI 時代;從單一伺服器到整體機櫃, 提供更高的運算效能、更優異的經濟效益以及更多元的選擇。 無論是在企業級、雲端、HPC 或 AI 基礎設施領域,EPYC 都能 為客戶提供滿足當前與未來工作負載需求的完整產品組合。
註1 :「最適合雲端、企業與AI 的CPU 」之聲明,係基於AMD 截至2026 年7 月23 日,針對受評估之通用型企業伺服器CPU ,就預估效能、執行緒密度、企業工作負載結果、AI 基準測試效能 、能源效率、記憶體子系統功能、I/O 功能、 製程技術及內建安全功能所進行之最佳整體組合評估。「最佳」 係指在受評估之雲端、企業與AI 標準中具備最強的整體組合, 並不代表在每一項個別工作負載或指標上皆居領先。 無法進行可比較測試或未定位為通用型企業伺服器CPU 之產品, 均未納入比較。(EPYC-029E)
註2 :SPECrate®2017_int_base 比較係根據 截至2026 年11 月5 日於www.spec.org 公布之成績 ,以及AMD 截至2026 年10 月10 日針對2P NVIDIA Vera 與2P Arm AGI 之內部預估。效能最高之2P 伺服器CPU 係依據已公布之最 高2P SPECrate®2017_int_base 成績, 以及已公布之最高每CPU (每插槽)成績。 以下結果與配置格式為:[ 處理器] 、[ 核心數] 、[ 預設CPU 功 耗或TDP] 、[ 千顆採購單價(美元)] 、[ 成績] 、[ 成績/ CPU W] 、[ 成績/ 千顆採購單價(美元)] 、[ 成績/ 核心] 、[ 成績 連結] 。(9xx6-004C)
•2P AMD EPYC 9996 、512C 、600W 、14,904 美元、5470 、9 .117 、0.367 、10.68 、https://www. spec.org/cpu2017/results/ res2026q4/cpu2017-20261020- 52013.html
•2P AMD EPYC 9965 、384C 、500W 、11,988 美元、3260 、6 .520 、0.272 、8.49 、https://www. spec.org/cpu2017/results/ res2026q4/cpu2017-20261005- 51950.html
•2P Intel Xeon 6990E+ 、576C 、450W 、14,995 美元、3050 、6.778 、0.203 、5.30 、https://www. spec.org/cpu2017/results/ res2026q2/cpu2017-20260518- 51499.html
•2P Intel Xeon 6980P 、256C 、500W 、13,955 美元、2510 、 5.020 、0.180 、9.80 、https://www. spec.org/cpu2017/results/ res2025q4/cpu2017-20251126- 50522.html
•2P NVIDIA Vera 、176C 、450W 、價格未公布、AMD 預估值145 9 、3.242 、不適用、8.29
•2P Arm AGI 、272C 、300W 、價格未公布、AMD 預估值1944 、6.480 、不適用、7.15
NVIDIA Vera 與 Arm AGI 成績為 AMD 基於工程預測之內部預估值,並可能隨時變動; NVIDIA Vera預估值係參考 Phoronix 已公布之測試結果: htt ps://www.phoronix.com/review/ nvidia-vera-benchmarks/ 。 NVIDIA Vera 與 Arm AGI 之價格未公布。 Intel CPU W 與價格資料來源為 https://ark.intel. com/ ,截至 2026 年 11 月 5 日。自第 6 代 AMD EPYC™ 伺服器處理器系列起, AMD 改以 Default CPU Power 描述處理器功耗,取代 AMD 過往採用的 TDP 指標。 Default CPU Power 反映處理器在既定效能目標下,運算晶片與 I/O 晶片的 總功耗。 Default CPU Power 與 TDP 皆可作為處理器功耗參考,用於產品比較、 平台規劃及每瓦效能分析。 SPEC® 、 SPEC CPU® 、 SPECrate® 及 SPECint® 為 Standa rd Performance Evaluation Corporation 之註冊商標,詳情請參閱 www. spec.org 。 AMD CPU 價格截至 2026 年 11 月 5 日。實際結果可能因系統配置、 軟體版本及 BIOS 設定等因素而有所差異。
註3 :模型權重CPU 卸載LLM 推論輸出吞吐量比較,係基於AM D 截至2026 年7 月13 日之內部測試,於PCIe Gen 5 x16 主機連結上量測,並依主機至GPU 連結頻寬推估至PCIe Gen 6 x16 。比較對象為第6 代AMD EPYC 96 核心高頻(HF )處理器主機節點(PCIe Gen 6 、5GHz )與第5 代AMD EPYC 9575F (PCIe Gen 5 、5GHz ),並以第6 代Intel Xeon 6960P 主機節點作為競品參考。所有量測系統皆以雙插槽( 完整節點)運行,並停用SMT 。工作負載:Qwen3-30B- A3B ,BF16 權重(常駐約61 GB ),張量平行度=1 ,1024 個輸入token ,256 個輸 出token ,vLLM CPU 卸載,取n=3 次迭代之中位數,於1 顆NVIDIA B200 上量測。第5 代AMD EPYC 9575F 於Gen 5 下量測之輸出吞吐量,在卸載權重為6 、9 、12 及20 GB 時,分別為每秒148.4 、114.8 、93.8 及61.7 個token ;PCIe 接收頻寬維持在Gen 5 x16 上限的89% 至95% ,主機DRAM 讀取頻寬則低於其61 4 GB/s 上限的10% ,證實吞吐量瓶頸在於PCIe 連結( 而非主機記憶體)。由於解碼階段受限於PCIe 傳輸,將主機至G PU 頻寬加倍(由每方向64 GB/s 的Gen 5 x16 提升至每方向128 GB/s 的Gen 6 x16 ),預估第6 代AMD EPYC 96 核心HF 處理器之吞吐量上限可達1.8 至1.9 倍。第6 代I ntel Xeon 6960P 於Gen 5 下量測之輸出吞吐量,在卸載權重為9 及12 GB 時分別為每秒104.9 及82.3 個token (n=3 次迭 代之中位數,採用相同NVIDIA B200 主機與vLLM 配置),第5 代AMD EPYC 9575F 在相同卸載點則為每秒114.8 及93.8 個toke n ,因此第5 代AMD EPYC 9575F 之輸出吞吐量為第6 代Intel Xeon 6960P 的1.09 倍及1.14 倍(最高1.1 倍)。 記憶體配置為24 條128 GB DDR5-6400 (AMD )及24 條64 GB DDR5-6400 (Intel );主機DRAM 使用率全程低於 10% ,因此記憶體容量並非吞吐量瓶頸。初步效能預估係基於AM D 截至2026 年7 月13 日之工程預測或量測結果, 並可能隨時變動。PCIe 為PCI-SIG Corporation 之註冊商標。(9xx6-022)
註4 :本比較係基於已公布之頂級型號核心數與CPU W (第6 代EPYC 採預設CPU 功耗;第5 代EPYC 、Inte l® Xeon® 及Nvidia Vera 採TDP ),針對搭載AMD EPYC™ 256 核心(400W )、AMD EPYC™ 9965 (500W TDP )、Nvidia Vera (450W TDP )、ARM AGI (300W TDP )、Intel® Xeon® 6980P (500W TDP )及Intel Xeon 6990E+ (450W TDP )之伺服器,估算每CPU W 最高代理數量,資料截至2026 年7 月22 日。每核心2 個執行 緒(SMT );ARM AGI 為每核心1 個執行緒。代理數量為估計值, 係在一致的理論工作負載下,以可用CPU 執行緒資源作為替代指標 推算而得。實際代理容量與吞吐量將因工作負載、模型、記憶體、 軟體、編排方式及系統配置而異。自第6 代AMD EPYC™ 伺服器處理器系列起,AMD 改以「預設CPU 功耗」( Default CPU Power )描述處理器功耗,取代AMD 過往所採用的TDP 指標 。預設CPU 功耗反映處理器運算晶粒與I/O 晶粒在達成所述效能 目標時的總功耗。預設CPU 功耗與TDP 皆可作為產品比較、 平台規劃及每瓦效能分析的處理器功耗參考依據。Intel Xeon TDP 資料來源為ark.intel.com 。Nvidia Vera TDP 資料來源:https://developer. nvidia.com/blog/nvidia-vera- cpu-sets-a-new-standard-for- agentic-workloads-in-ai- factories/ 。ARM AGI 規格來源:https://www.arm.com/ products/cloud-datacenter/arm- agi-cpu#Specifications 。(9xx6- 014B)
註5 :每機架代理數量比較,係基於AMD 截至2026 年11 月之 分析,對象為搭載AMD EPYC™ 9996 (256 核心、啟用SMT 、預設CPU 功耗600W )、 每插槽配置16 條DDR5-8000 RDIMM 之伺服器,部署於35 kW 機架(每機架最多20 台伺服器)。
• 預設配置(每插槽SOC 與DIMM 合計功耗830W ):每機架 16 台伺服器,每機架代理數量1.00 倍。
• 採用UPP 並將SOC 與DIMM 合計功耗上限降低10% ( 每插槽747W ):每機架17.8 台伺服器,每機架代理數量1. 11 倍。
• 採用UPP 並將SOC 與DIMM 合計功耗上限降低15% ( 每插槽706W ):每機架18.8 台伺服器,每機架代理數量1. 18 倍。
採用 UPP 之每瓦代理數量: AMD EPYC 9996 ( 256 核心、啟用 SMT 、預設 CPU 功耗 600W ) 之每 CPU W 代理數量,估計約為 Arm AGI ( 136 核心、每核心 1 個執行緒、 300W TDP )的 1.9 倍。在 UPP 將 SOC 與 DIMM 合計功耗上限降 低 15% 的情況下,每機架瓦代理數量估計可提升 1.18 倍, 每瓦代理數量優勢估計可達約 2.2 倍。 Arm AGI 規格來源: https://www.arm.com/ products/cloud-datacenter/arm- agi-cpu#Specifications 。 每機架伺服器數量之估算方式,係依每台伺服器功耗上限, 反比例推算可容納於機架功率範圍內的伺服器數量,且未取整數。 依據 AMD 針對第 5 代 AMD EPYC™ 128 核心 500W 處理器執行 SPEC CPU®2017 整數工作負載之內部測試,在功耗上限降低 10% 與 15% 時,每台伺服器平均效能降幅估計分別為 0% 與 1% 。 代理數量為估計值,係在一致的理論工作負載下,以可用 CPU 執行 緒資源作為替代指標推算而得。 實際代理容量與吞吐量將因工作負載、模型、記憶體、軟體、 編排方式及系統配置而異。 UPP 之節能效益與效能影響取決於實測 DIMM功耗,並將因工作負載與運作條件而異。 系統製造商的配置可能有所不同,進而產生不同結果。 初步效能預估係基於 AMD 截至 2026 年 11 月 5 日之工程預測或 量測結果,並可能隨時變動。 SPEC® 及 SPEC CPU® 為 Standard Performance Evaluation Corporation 之註冊商標,詳情請參閱 www. spec.org 。 (9xx6-086A)
11月搞畏獎現正開跑,留言抽好禮!!
ioioTIMES IG | Threads 歡迎加入!!
我們有LINE TODAY 頻道了,快來追踪我們吧!!--最新科技新聞 盡在你手
Continue Reading