AMD攜手合作夥伴,以領先業界的EPYC處理器、Instinct GPU、ROCm軟體堆疊及Ryzen AI PC,推動開放式AI運算
隨著人工智慧(AI)技術的飛速演進,算力已成為推動企業創新與實現轉型的核心動能。AMD 今日在台北舉辦「2025 AMD AI SOLUTIONS DAY」,以「從算力出發.引領 AI 無限可能」為主題,由 AMD 與 30 多家 OEM/ODM、ISV 及嵌入式合作夥伴分享最新 AMD EPYC™處理器、Instinct™ GPU、AMD 嵌入式產品及 Ryzen™ AI PC 的突破性製程和封裝技術、效能與創新應用。

現場更帶來搭載最新第 5 代 AMD EPYC 處理器、AMD Instinct MI350 系列 GPU、AMD Pensando™ Pollara 400 AI NIC 及消費級與商用 AMD Ryzen AI PC 的展示,揭示 AMD 如何憑藉領先業界的 CPU、GPU、網路解決方案和開放式軟體等全方位端對端 AI 運算產品組合與產業體系,加速 AI 應用落地,拓展 AI 運算版圖。
AMD 台灣區商用業務處資深業務副總經理林建誠於開場演講中闡述,AI 創新正以前所未有的速度加速發展,訓練模型不斷演進、推論規模持續擴大、模型數量爆炸性成長,以及 AI 代理(AI Agent)的興起,都預示著 AI 運算將迎來嶄新紀元。

AMD 憑藉 AMD EPYC CPU、Instinct GPU、Pensando DPU、Ryzen AI CPU、Radeon™ AI GPU、以及 Versal™自行調適系統單晶片(SoC)等業界最佳的端對端 AI 運算產品陣容,全方位推動 AI 進程。同時,為持續推動開放式 AI 產業體系,AMD 推出最新版開源 AI 軟體堆疊 ROCm™ 7,旨在滿足生成式 AI 和高效能運算不斷增長的需求,並全面優化開發人員的體驗。
AMD EPYC處理器、AMD Instinct GPU協助新一代資料中心全面釋放AI潛力
AMD EPYC 處理器持續展現強勁動能,為企業、AI 和雲端等廣泛的資料中心工作負載帶來頂尖效能。第 5 代 AMD EPYC 處理器採用台積電 3 奈米、4 奈米製程技術,搭載 “Zen 5” 核心架構,相容於廣泛部署的 SP5 平台,並提供 8 核心到 192 核心的廣泛核心數量,提供破紀錄的效能和能源效率。其中,64 核心的 AMD EPYC 9575F 提升頻率高達 5GHz,與 Intel Xeon 8592+ 相比,在虛擬架構中提供高達 1.6 倍的每核心效能,帶來更優異的效能與效率。
新推出的 AMD EPYC 4005 系列處理器專為特定用途所設計,為中小型企業和 IT 託管服務供應商提供合適尺寸並具備企業級功能和領先效能的解決方案。搭載高達 16 個 “Zen 5” 核心,AMD EPYC 4005 系列處理器在經濟實惠、易於部署的平台上,提供效能、可靠性和效率的完美平衡。在 Phoronix 測試套件上進行的測試中,16 核心 EPYC 4565P 的效能為 Intel Xeon 6300P 中最高階 CPU 的 1.83 倍註1。
此外,AMD 持續兌現其 Instinct GPU 的年度藍圖承諾,最新推出的 Instinct MI350 系列 GPU 為生成式 AI 和高效能運算樹立效能、效率和可擴展性的全新標竿。Instinct MI350X 和 MI355X GPU 基於 AMD CDNA™ 4 架構,提供領先業界的 288GB HBM3E 記憶體容量以及高達 8TB/s 的頻寬,比上一代產品帶來高達 4 倍的 AI 運算註2和高達 35 倍的推論效能,為 AI 訓練及推論帶來卓越的吞吐量。其中,MI355X 在 DeepSeek R1、Llama 3.1 405B 等為大型模型提供最高吞吐量的推論效能,助力各產業實現變革性 AI 解決方案。同時,MI355X 在性價比方面亦帶來顯著提升,相較於 NVIDIA B200 解決方案,每美元可產生多達 40% 的 Token註3。
同時,AMD 持續推進開放式 AI 產業體系,透過最新版本的 AMD 開源 AI 軟體堆疊 ROCm™ 7 滿足生成式 AI 和高效能運算工作負載日益增長的需求,同時全面顯著提升開發人員體驗。ROCm 7 具備更完善的業界標準框架支援、擴展的硬體相容性,以及全新的開發工具、驅動程式、API 和函式庫,以加速 AI 開發和部署。

AMD打造極致客戶端AI解決方案
隨著消費者和專業人士越來越重視 AI PC 的生產力優勢,AMD 持續擴大支援 AI 的處理器陣容,為新一代 AI PC 帶來令人驚豔的效能。
全新 Ryzen AI Max 系列處理器為遊戲玩家、創作者和日常使用者提供工作站級效能,搭載高達 16 個 “Zen 5” CPU 核心、高達 40 個 AMD RDNA™ 3.5 繪圖運算單元,以及具備高達 50 TOPS AI 處理能力註4的 AMD XDNA™ 2 神經處理單元(NPU),在超便攜的尺寸中實現最佳行動力。此外,配備 AMD PRO 技術的 Ryzen AI Max PRO 系列處理器讓使用者能夠處理大型工程和建築模型,並應付複雜的 AI 加速工作負載。
Ryzen AI 300 系列處理器則搭載高達 8 個 “Zen 5” CPU 核心和 RDNA 3.5 顯示架構。憑藉搭載 AMD XDNA 2 技術、具備業界領先效能的 NPU註5,此系列處理器提供比第一代 NPU 高達 5 倍的效能,帶來更強大的 AI 運算能力註6。
此外,為滿足日常商務生產力需求,Ryzen AI PRO 300 系列處理器支援新一代 Microsoft Copilot+ 體驗,其領先的峰值 50+ NPU TOPS AI 效超越微軟對於 Copilot+ PC 的要求,為 Windows 11 打造新一代 AI 體驗,並為企業提供支援 AI 轉型的運算能力。藉由 AMD PRO 技術,Ryzen AI 300 PRO 系列處理器為行動商務專業人士提供卓越的安全性和管理功能。
Radeon AI PRO R9700 是 AMD 最先進的專業繪圖解決方案,專為本地 AI 推論、模型微調和複雜的創意工作負載而設計,並支援多 GPU 系統部署以實現可擴展性。憑藉 64 個運算單元、128 個第 2 代 AI 加速器,結合 32GB 高速 GDDR6 記憶體、先進的 RDNA 4 架構,以及對 FP8、FP16 和 INT8 精度的支援,Radeon AI PRO R9700 不僅提供充足的 TOPS 效能,更具備處理當今最嚴苛 AI 工作負載所需的靈活性。
在實際應用場景中,包括高 Token 數的大型語言模型(LLM)提示以及指令微調模型,Radeon AI PRO R9700 卓越效能為競爭對手 16GB 等級 GPU 的高達 5 倍註7,為專業工作站中受記憶體限制的 AI 效能樹立全新標竿。此外,AMD Radeon AI PRO R9700 完全相容於 AMD ROCm 開放軟體平台,為開發人員提供強大且可擴展的 AI 與高效能運算環境。

AMD攜手資料中心合作夥伴展現領先優勢
除了 AMD 主題演講,多位 AMD 合作夥伴共襄盛舉,深入探討如何運用 AMD 創新技術,協助客戶實現高效能、高效率的 AI 部署,共同引領產業邁向智慧化新里程。
台灣人工智慧學校校務長蔡明順以「台灣 AI 進行式:產業創新、開源擴散與人才轉型」為題發表演講,指出 AI 時代所需能力應聚焦於 AI 基礎知識、技術實作與系統管理,以提升整體 AI 競爭力,並透過產學合作,加速 AI 在各產業的落地與創新。

群聯電子創辦人暨執行長潘健成分享群聯電子與 AMD 攜手合作,協助客戶將現有桌上型及筆記型電腦快速升級為 AI PC。透過整合群聯 aiDAPTIV™技術與 AMD Ryzen AI MAX 處理器的 iGPU,無需改變現有硬體,即可顯著降低 AI PC 成本並大幅提升推論效能。


此外,現場更邀請多位 AMD 合作夥伴針對現今應用環境現身說法,深入探討 AI 基礎架構演進、AI 產業動能、AI 應用落地策略及 AI PC 生產力四大主題。AMD 不僅展現其在高效能運算領域的領先實力,更透過開放標準積極串聯產業體系,從硬體創新、軟體最佳化到應用普及,全面推動 AI 技術的發展與落地,為各行各業的 AI 轉型注入強勁動能。

註1:E4K-021:基於Phoronix測試套件的付費測試,截至2025年4月1日416項工作負載結果的幾何平均值。
搭載1P 16核心AMD EPYC 4565P的伺服器( 3201GB Micron_7450_MTFDKCC3T2TFS + 960GB SAMSUNG MZ1L2960HCJR-00A07,589美元,TDP 170瓦,2 x 32GB DRAM-5600MT/s Kingston)對比搭載1P 8核心Intel Xeon 6369P的伺服器(3201GB Micron_7450_MTFDKCC3T2TFS,606美元,TDP 95瓦,2 x 32GB DRAM-4800MT/s Kingston)。
幾何平均值Rel2488 Rel6369P
6369P 233.101 1.036 1.000
4565P 426.123 1.894 1.828
截至2025年4月1日,AMD 1Ku售價及Intel ARK.intel.com規格和售價。測試結果未經AMD獨立驗證。
註2:MI350-004:根據AMD效能實驗室於2025年5月進行的計算,測定8個AMD Instinct™ MI355X和MI350X GPU(平台)以及8個AMD Instinct MI325X、MI300X、MI250X和MI100 GPU(平台)使用FP16、FP8、FP6和FP4資料類型搭配矩陣的峰值理論精準度效能。伺服器製造商可能會變更配置,從而產生不同的結果。結果可能因使用最新驅動程式和最佳化而異。
註3:MI350-049:基於AMD實驗室截至2025年6月6日的效能測試結果,使用FP4資料類型搭配各種輸入、輸出token長度組合,在AMD Instinct™ MI355X 8x GPU上測量LLaMA 3.1-405B模型生成的文字推論吞吐量,並與NVIDIA B200 HGX 8xGPU的已發佈結果進行比較。每美元效能的計算方式是根據Coreweave網站上NVIDIA B200的現行價格以及預期的基於Instinct MI355X的雲端執行個體價格。伺服器製造商的配置可能有所不同,從而產生不同的結果。效能可能因使用最新的驅動程式和最佳化而異。目前的客戶價格截至2025年6月10日,可能隨時變更。
註4:GD-243:AMD Ryzen處理器的每秒兆次運算(TOPS)是在最佳情況下可執行的最大每秒運算次數,可能不具典型性。TOPS可能會因多種因素而異,包括特定系統配置、AI 模型和軟體版本。
註5:STXP-06:根據截至2024年10月的AMD產品規格和競爭產品公告。AMD Ryzen™ AI PRO 300系列處理器的NPU提供高達55的峰值TOPS。這是目前企業中任何系統所能提供的最高TOPS。AI PC定義為配備包含神經處理單元(NPU)之處理器的筆記型電腦。
註6:STXP-13:截至2024年9月,AMD效能實驗室在配備AMD Ryzen™ AI 7 PRO 360處理器(22W)、Radeon™ 880M顯示核心、32GB RAM、1TB SSD、VBS=ON、Windows 11 Pro的Lenovo ThinkPad T14s Gen 6上進行測試,與配備Intel Core Ultra 7 165U處理器(15W,已啟用vPro)、Intel整合式顯示核心、VBS=ON、32GB RAM、512GB NVMe SSD、Microsoft Windows 11 Professional的Dell Latitude 7450在應用程式中(最佳效能模式)進行比較:Cinebench R24 nT。筆記型電腦製造商的配置可能有所不同,導致結果不同。
註7:RPW-495:根據AMD於2025年5月進行的測試。測試方法為3次執行平均每秒Token數,並排除模型開始失控(超過2k思考Token)的邊緣情況,以標準化回應長度。無推測解碼。所有測試均在LM Studio 0.3.15 (Build 11)上進行。AMD採用Vulkan Llama.cpp 1.28,NVIDIA採用NVIDIA推薦的CUDA 12 llama.cpp 1.30並啟用Flash Attention。短提示:「從10米高處掉落的球需要多長時間才能落地?」長提示:「請用精確的五行總結以下內容:『插入羅密歐與茱麗葉第一幕第一場』」。測試模型:Phi 3.5 MoE Q4 K M、Mistral Small 3.1 24B Instruct 2503 Q8、DeepSeek R1 Distill Qwen 32B Q6、Qwen 32b Q6。系統規格:AMD Ryzen™ 9 7900X、32GB DDR5 RAM 6000 MT/s、Windows 11 PRO 24H2、AMD Radeon™ AI PRO R9700 32GB使用Adrenalin 25.6.1 RC;對比AMD Ryzen™ 9 7900X、32GB DDR5 RAM 6000 MT/s、Windows 11 PRO 24H2搭載NVIDIA GeForce RTX 5080並使用GeForce 576.4驅動程式。效能可能因配置而異。