AMD EPYC CPU為代理式AI架構的各層級提供強大效能

AMD 發布最新白皮書，揭示在代理式 AI 時代下，CPU 於現代資料中心架構中的關鍵作用。代理式 AI 系統將多元 CPU 角色整合至單一工作流程中，而最新一代 AMD EPYC CPU 能針對各項特定任務進行最佳化，為客戶提供迎接未來 AI 發展的靈活性。

兩年前，規劃 AI 基礎設施主要以訓練階段所需的算力規模為核心；隨後，推論演變成為形塑基礎設施需求的主要因素。如今，AI 代理能將單一請求轉化為一連串動態流程，涵蓋資料檢索、工具呼叫、程式碼執行與結果產出。此一高度靈活的工作流程，使每次執行任務時對算力需求與部署節點的要求皆有所不同。

若基礎設施僅針對單一時間點的需求建構，將面臨無法符合未來需求的風險。因此，架構的靈活性不再只是一項附加特色，而是貫穿整個系統架構各層級的必要條件，包括支援代理式 AI 工作流程的 CPU。

為因應此趨勢，AMD 發表最新白皮書全面評估第 6 代 AMD EPYC™ 9006 系列“Venice”伺服器 CPU 在通用型、企業級、雲端原生、AI 以及高效能運算等多元工作負載下的效能表現，而非僅聚焦於少數特定工作負載。

 

第6代AMD EPYC CPU展現領先業界的效能表現：

·    在 SPECrate® 2026 Integer 效能測試中，AMD EPYC™ 9996 伺服器 CPU 的每核心效能為 NVIDIA Vera 架構平台的 1.2 倍，平台級效能更達 2.24 倍。
·    在涵蓋伺服器端 Java、OpenSSL、MongoDB、Redis、NGINX 及交易處理等企業級與雲端原生測試中，AMD 測試結果顯示，其效能提升 2.4 倍至 3.7 倍。
·    與 Intel® Xeon® 6980P 處理器相比，AMD EPYC 9996 伺服器 CPU 在分子動力學、材料建模與天氣預報等領域，展現 1.8 倍至 3.13 倍的效能優勢。
·    在模擬 100 千瓦機櫃配置下，AMD EPYC 9996 伺服器 CPU 吞吐量預估可達 Vera 架構平台的 3.4 倍。

 

強大的高負載每核心效能可加速對延遲敏感的工作任務，而卓越的核心密度則能支援高併發需求，並提升機櫃級吞吐量。藉由多元化的處理器產品組合，客戶無須讓整體伺服器陣列（Fleet）採用相同的處理器，即可針對這兩類需求進行最佳化。

“Venice”是基於此設計理念所打造的產品組合之一：四大產品系列運行於共同的軟體基礎之上，涵蓋8核心的邊緣部署、256 核心的旗艦級處理器，以及機櫃級 AI 主機節點。代理式流程中的每個角色皆能採用最適合的處理器配置，無須為此建立獨立的運作環境。

“Venice”目前已進入量產階段。各大 OEM 廠商的平台預計如期推出，各大雲端服務供應商則將於今年稍後開始部署。

完整部落格文章敬請參閱此連結。

 

 

9月搞畏獎開跑中，搞畏有獎放送中 | ioioTIMES 中秋大放送 留言得好禮
現在就加入 ioioTIMES 臉書粉絲團 更多互動、更多好康攏抵加!!
我們有LINE TODAY頻道了，快來追踪我們吧!!--最新科技新聞 盡在你手