智慧體人工智慧的轉變對人工智慧工廠提出了新的 CPU 要求:快速的核心、巨大的記憶體頻寬以及在所有核心都處於活動狀態時保持高效能的能力。
Phoronix 今天發布的初步基準測試結果表明,NVIDIA Vera CPU 能夠滿足這項需求。此次公開測試主要針對 Vera 在現代資料中心中專為代理工作負載而設計的場景。
Vera CPU 在提供 AI 工廠所需吞吐量的同時,優化了平台功耗。它擁有 88 個 NVIDIA 定制的 Olympus 核心、1.2TB/s 的記憶體頻寬以及高速片上互連架構,打造出兼具核心效能和記憶體頻寬,且功耗控制高效的 CPU 平台。

NVIDIA Olympus帶來強勁效能
Vera 的核心是客製化的 NVIDIA Olympus CPU 核心。 Olympus 完全相容於 Armv9.2 指令集架構,專為支撐智能體 AI 的順序 CPU 工作而設計,例如:分支密集型運行時、沙盒代碼、資料處理和編排。
Vera 的單晶片、寬核心、先進的分支預測和第二代 NVIDIA 可擴展一致性架構幫助 Vera 保持資料在所有 88 個核心上流動。
Phoronix 對單路 Vera CPU 的測試表明,該 CPU 的熱設計功耗為 450 瓦,內存功耗低於 30 瓦,在該功耗範圍內提供了出色的性能,並且在代碼編譯、文件壓縮、視頻轉碼、Python、Java 和數據庫管理等廣泛的工作負載中實現了代際提升。
這些正是智能體和人工智慧工廠每天運行的那些佔用大量 CPU 資源的任務:編譯程式碼、執行運行時、壓縮資料、查詢資料庫和協調大型軟體堆疊。
「一開始,我對 NVIDIA Vera 搭載全新 Olympus 核心的性能並沒有抱太大期望,」Phoronix 創始人兼首席作者 Michael Larabel 寫道。 “但最終我意識到,這是迄今為止對 Intel 和 AMD x86_64 處理器最強大的競爭對手。”
記憶體效能方面“優勢巨大”
代理工作負載並非僅受限於核心數量。它們需要高核心利用率和持續的記憶體頻寬,因此每瓦記憶體效能是影響 CPU 整體效率的關鍵因素。
Vera 採用了第二代 LPDDR5X 記憶體子系統,與 DDR5 相比,每位元能耗大幅降低。這使得 Vera 能夠提供高達 1.2 TB/s 的頻寬——峰值記憶體頻寬是傳統 CPU 的兩倍,而記憶體功耗不到 30 瓦,相比之下,傳統 DDR5 的記憶體功耗超過 100 瓦。
在 Phoronix STREAM TRIAD 測試中,Vera 保持了 90% 的峰值記憶體頻寬——在 Phoronix 測試的所有 CPU 中,達到了額定峰值頻寬的最高百分比——並且與傳統的 x86 CPU 相比,每個核心的記憶體頻寬提高了 4 倍以上。
Larabel 寫道:“NVIDIA Vera 及其 LPDDR5X 記憶體展現了相對於當前 Intel Xeon 和 AMD EPYC 處理器的驚人內存性能優勢。”
然而,峰值頻寬只是問題的一部分。 AI 工廠工作負載會同時運作多個沙箱、工具呼叫和資料服務。 Prime Intellect 在 Vera 的獨立測試中發現,隨著更多工作負載並行運行,Vera 仍能保持高頻寬和低且穩定的記憶體延遲——這正是智慧體 AI 所需的可預測效能。
巨大的世代飛躍——以及 Phoronix 測試領域的領導地位
與上一代 NVIDIA Grace CPU 相比,Vera 在 Phoronix 的測試中實現了 1.6 倍的幾何平均效能提升——這是一個令人難以置信的世代提升。
Larabel 寫道:「從 Grace 到 Vera 的升級,其性能提升始終超出我對處理器代際性能的預期。NVIDIA 的 Vera CPU 憑藉其自主設計的 Olympus CPU 核心,最終展現出強大的性能,足以與 Intel/AMD 的 x86_64 CPU 相媲美,這是我在其他任何 ARM 或非處理器中都從未見過的 ARM 」。
Vera 在本次測試的 CPU 中表現最佳,與最新一代 128 核心 x86 處理器相比,整體效能提升了 1.5 倍。這一優勢在實際的開發者工作負載中得到了充分體現。單路 Vera 僅用 20 秒就編譯完成了一個預設的 Linux 內核,這是 Phoronix 在該測試中測得的最快成績。 Vera 的單核心 Linux 核心編譯速度比 128 核心處理器快了 2 倍。
Larabel 寫道:“從幾何平均值來看,NVIDIA Vera 的性能比 AMD EPYC 9575F 5.0 GHz 高頻處理器高出 10%。”
Vera正在進行客戶測試,即將由合作夥伴推出
在 NVIDIA GTC 大會上,NVIDIA 宣布 Vera 將獲得廣泛的生態系統支持,涵蓋 AI 原生開發者、超級運算中心、雲端服務供應商和基礎設施供應商。
NVIDIA 也已向領先的 AI 公司和雲端供應商交付了首批 Vera CPU,這標誌著 Vera 在今年下半年向合作夥伴推出邁出了重要一步。
Vera 將透過合作夥伴以雙路和單路系統的形式提供,並提供風冷和液冷選項,以支援從標準企業資料中心到高密度智能體 AI 基礎設施的 AI 工廠部署。
了解更多關於 NVIDIA Vera的資訊。
