在更少的伺服器上運行更多的工作,以降低電力、空間和許可成本,同時為未來創造容量
伺服器整合對於管理資料中心基礎架構的 IT 組織來說是一項至關重要的專案。其目標非常明確:在不犧牲效能或中斷關鍵應用程式的前提下,將工作負載從大量老舊、效率低下的系統遷移到數量更少、性能更強的伺服器上。
如果整合得當,就能改善伺服器資產的經濟效益。它可以釋放機架空間和電力,降低每個核心的軟體授權成本,並為未來的成長創造空間——無論下一步的重點是擴展業務應用程式、分析還是人工智慧。
AMD EPYC專為提升能源效率而打造
有效的整合取決於在不犧牲效能或造成不必要的遷移複雜性的前提下,將更多現有工作負載遷移到更少的伺服器上。 AMD EPYC™ 處理器在企業已使用的 x86 架構上,兼具高核心密度、強大的單核心效能和卓越的能源效率。這意味著 IT 團隊可以實現更大幅度的整合,而無需承擔將工作負載遷移到基於 Arm® 的伺服器時可能遇到的應用程式驗證和遷移問題。
第五代 AMD EPYC™ CPU 為目前能源效率最高的 x86 伺服器提供動力。該產品組合展示了支援大規模整合的強大功能:
• 高密度配置(高達 192 個核心),可運行最大數量的工作負載。
• 高頻選項(最高 5GHz),可最大限度地提高每個核心的效能並降低授權成本。
• 為既需要兩者又需要的工作負載提供平衡的配置。
展望未來,AMD 預計第六代 AMD EPYC™「威尼斯」處理器將進一步擴大這種密度優勢,其配置最高可達 256 個核心。
這些豐富的選擇有助於企業整合更多工作,同時使運算能力與工作負載相符。此外,所創造的容量還能支援未來的發展,包括用於人工智慧推理和訓練的 AMD Instinct™ GPU 以及用於可預測資料傳輸的 AMD Pensando™ 網路。
整合而不損失績效
這些數據令人矚目。企業可以將 100 台使用 5 至 7 年的 Intel® Xeon® Platinum 8280 雙核心伺服器整合為 14 台基於 AMD EPYC™ 9965 CPU 的伺服器——減少 86% 的數量——同時保持相同的整體效能。這可以降低 69% 的能耗,並將三年總擁有成本降低 41% 。 ¹
換句話說:[100 台舊伺服器 x 28 核心 x 2 個插槽 = 5,600 個核心] 比較 [14 台基於 AMD EPYC 9965 CPU 的伺服器 x 192 核心 x 2 個插槽 = 5,376 個核心]。總體而言,這可以釋放大量的資料中心容量。這意味著在現有資料中心範圍內,無需增加額外的實體基礎設施,即可騰出大量的機架空間和可觀的電力用於新的工作負載。
每個核心處理更多工作可以直接轉化為更低的軟體成本。對於按插槽或核心授權的軟體(例如許多主流虛擬化和資料庫軟體包),使用更少的系統和核心可以節省數百萬美元的許可和維護費用。當每個核心都付費時,每個核心處理更多工作就能降低成本。 (這種優勢不適用於按使用者、裝置或其他非基於核心的授權模式。)
實踐中的鞏固
DNSE Securities是一家在越南快速發展的線上股票經紀公司,由於監管要求,它需要類似雲端的密度和效能,但不得不將基礎設施保留在本地。其現有的伺服器環境無法滿足DNSE發展所需的整合需求。
在對 AMD 和 Intel 系統進行基準測試後,DNSE 在其資料中心部署了第三代和第四代 AMD EPYC™ CPU。其機架數量減少了一半,功耗也從每個機架 16 至 17 千瓦降低到每個機架 7 至 9 千瓦。
如今,DNSE 90% 的工作負載運行在 AMD EPYC CPU 上,其中既有對延遲敏感的交易系統使用高頻處理器,也有混合容器化工作負載使用高核心數處理器。這種靈活性——根據特定任務選擇合適的 CPU——使得 DNSE 能夠在不造成資源過度配置的情況下實現擴展。
DNSE 首席技術長 Binh Nguyen 告訴我們:“AMD EPYC CPU 伺服器將使我們能夠繼續建立基礎設施並像現在一樣運行我們的軟體,但規模要大得多。”
為人工智慧留出空間
在各行各業,這種做法的直接價值顯而易見:IT部門能夠以更少的伺服器和機架、更低的能耗和更低的軟體授權成本來支援業務發展。但好處遠不止於此。更有效率地運行現有業務應用程式可以釋放電力、空間和冷卻能力,用於建造新的基礎設施。
對於智慧體人工智慧而言,這種資源預留至關重要:每個智慧體的操作都可能觸發資料庫查詢、API 呼叫、令牌生成和工具執行。將現有工作負載整合到更少但更有效率的伺服器上,有助於騰出容量來支援這些額外的需求,同時也能滿足核心業務應用程式的需求。
隨著企業人工智慧日益涵蓋前沿模式、雲端服務、本地基礎設施和人工智慧客戶端等分散式環境,這種靈活性變得愈發重要。不同的工作負載可能更適合不同的模型和部署位置,這取決於複雜性、資料敏感度、延遲和成本等因素。
對於正在添加人工智慧的組織而言,這意味著可以在現有資料中心容量限制內部署加速器。更廣泛地說,這賦予了 IT 團隊更大的靈活性,使其能夠逐步擴展,並將處理器、加速器和模型與它們最擅長的工作相匹配,而不是圍繞單一模型或工作負載進行重建。
首席資訊長的當務之急
伺服器整合或許並非資訊長議程上的首要任務,但它卻是一項意義重大且可衡量的專案。其成功與否可以透過伺服器數量、機架空間、電力消耗、授權費用和總體擁有成本來衡量。
借助 AMD EPYC 伺服器 CPU,IT 組織可以在不犧牲效能或強制所有工作負載採用單一配置的情況下實現這些目標。最終,不僅能打造更有效率的伺服器環境,還能為未來業務發展預留更多空間。
1. 9xx5TCO-001B
此情境包含許多假設和估計,雖然基於 AMD 內部研究和最佳近似值,但僅應將其視為一個參考範例,不應作為實際測試決策的依據。 AMD 服務器與溫室氣體排放總擁有成本 (TCO) 估算工具 - 版本 1.12,比較了為實現截至 2024 年 10 月 10 日 SPECrate2017_int_base 性能達到 39100 單位所需的基於 AMD EPYC™ 和 Intel® Xeon® CPU 的服務器解決方案。此方案比較了基於傳統 2 路 Intel Xeon Platinum_8280(28 核心)的伺服器(得分 391)與基於 2 路 EPYC 9965(192 核心)的伺服器(得分 3000)(https://www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44837.pdf),以及升級到基於 2 路 Intel Xeon Platinum 8592+(64 核)的伺服器(得分 3000)。 1130(https://spec.org/cpu2017/results/res2024q3/cpu2017-20240701-43948.pdf)。 2P EPYC 9965 的實際 SPECrate®2017_int_base 分數會因 OEM 廠商所發佈的資料而有所不同。環境影響評估基於此數據,並使用了 2024 年國際特定國家/地區電力係數(2024 年 7 月第 10 期)中的國家/地區特定電力係數以及美國環保署的「溫室氣體當量計算器」。更多詳情,請瀏覽https://www.amd.com/en/legal/claims/epyc.html#q=epyc5#9xx5TCO-001B
(作者:Dan McNamara,運算與企業人工智慧 資深副總裁兼總經理)
9月搞畏獎開跑中,搞畏有獎放送中
現在就加入 ioioTIMES 臉書粉絲團 更多互動、更多好康攏抵加!!
我們有LINE TODAY頻道了,快來追踪我們吧!!--最新科技新聞 盡在你手
















