英特爾全面布署資料中心、雲端、網路、邊緣與PC的全面運算領域實現最佳化AI運算效能
英特爾在 2024 台北國際電腦展（COMPUTEX）期間，展示橫跨資料中心、雲端、網路、邊緣運算和 PC 等領域的多項領先技術和架構。英特爾藉由強大運算效能、業界領先的能源效率，以及降低客戶總持有成本（TCO）等優勢，全面助攻客戶掌握AI商機。
新聞重點：
- 推出 Intel® Xeon® 6 處理器：內建效率核心（E-core），針對資料中心的高密度、規模化工作負載進行最佳化，大幅提升效能與能源效率。Intel® Xeon® 6 處理器讓機櫃密度提升三倍，機櫃級效能最高提升 4.2 倍，每瓦效能最高提升 2.6 倍1，滿足資料中心對效能和能耗的嚴苛要求。
- 公布 Intel® Gaudi® 2 和 Intel® Gaudi® 3 AI 加速器套件定價：Intel® Gaudi®系列加速器不僅具備高效能，且成本低於其他平台的三分之一2。此外，將 Xeon 處理器與 Gaudi AI 加速器整合於單一系統，可提供更快速、更實惠且更普及的 AI 解決方案。
- 為持續拓展 AI PC 產品領域，新一代 AI PC 採用 x86 架構突破性的能耗表現，為客戶提供廣大的應用相容性，同時大幅提升功耗效率。相較前一代產品，新世代 Lunar Lake 客戶端處理器架構的系統單晶片（SoC）可降低功耗最高達 40%。
英特爾執行長 Pat Gelsinger（基辛格）表示：「AI 正引領業界邁入最具影響力的創新時代。晶片將再次帶動運算技術快速發展，不僅突破人類潛能，更將在未來數年驅動全球經濟成長。」
Pat Gelsinger 進一步表示：「英特爾是全球少數能夠全面掌握 AI 市場契機，並持續推動創新的企業之一。從半導體製造到 PC、網路、邊緣運算和資料中心等領域，英特爾都有全面佈局。最新推出的 Xeon、Gaudi和 Core Ultra 平台，結合英特爾強大的硬體和軟體生態系，可提供靈活、安全、永續且具成本效益的解決方案，協助合作夥伴搶攻未來龐大的商機。」
英特爾實現AI無所不在
在 COMPUTEX 主題演講中，Pat Gelsinger 強調開放標準和英特爾強大的生態系是加速實現 AI 應用的關鍵驅動力，此一觀點獲得宏碁董事長暨執行長陳俊聖、華碩董事長施崇棠、微軟董事長暨執行長 Satya Nadella 以及英業達總經理蔡枝安等人的共同支持。
過去六個月內，英特爾取得一系列重大突破。從公布第 5 代 Intel® Xeon®處理器上市到推出 Xeon 6 系列首款產品、預告 Gaudi AI 加速器到提供企業客戶高效且具成本效益的生成式 AI 訓練及推理系統。英特爾也宣布目前已有超過 800 萬台裝置搭載 Intel® Core™ Ultra 處理器，顯示 AI PC 時代已然來臨。
因應此趨勢，英特爾揭露將於今年推出的新一代客戶端架構，並憑藉這一系列突破性進展，加速創新步伐、提升生產效率，進而縮短 AI 普及化進程，引領產業變革。
現代化資料中心的AI應用：Intel Xeon 6處理器為高密度、規模化工作負載帶來卓越效能與能源效率
隨著數位轉型加速發展，迫使企業升級傳統資料中心系統。企業不僅要降低成本、實現永續目標，還需要將實體空間的使用率最大化，同時創造全新數位能力。
英特爾專為因應現代化資料中心的挑戰而設計的 Xeon 6 平台和處理器家族，提供 E-core 和 P-core 兩種規格，可處理包含 AI、高效能運算需求以及可擴充的雲端原生應用等廣泛應用情境和工作負載。E-core 和 P-core 建立於相容架構上，不僅可共享軟體堆疊，還受益於開放的軟硬體供應商生態系統支援。
首款發布的 Xeon 6 處理器為 Intel Xeon 6 E-core 處理器（代號 Sierra Forest），Xeon 6 P-core 處理器（代號 Granite Rapids）則預計於下一季度推出。
Intel Xeon 6 E-core 處理器擁有高核心密度和卓越的每瓦效能，不僅可提供高效能運算，還可大幅降低能源成本。此款處理器在效能和能源效率方面的最佳化設計，可適用於雲端原生應用、內容傳遞網路、微服務架構和消費者數位服務等高密度、規模化工作負載環境中。
Intel Xeon 6 E-core 處理器還具備高密度優勢，採用 E-core 的 Xeon 6 處理器讓機櫃密度提升三倍。與第二代 Intel® Xeon®處理器在媒體轉碼工作負載的表現相比3，Intel Xeon 6 E-core 處理器機櫃級效能提升 4.2倍，每瓦效能提升 2.6 倍。藉由降低功耗、擴大機櫃使用空間等特點，Xeon 6 處理器可為創新 AI 應用提供更強大的運算力和更高效的基礎架構。
Intel Gaudi AI加速器提供高效能生成式AI，大幅降低總體擁有成本
現今，生成式 AI 的應用布署和運行不僅更快速，成本也更低。x86 架構作為主流基礎架構，已大規模運行於各類資料中心，並在其中扮演整合 AI 功能的關鍵角色，可確保在合理成本下與其他系統和套件互通，並為使用者提供開放生態系的優勢。
Intel Xeon 處理器是 AI 工作負載中 CPU 節點的絕佳選擇。Intel Xeon 處理器與專為 AI 工作負載設計的 Intel Gaudi AI 加速器可協同運作，提供與現有 IT 基礎架構無縫整合的解決方案。
Intel Gaudi 架構作為唯一通過 MLPerf 基準測試的 Nvidia H100 替代方案，可提供客戶生成式 AI 所需的卓越效能。相較於其他選擇，Intel Gaudi 不僅性價比更具優勢，還能以更低的總體擁有成本（TCO），實現更快速布署。
在定價方面，英特爾提供極具競爭力的方案。一套包含八個 Intel Gaudi 2 加速器和一個通用基板（Universal Baseboard，UBB）的標準 AI 套件，售價為 65,000 美元，約為同級平台的三分之一。更高階的 AI 套件包含八個 Intel Gaudi 3 加速器和一個 UBB 的套件，售價為 125,000 美元，約同級平台的三分之二4。
Intel Gaudi 3 加速器可大幅提升生成式 AI 模型的訓練和推理效能，協助企業充分發揮專屬資料的潛在價值。根據預估，在 8,192 組加速器的叢集環境中，Intel Gaudi 3可比同等規模的 Nvidia H100 GPU 叢集縮短 40％ 模型訓練時間5；在 64 組加速器叢集中，Intel Gaudi 3 在 Llama2-70B 模型上的訓練速度，預計可比 Nvidia H100 快 15％6。此外，Intel Gaudi 3 在運行 Llama-70B 和 Mistral-7B 等大型語言模型（LLM）時，推理性能平均較 Nvidia H100 提高 2 倍7。
Intel Gaudi 3 已推出至市場，除了已與戴爾、慧與科技、聯想和美超微合作外，今日更宣布與華碩、鴻海、技嘉科技、英業達、廣達電腦和緯創展開合作，擴大產品線布局。
加速筆記型電腦的終端AI：新架構帶來3倍AI運算效能提升，實現前所未有的能源效率
除了維持資料中心領域領先地位，英特爾也積極擴大邊緣裝置和 PC 領域的 AI 影響力。英特爾的邊緣布署案例已超過 9 萬個，交付生態系夥伴的 CPU 高達 2 億個，此成果展現英特爾多年來持續提供企業客戶多元化選擇的承諾。
AI 個人電腦正為全方位運算體驗帶來革命性轉變，位於 AI PC 創新時代前端的英特爾，其優勢不僅在於提供更快處理速度與更流暢設計的軟硬體解決方案，更著眼於打造可即時學習、進化的終端裝置。這些智慧型裝置可預測使用者需求，並根據其偏好不斷調適，開創一個兼具生產力、效率和創造力的嶄新時代。
根據預測，2028 年搭載 AI 功能的 PC 將佔所有 PC 數量約 80%。英特爾深刻洞察此趨勢，已著手打造最佳化 AI PC 軟硬體平台。英特爾以 Core Ultra 平台為基礎，與 100 家以上獨立軟體供應商（ISV）緊密合作，共同打造 300項AI加速功能和 500種AI模型。
基於上述優勢，英特爾在 2024 年 COMPUTEX 大會中公布了 Lunar Lake 處理器架構細節。Lunar Lake 作為新世代 AI PC 的旗艦處理器，不只在繪圖與 AI 處理方面都有顯著提升，在輕薄型產品的高效能運算方面也有卓越表現，此款處理器可降低系統單晶片功耗高達 40%3，並提供 3 倍以上 AI 運算能力8。Lunar Lake 處理器預計將於 2024 年第三季度開始出貨。
Lunar Lake 全新架構將提供以下功能：
- 新的 P-core 和 E-core：可大幅提升效能和能源效率。
- 第 4 代英特爾 NPU：提供高達 48 TOPS 的 AI 運算效能，Lunar Lake NPU 較上一代的運算能力提升 4 倍，可最佳化生成式 AI 使用體驗。
- 全新 GPU 架構（代號 Battlemage）：融合了 Xe2 GPU 核心和 Xe Matrix Extension（XMX）陣列兩項創新技術。Xe2 GPU 核心可提升遊戲和繪圖性能 1.5 倍，新的 XMX 陣列則作為第二個 AI 加速器，提供高達 67 TOPS 運算效能，以因應 AI 內容創作所需的龐大吞吐量（Throughput）。
- 先進的低功耗島（Low Power Island）：專為處理背景作業和生產力任務設計的全新運算叢集，具備極高能源效率，可有效延長筆記型電腦的電池續航力。
在其他公司正準備進軍 AI 個人電腦市場之際，英特爾已經搶得先機大量出貨。英特爾 2024 年第一季度交付的 AI 個人電腦處理器數量，已超過所有競爭對手的總出貨量。即將推出的 Lunar Lake 處理器，將為來自 20 家 OEM 廠商、超過 80 款不同型號的 AI 個人電腦提供強大運算效能。英特爾也預計在今年出貨超過 4,000 萬個 Core Ultra 處理器，進一步鞏固其在 AI PC 領域的領先地位。
正如英特爾共同創辦人之一 Gordon Moore（高登·摩爾）所言：「所有已完成的事都能夠被超越」。英特爾始終堅持不懈追求更卓越的境界。憑藉涵蓋客戶端、邊緣、資料中心和雲端的全球布署，以及建立在開放標準基礎上的強大生態系統、具經濟效益的解決方案，致力落實 AI 無所不在的願景、積極擘畫 AI 未來發展藍圖。今日宣布的重大進展，不僅代表英特爾的技術躍進，更是對所有客戶和合作夥伴的誠摯邀請，共同掌握這波前所未有的商機，攜手開創下一個創新時代。
1 See [7T1] at intel.com/processorclaims: Intel® Xeon® 6. Results may vary.
2 Pricing estimates based on publicly available information and Intel internal analysis.
3 Disclaimer for footnote: Power measurements are based on Lunar Lake reference platform using YouTube 4K 30fps AV1. See backup for details. Results may vary.
4 Pricing guidance for cards and systems is for modeling purposes only. Please consult your original equipment manufacturer (OEM) of choice for final pricing. Results may vary based upon volumes and lead times.
5 Source for Nvidia H100 GPT 3 performance: https://mlcommons.org/benchmarks/training/, v3.1, closed division round. Accessed Apr 30th, 2024
Intel Gaudi 3 measurements and projections by Habana Labs, Apr 2024; Results may vary
Intel Gaudi 3 performance projections are not verified by MLCommons Association. The MLPerf name and logo are registered and unregistered trademarks of MLCommons Association in the United States and other countries. All rights reserved. Unauthorized use strictly prohibited. See http://www.mlcommons.org/ for more information.
6 Source for Nvidia H100 LLAMA2-70B performance https://developer.nvidia.com/deep-learning-performance-training-inference/training , Apr 29th 2024 à “Large Language Model” tab.
Intel Gaudi 3 measurements and projections by Habana Labs, Apr 2024; Results may vary
7 Add footnote: source for Nvidia performance: Overview — tensorrt_llm documentation (nvidia.github.io), May, 2024. Reported numbers are per GPU.
Intel Gaudi 3 projections by Habana Labs, Apr 2024; Results may vary
8 Based on total number of platform Tops on Lunar Lake vs. prior generation.
