AMD董事長暨執行長蘇姿丰博士於OCP主題演講中,分享AMD 廣泛的AI產品組合如何打造新世代AI基礎設施
推動開放運算產業體系
AMD 董事長暨執行長蘇姿丰博士表示:「 當我們以開放產業體系的形式攜手合作,便能加快創新步伐, 並為客戶帶來更卓越的解決方案。」
AMD 持續透過參與共通標準與設計,以及攜手合作夥伴, 推動開放運算產業體系的發展,將這些標準落實為 AI 基礎設施。 目前,推論(即執行已訓練完成的 AI 模型)已成為最主要的 AI 工 作負載,而代理式 AI 更進一步帶動對伺服器處理器與繪圖處理器的 需求。隨著 AI 能力不斷提升,使用者將隨之增加, 靈活的開放式設計將有助於滿足日益成長的需求。
代理式 AI 具備保留上下文、運用工具, 並反覆進行模型互動以完成任務的特性,進而提升 AI 基礎設施各層 面的運算需求。客戶需要能針對不同工作負載調配運算資源的系統, 這仰賴於處理器、網路、軟體與機櫃設計的協同創新, 並需要開放標準提供共同基礎, 協助客戶與合作夥伴依據自身需求建構基礎設施,並隨 AI 工作負載 的演進靈活調整。
AMD Helios 投入量產
AMD 董事長暨執行長蘇姿丰博士表示:「 市場上將出現各式各樣的加速器,這並非一體適用(one- size-fits-all), 也沒有單一公司能包辦所有最佳元件。 我們希望讓異質資料中心環境的建置變得極為簡單,因為我們堅信, 未來必然需要 CPU、GPU 與專用 ASIC 的多元組合。」
繼 2025 年於 OCP 首次亮相的一週年之際,AMD Helios™現已進入量產,客戶交付、 部署與工作負載驗證皆已展開。每座機櫃皆整合 AMD Instinct™ GPU、AMD EPYC™處理器、AMD Pensando™網路技術以及 AMD ROCm™軟體產業體系,將運算、記憶體與網路整合為單一系統, 以支援大型 AI 工作負載。
大型 AI 模型需要龐大的運算力、 足以容納模型及其運算資料的記憶體容量, 以及機櫃內與機櫃間的高速連接。此外,客戶亦需要能穩定部署、 維護與擴充的基礎設施。AMD Helios 透過基於開放標準的整合式機櫃設計滿足上述需求, 搭配持續更新的 ROCm 軟體,能在相同硬體條件下提升效能, 協助客戶從投資中獲得更高效益。
AMD 攜手合作夥伴推動 Helios 部署
AMD 董事長暨執行長蘇姿丰博士指出:「Helios 絕對是 AM D 與合作夥伴至今所打造最先進、最精密的系統。」
AMD 攜手 Meta 及廣泛的 OCP 社群共同設計 AMD Helios ,結合機櫃、電源系統與硬體管理的共享設計。目前, 首批系統已於 OpenAI、Meta、微軟與 Oracle 完成安 裝並正式運作。
客戶與合作夥伴的參與,有助於 AMD Helios 貼近實際工作負載與運作條件進行設計。 透過採用共通的機櫃、電源與網路設計,AMD 能夠運用社群累積的 工程成果,將自身資源集中於提升運算效能。 軟體社群支援開發者工具,雲端服務供應商將平台帶給其客戶, 系統合作夥伴則負責建構與交付系統。此合作模式為客戶提供多元的 AI基礎設施部署選擇,同時為 AMD Helios 在業界的廣泛採用創造更多機會。
AMD Helion 靈活擴展代理式 AI ,滿足多元運算需求
AMD 董事長暨執行長蘇姿丰博士表示:「 並非每個問題都需要投入相同的運算資源。 理想的做法是根據不同的應用,配置最合適的模型與運算資源。 這正是關鍵所在,以及整體開放環境的核心價值。」
AMD Helion 機櫃為代理式 AI 的下一階段提供了架構藍圖。AMD Helion 讓客戶能針對代理式工作負載,彈性配置 CPU 核心密 度、效能與功耗,提供適用於超大規模部署的純 CPU 配置, 以及適用於企業級應用的整合式 CPU/GPU 配置。 合作夥伴可依據客戶的工作負載、功耗需求與現有基礎設施靈活調整 CPU 與 GPU 配置。AMD Helion 內建的模型路由器, 可於先進與開源模型中分派代理程式發出的模型呼叫。AMD Helion 代理式機櫃配置目前正與產業體系合作夥伴共同開發中 ,預計於 2026 年 11 月提供。(詳情請參閱新聞稿:AMD推出 AMD Helion,實現機櫃級代理式AI運算 )
代理式 AI 為整體運算系統帶來全新需求。 單一請求可能同時呼叫商業應用程式、查詢資料庫、執行程式碼, 以及協調複雜的工作流程。負責執行與支援這些工作的處理器, 必須與模型推論需求一同擴展。透過 AMD Helion,合作夥伴能整合最佳化的運算資源、 開放軟體與靈活的機櫃設計,打造符合特定需求的配置, 讓客戶能依據各項工作負載彈性調配運算資源、管理功耗與成本, 並善用現有的基礎架構投資。AMD 計畫將 AMD Helion 架構提交予 OCP。
開放的 AMD 系統讓客戶能自由選擇如何擴展 AI 部署規模
AMD 董事長暨執行長蘇姿丰博士表示:「開放是 AMD 一貫秉持的 核心價值,並貫穿各個層面,包括硬體、規格, 以及與合作夥伴協作。在軟體層面,我們與各家軟體供應商合作, 確保各項資源能夠整合。在產業體系層面也是如此。」
AMD 透過廣泛的運算產品組合、靈活的開放平台, 以及與客戶和合作夥伴共同打造的整合式機櫃解決方案,推動 AI 基 礎設施發展。AMD Helios 將此策略應用於大規模模型訓練與推論,AMD Helion 則進一步將其延伸至代理式 AI,並以開放硬體、AM D ROCm 軟體與業界共通標準串連各項布局。
AI 的規模化部署需要處理器、記憶體、網路、 軟體與機櫃設計之間的協同整合,而代理也帶來新的挑戰。 透過與合作夥伴開放協作,整個產業體系能匯聚各方專業知識, 並在既有的共同成果上持續發展,讓客戶能自由選擇如何部署及擴展 AI 基礎設施。
看QNAP活動文拿好禮
現在就加入 ioioTIMES 臉書粉絲團 更多互動、更多好康攏抵加!!
我們有LINE TODAY 頻道了,快來追踪我們吧!!--最新科技新聞 盡在你手
Continue Reading