業界動態

HPE攜手NVIDIA提供加速AI訓練之全新整合方案

News 11/22/2023

協助研究機構和大型企業加速生成式AI訓練的新解決方案；整合業界領先的AI/ML軟體、硬體、網路和服務

Hewlett Packard Enterprise（NYSE: HPE）宣佈推出專為大型企業、研究機構和政府機構所設計之生成式 AI 的超級運算解決方案，透過使用私有資料集加速 AI 模型的訓練和調校。此解決方案包括一個軟體套件，讓客戶能夠訓練和調校模型，以及開發 AI 應用程式。此外還包括液冷式超級電腦、加速運算、網路、儲存和服務，協助企業加速實現 AI 價值。

「為推動創新並於研究中取得重大突破，全球領先的公司和研究機構都在訓練與調校 AI 模型。然而，要有效率地實現這一目標，他們需要專為此打造的一套解決方案，」HPE 執行副總裁暨 HPC、AI 和實驗室部門總經理 Justin Hotard 表示。「為支援生成式 AI，組織需要使用能提供超級電腦專用效能與規模的永續性解決方案，以支援 AI 模型訓練。我們很高興能擴大與 NVIDIA 的合作，提供一 AI 原生整合方案，協助加速 AI 模型訓練並取得成果。」

此生成式 AI 的超級運算解決方案關鍵元件為用於建立 AI 應用程式、客製化預建模型以及開發和修改程式碼的軟體工具。該軟體更與採用世上最快超級電腦強大架構的 HPE Cray 超級運算技術進行整合，並搭載 NVIDIA Grace Hopper GH200 超級晶片支援。此解決方案提供前所未有的規模與效能以滿足大型 AI 工作負載的需求，例如大型語言模型（LLM）訓練以及深度學習推薦模型（DLRM）訓練。在此系統上使用 HPE 機器學習開發環境（HPE Machine Learning Development Environment），僅需少於 3 分鐘內即能對開源700 億參數 LIama 2 模型進行微調¹，為客戶加速價值創造時間。藉由 NVIDIA 技術支援，此先進的超級運算能力可將系統效能提升 2 至 3 倍²。

「生成式 AI 正在改變科學發展和每個產業，」NVIDIA 超大規模與高效能運算部門副總裁 Ian Buck 表示。「HPE 攜手 NVIDIA 推出搭載 NVIDIA GH200 Grace Hopper 超級晶片的 AI 訓練和模擬整合解決方案，為客戶實現生成式 AI 專案所需效能。」

功能強大的AI整合解決方案

此整合式超級運算解決方案是針對 AI 專門打造，並內建 AI 相關功能，提供以下端對端技術及服務：

AI/ML 加速軟體：由三個軟體工具組成的套件，將協助客戶訓練和調校 AI 模型，並創建自己的 AI 應用。
o HPE 機器學習開發環境（HPE Machine Learning Development Environment）：機器學習軟體平台，整合常用的 ML 架構並簡化資料準備，協助客戶加速開發及部署 AI 模型。
o NVIDIA AI Enterprise：透過安全性、穩定性、易管理性及支援，協助組織加速邁向領先的 AI。其提供廣泛的框架、預訓練模型及簡化 AI 生產的開發與部署流程。
o HPE Cray 程式設計環境（HPE Cray Programming Environment）：此軟體套件專為程式設計師提供開發、移植、除錯和調校程式碼所需的完整工具。
擴充性設計：基於 HPE Cray EX2500 百萬兆級系統，搭載領先業界的 NVIDIA GH200 Grace Hopper 超級晶片。此解決方案可以擴充至數千個 GPU，且所有節點都支援單一 AI 工作負載，以加速價值創造。
適用於即時AI的網路：HPE Slingshot Interconnect 提供一個開放式且基於乙太網路的高效能網路，專為支援百萬兆級的工作負載所設計。此可調整的互連技術採用的是 HPE Cray 技術，透過超高速的網路連線，大幅提升整個系統的效能。
一應俱全的簡易性：此解決方案配有 HPE Complete Care Services，由全球專家提供設定及安裝，並支援整個生命週期，以簡化 AI 應用。