戴爾科技集團推出全新生成式 AI 解決方案,協助客戶快速且安全地在本地端建置生成式 AI 模型,加速成果優化及推動更進一步的智慧化。
全新Dell生成式AI解決方案涵蓋 IT 基礎架構、PC 及專業服務,以 Project Helix 為基礎簡化大語言模型(LLM)的全端生成式 AI 應用,滿足企業在使用生成式 AI 過程的任何需求。這些解決方案協助各種規模及產業的企業實現安全轉型,並帶來更好的成果。

戴爾科技集團副董事長暨共同營運長 Jeff Clarke 在最近的投資人分享會中表示:「生成式 AI 代表一個轉捩點,從根本上改變創新的步伐,同時改善客戶體驗並實現新的工作方式。不論大或小的客戶都將自己的資料和業務情境使用於 Dell 基礎架構解決方案上的訓練、微調和推論,以有效且快速地將先進 AI 整合至核心業務流程中。」
NVIDIA 企業運算副總裁 Manuvir Das 表示:「生成式 AI 協助企業將其資料轉化為智慧應用程式,解決複雜的業務挑戰。戴爾科技集團和 NVIDIA 攜手建立長期合作關係,協助企業運用此功能更好地服務客戶、更全面地支持員工並推動營運創新。」
Dell 廣泛的產品組合包括Dell Precision工作站、Dell PowerEdge伺服器、Dell PowerScale橫向擴充儲存、Dell ECS企業物件儲存及各種服務,透過各式可靠的工具,提供從桌面到核心資料中心、邊際位置及公有雲的生成式AI解決方案。
日本數位廣告公司 CyberAgent 選擇 Dell 伺服器作為其生成式 AI 開發和數位廣告的關鍵 IT 基礎架構。CyberAgent CIU 解決方案設計師 Daisuke Takahashi 表示:「我們選擇搭載 NVIDIA H100 GPU 的 Dell PowerEdge XE9680 伺服器,針對生成式AI應用程式進行優化。此外,Dell iDRAC 管理工具的易用性則能協助我們實現安全的本地和遠端伺服器管理。」
針對企業的全端生成式AI
Dell 與 NVIDIA 合作的 Validated Design 生成式 AI 為一個聯合設計的推論藍圖,透過優化以協助企業加快部屬模組化、安全且可擴展的生成式 AI 平台的腳步。
目前傳統的推論方式難以擴展及支援 LLM 以取得即時結果,也無法確保 AI 基礎架構能輕鬆使用資料。此一新解決方案將能協助客戶使用自身資料產生更高品質且更快實現價值的預測及決策。
透過經全方位驗證的推論方式,企業能更快速部署生成式 AI 專案並擴展應用程式,以進行客戶經營、內容建立及管理、軟體開發與銷售等關鍵的流程轉型。
Dell Validated Designs 為經過預先測試及實證的配置,運用Dell PowerEdge XE9680 或 PowerEdge R760xa 等 Dell 基礎架構支援生成式 AI 推論,並可選擇以 NVIDIA Tensor Core GPU、NVIDIA AI Enterprise 軟體、NVIDIA NeMo 端到端框架及 Dell 軟體作為核心。客戶可將此解決方案與彈性且可擴展的非結構化資料儲存相結合,例如 Dell PowerScale 和 Dell ECS 儲存。該基礎架構可透過 Dell APEX 取得,提供客戶具雲端消費及管理體驗的本地端部署。

藉由服務推動更快且更全面的生成式AI成果
Dell Professional Services 帶來廣泛的全新功能,協助客戶加速採用生成式 AI,改善營運效率並推動創新。
這些服務從制定全新的生成式 AI 策略開始,找出高價值的使用案例及實現案例的路線圖;Dell 亦提供以 Dell Validated Design for GenAI with NVIDIA 為基礎的全端應用服務,及將平台應用於特定使用案例的服務,譬如客戶經營或內容建立。當與業務整合後,Dell 的擴展服務將能透過管理服務、訓練或常駐專家協助改善運作。
IDC 全球基礎架構和 BuyerView 研究事業群副總裁暨總經理 Ashish Nadkarni 表示:「Dell AI 解決方案為企業提供適當調整生成式 AI 工作規模的潛力,並協助簡化營運,滿足客戶希望在橫跨不同產業的特定案例中,快速交付產品和服務的需求。於智慧且自動化時代,戴爾科技集團將能滿足企業需求,無論企業身處於生成式 AI 的哪個環節,都能協助企業在更智慧和技術驅動的世界中取得成功。」

Precision工作站在裝置上提供安全的本地生成式AI開發
作為工作站領域的全球領導者[i],Dell Precision 工作站協助 AI 開發人員和資料科學家在大規模的部署前,於本地開發及微調生成式 AI 模型。Precision工作站具備效能及可靠度,單台工作站中最多可搭載四個 NVIDIA RTX 6000 Ada Generation GPU,執行 AI 軟體框架的速度比上一代快 80%[ii]。
內建的 AI 軟體 Dell Optimizer 可學習並回應人們的工作方式,進而提升應用程式、連網能力與音訊的效能。最新的功能讓行動工作站使用者能利用生成式 AI 模型提升使用中的應用程式效能,同時將對電池執行時間的影響降至最低。
Intelligent Voice 營運長 James Laird 表示:「我們的客戶希望在業務的各個層面使用生成式 AI,包含監控代理行為至檢測詐欺。結合先進 AI 與 Dell AI 解決方案的強大功能,我們得以依客戶需求的速度,快速構建、測試和部署高質量模型。」
推出時程
- Dell 與 NVIDIA 合作的 Validated Design 生成式 AI 已於一般管道和 Dell APEX 在全球推出。
- 針對生成式 AI 的 Dell Professional Services 目前已於部分國家推出。
- 搭載 NVIDIA RTX 6000 Ada Generation GPU 的 Dell Precision 工作站(7960 Tower、7865 Tower、5860 Tower)將於八月初在全球推出。
- Dell Optimizer 適應性工作負載將於 8 月 30 日在全球部分 Precision 行動工作站上推出。
[i] IDC Quarterly Workstation Tracker,2023第一季。
[ii] 根據Intel i9-12900K、64GB RAM、Windows 11 Enterprise x64、NVIDIA driver 526.99上執行的結果。測試分數與PyTorch GNMT V2訓練測試分數相關聯。此為預先製作之硬體及軟體上的初步結果,最終效能可能有所不同。