搭載全新GB10超級晶片的NVIDIA Project DIGITS首次亮相,成為全球最小並運行200B參數模型的AI超級電腦
NVIDIA 今日正式推出個人 AI 超級電腦 NVIDIA® Project DIGITS,為全球的 AI 研究人員、資料科學家和學生提供 NVIDIA Grace Blackwell 平台的強大功能。
Project DIGITS 搭載全新的 NVIDIA GB10 Grace Blackwell 超級晶片,提供 petaflop 等級的 AI 運算效能,適用於原型設計、微調與運行大型 AI 模型。
擁有 Project DIGITS,使用者便能在自己的桌上型電腦系統開發與執行模型推論,並在加速的雲端或資料中心基礎架構上流暢部署模型。
NVIDIA 創辦人暨執行長黃仁勳表示:「AI 將成為各行業主流的應用,藉由 Project DIGITS,Grace Blackwell 超級晶片將走向數百萬開發者。每位資料科學家、AI 研究人員與學生的桌上將擁有一台 AI 超級電腦,讓他們有能力參與和塑造 AI 時代。」

GB10超級晶片提供1 petaflop運算能力、更具能源效率的AI效能
GB10 超級晶片是一款採用 NVIDIA Grace Blackwell 架構的系統單晶片(SoC),可在 FP4 精度下提供高達 1 petaflop 的 AI 效能。
GB10 搭載 NVIDIA Blackwell GPU 內建最新一代 CUDA®核心與第五代 Tensor核心,透過 NVLink®-C2C 晶片至晶片互連技術,與高效能的 NVIDIA Grace™ CPU 相連,其中包含 20 個以 Arm 架構建構的省電核心。聯發科做為 Arm 架構 SoC 設計的市場領導者,與其合作設計的 GB10,擁有同等級產品中最佳的省電效能、執行效能與連接能力。
GB10 超級晶片讓 Project DIGITS 只需使用標準電源插座即可提供強大效能。每個 Project DIGITS 均統一配備128GB的記憶體和高達 4TB 的 NVMe 儲存空間。開發者有了這台超級電腦,便能運行高達 2,000 億個參數的大型語言模型,為創新 AI 注入強大動力。此外,利用 NVIDIA ConnectX®網路技術可連接兩台 Project DIGITS AI 超級電腦,運行多達 4,050 億個參數的模型。
觸手可及的Grace Blackwell AI超級運算技術
借助 Grace Blackwell 架構,企業和研究人員可以在運行基於 Linux 的 NVIDIA DGX OS 的本機端 Project DIGITS 系統上對模型進行原型設計、微調和測試,然後再將其無縫部署到 NVIDIA DGX Cloud™來加速雲端執行個體或資料中心基礎架構上。
這使得開發者能夠在 Project DIGITS 上建立 AI 原型,並使用相同的 Grace Blackwell 架構與 NVIDIA AI Enterprise 軟體平台,在雲端或資料中心基礎架構上擴大其規模。
Project DIGITS 的用戶可以使用龐大的 NVIDIA AI 軟體資料庫,進行實驗與設計原型,包括,NVIDIA NGC 目錄與 NVIDIA 開發者入口網站提供的軟體開發套組、協調工具、框架與模型。開發者可以利用 NVIDIA NeMo™ 框架微調模型,利用 NVIDIA RAPIDS™ 函式庫加速推動資料科學的發展,以及執行 PyTorch、Python 和 Jupyter notebooks 等常見框架。
使用者也可以利用 NVIDIA Blueprints 及 NVIDIA NIM™ 微服務,透過 NVIDIA 開發者計畫進行研究、開發與測試,以建立代理型 AI 應用程式。當 AI 應用程式準備好從實驗階段進入生產階段時,NVIDIA AI Enterprise 授權可提供企業級的安全性、支援以及 NVIDIA AI 軟體的產品發行。
供貨時程
NVIDIA 與頂級合作夥伴將於今年稍後推出 Project DIGITS,售價為 3,000 美元起。