全新整合工作空間可在從桌上型電腦、工作站到企業資料中心、公有雲和NVIDIA DGX Cloud的NVIDIA人工智慧平台上,簡化模型調整和部署事宜
NVIDIA 今日宣布推出整合易用的工作空間 NVIDIA AI Workbench,開發人員可以利用這個工作空間在桌上型電腦或工作站上,快速建立、測試和自訂預先訓練生成式人工智慧大型語言模型,然後將其擴大到幾乎任何資料中心、公有雲或 NVIDIA DGX Cloud。
NVIDIA AI Workbench 免去了企業啟動人工智慧項目的各項複雜作業。開發人員透過在本地系統上運行的簡化介面,就能使用自訂資料從 Hugging Face、GitHub 和 NVIDIA NGC 等熱門的資源庫中自訂模型,然後在多個平台上輕鬆分享。
NVIDIA 企業運算部門副總裁 Manuvir Das 表示:「世界各地的企業都在競相尋找合適的基礎設施,建立生成式人工智慧模型和應用項目。NVIDIA AI Workbench 讓跨組織團隊可以輕鬆簡單地打造人工智慧應用項目,而這些應用項目日漸在現代商業環境中扮演著更加重要的角色。」

LLM開發人員的新時代
雖然現在已有成千上萬預先訓練好的模型可供使用,但使用許多可用的開源工具來自訂這些模型並不容易,而且又是一件非常耗時的事。大型人工智慧項目需要在多個線上資源庫中尋找合適的框架、工具和容器,採用合適的技能組合為特定使用案例來自訂模型。將該項目從一個運算基礎架構搬移到另一個運算基礎架構,這個過程又需要再來一遍。
開發人員在 NVIDIA AI Workbench 上,只要點幾下滑鼠就能自訂和運行生成式人工智慧。它讓開發人員可以從開源軟體資源庫和 NVIDIA 人工智慧平台中,將所有必要的企業級模型、框架、SDK 和函式庫,整合到一個統一的開發人員工作空間內。
戴爾科技集團(Dell Technologies)、慧與科技(HPE)、惠普(HP Inc.)、Lambda、Lenovo 和美超微(Supermicro)等多個主要人工智慧基礎架構提供商開始採用 NVIDIA AI Workbench,因為它能夠增強其最新一代多 GPU 桌上型工作站、高階行動工作站和虛擬工作站的能力。開發人員現在可以在本地系統上啟動企業級生成式人工智慧項目,在需要擴大規模時輕鬆取得資料中心和雲端運算的資源。具備 Windows 或 Linux 的 RTX PC 或工作站的開發者也能在本地 RTX 系統上啟動、測試和調整企業即生成式人工智慧專案,並於需要擴充專案規模時,獲得資料中心與雲端運算資源。
全新NVIDIA AI Enterprise 4.0軟體推動部署人工智慧
NVIDIA 發布了旗下企業軟體平台的最新版本 NVIDIA AI Enterprise 4.0,以進一步加速生成式人工智慧的採用。它為企業提供採用生成式人工智慧所需的工具,同時還提供可靠的上線部署所需的安全性和 API 穩定性。
NVIDIA AI Enterprise 中新加入支援的軟體和工具,有助於簡化部署生成式人工智慧的作業,包括:
- NVIDIA NeMo:是一個用於建立、自訂和部署大型語言模型的雲端原生框架。NVIDIA AI Enterprise 在加入 NeMo之後,提供建立及自訂大型語言模型應用項目所需的端到端支援。
- NVIDIA Triton Management Service有助於自動執行和最佳化上線部署。它讓企業可以在Kubernetes的環境當中達到模型的協調運作,自動部署多個 NVIDIA Triton Inference Server執行個體,以高效運行具擴充性的人工智慧。
- NVIDIA Base Command Manager Essentials 叢集管理軟體有助於企業在資料中心、多重雲及混合雲環境中,徹底發揮人工智慧伺服器的效能和利用率。
NVIDIA AI Enterprise 軟體讓用戶能夠在雲端、資料中心和邊緣建立及運行支援 NVIDIA 人工智慧技術的解決方案,經認證可在主流 NVIDIA 認證系統、NVIDIA DGX 系統、所有主要雲端平台及最新發布的 NVIDIA RTX 工作站上運行。
ServiceNow 與 Snowflake 等領導軟體企業以及提供 Dell Generative AI Solutions 的基礎架構提供商戴爾科技集團日前宣布與 NVIDIA 合作,在其平台上支援生成式人工智慧。加入 NVIDIA AI Enterprise 4.0 及 NVIDIA NeMo 後為客戶提供應用生產就緒生成式人工智慧解決方案的基礎。
Google Cloud 和 Microsoft Azure 等合作夥伴將把 NVIDIA AI Enterprise 4.0 將納入其軟體應用市集
此外,包括 Azure Machine Learning、ClearML、Domino Data Lab、Run:AI 和 Weights & Biases 在內的 MLOps 提供商,將與 NVIDIA 人工智慧平台無縫整合,以簡化生產環境等級生成式人工智慧模型的開發事宜。
多家合作夥伴支持
慧與科技人工智慧策略副總裁 Joey Zwicker 表示:「大多數企業正在建立專業知識、預算或資料中心資源來管理高度複雜的人工智慧軟體和系統。我們很期待 NVIDIA AI Workbench 能簡化 HPE GreenLake 邊緣到雲端平台上的生成式人工智慧項目建立以及一鍵式訓練和部署的潛力。」
惠普先進運算解決方案資深副總裁 Jim Nottingham 表示:「惠普做為工作站市場領導者,提供能滿足最嚴苛的資料科學和人工智慧模型所需性能和效率的產品,並與 NVIDIA 有著悠久的合作歷史。HP 正擁抱下一代高性能系統,利用 NVIDIA RTX Ada 世代 GPU 和 NVIDIA AI Workbench,將生成式人工智慧的力量帶給我們的企業客戶,並協助客戶在雲端和本地之間移動人工智慧工作負載。」
Lenovo 工作站和本地 AI 副總裁暨總經理 Rob Herman 表示:「Lenovo 和 NVIDIA 正在幫助客戶克服部署的複雜性,更輕鬆部署生成式人工智慧,以推出變革性的服務和產品。NVIDIA AI Workbench 和 Lenovo AI-ready 產品組合使開發人員能夠利用其智慧裝置的強大功能,並於邊緣到雲端基礎架構擴展。」
VMware AI Labs 副總裁 Chris Wolf 表示:「VMware 和 NVIDIA 有著長期合作夥伴關係,透過攜手提供針對人工智慧工作負載優化的端到端企業平台,為每個企業釋放人工智慧的力量。 我們一同努力讓生成式人工智慧在企業中更容易使用和部署。NIVIDIA 透過 AI Workbench 為開發人員提供了一套強大的工具,幫助企業加速採用生成式人工智慧。開發團隊可以借助全新 NVIDIA AI Workbench,將 AI 工作負載從桌面無縫轉移到生產環境。」
歡迎觀看 NVIDIA 創辦人暨執行長黃仁勳在 SIGGRAPH 的精彩主題演講,更深入瞭解 NVIDIA 人工智慧工作台與 NVIDIA AI Enterprise 4.0。