NVIDIA和微軟擴展了以企業為導向的工具,用於自訂AI模型並在雲端和本機基礎架構上部署應用程式
NVIDIA 和微軟正在擴展他們的全端合作,以幫助企業建置、自訂和部署智慧應用程式——從 Azure 上的下一代基礎設施到工業系統和 Windows PC。
在 Microsoft Ignite 大會上,這些公司正在擴大對由 NVIDIA Vera Rubin NVL72 系統支援的 Azure 虛擬機的訪問,並透過 Microsoft Foundry 為客戶增加對 NVIDIA 開放模型和自訂功能的可用性,以及在企業生成和使用資料的邊緣運行 AI 的新選項。
微軟也正在使用 NVIDIA 技術來加速其自身的模型和服務,包括用於訓練後處理的 NVIDIA Dynamo 推理軟體和用於 Bing 搜尋模型的 NVIDIA RTX PRO 6000 Blackwell GPU 。
NVIDIA Vera Rubin NVL72在Azure中執行
NVIDIA Vera Rubin NVL72 系統在 Azure 資料中心運行,提供專為要求苛刻的推理、代理應用程式以及大規模模型訓練和推理而設計的基礎架構。
微軟和英偉達也在合作,將機密運算擴展到裸機和機架級人工智慧基礎設施。這項工作將有助於在處理過程中保護敏感模型和數據,從而為需要處理專有或受監管資訊的組織提供支援。
NVIDIA 機密運算和認證服務可協助客戶在發布敏感模型、資料或金鑰之前驗證運算環境。隨著 AI 工作負載跨越更多互聯的加速器,兩家公司正致力於將這些保護措施擴展到整個 AI 工廠基礎設施。
為了幫助資料中心從可用電力中獲得更高的效能,NVIDIA 和微軟也在利用 NVIDIA MaxLPS 提高電源效率方面進行合作。
Azure 的 Vera Rubin 預覽版是基於 NVIDIA 和微軟的共同設計和效能最佳化,最新的基於 NVIDIA Blackwell 的 MLPerf 測試結果也印證了這一點。在 MLPerf Training v6.1 測試中,Azure 在 DeepSeek-V3 模型上使用了 10,240 個 NVIDIA GPU,採用 GB200 NVL72 系統,是本次測試中規模最大的一次。在 MLPerf Inference v6.1 測試中,根據 Signal65 的數據,Azure 的 NVIDIA GB300 NVL72 系統在 DeepSeek-R1 互動式吞吐量方面領先雲端提交結果 10% 以上。
幫助企業客製化和部署開放模型
企業級人工智慧代理需要能夠處理複雜任務、尋找相關的公司資訊並理解業務文件。 NVIDIA 和微軟正在擴展 Microsoft Foundry 提供的模式和服務,以協助開發人員將這些功能整合到業務應用程式中。
微軟的無伺服器程式化訓練解決方案讓開發者掌控訓練後的工作流程,而 Foundry 則負責管理底層基礎架構。企業可以專注於業務數據,評估模型回應並改善模型行為。
Foundry Managed Compute 增加了對部署自訂模型權重的支持,有助於將模型自訂與透過 Microsoft 的託管服務進行部署聯繫起來。
安永利用微軟 Foundry 的程式化訓練功能,將 NVIDIA Nemotron 開放模式進行適配,用於企業採購紀錄分類。與專有前沿模型相比,安永在其評估資料集上的準確率提高了 55%,成本降低了 15 倍。這項工作展示了企業如何針對特定業務任務客製化開放模型。
NVIDIA Foundry Managed Compute 平台上的 Nemotron 3.5 系列產品線進行了擴展,以滿足企業應用的不同需求。 Nemotron 3.5 Super 專為長時間運行的代理程式而設計,適用於編碼、研究和業務工作流程;而 Lightning 則支援需要快速回應和工具使用的應用。
互補模型可幫助智能體利用 Nemotron Embed 和 Rerank 查找相關信息,利用 Nemotron Parse 從文檔中提取結構化信息,並利用 Nemotron Content Safety 檢測有害內容。專為高吞吐量、低延遲推理而設計的 Nemotron 3.5 Bolt 以及用於語音識別的 Transcribe 即將推出。
讓人工智慧更貼近企業數據
NVIDIA 和微軟正在將部署選項擴展到雲端之外,幫助企業在更靠近資料的地方運行模型和代理,同時保持對其基礎設施和營運的控制。
Foundry Local 對 Nemotron 3.5 的擴充支援為 Azure 本地環境帶來了推理、編碼和工具使用代理的功能。檢索模型可協助應用程式在文字、文件圖像、圖表和表格中找到證據。
Azure Local 也將支援來自硬體合作夥伴的 NVIDIA RTX PRO 6000 Blackwell GPU,為企業在本地部署 AI 提供更多選擇。
Azure Local 正在擴展至 NVIDIA Jetson Thor 和 Jetson Orin 邊緣 AI 平台,以支援機器視覺、機器人和自主操作等工業應用。 NVIDIA 實體 AI 模型(包括 Cosmos)也正在引入 Foundry Local。
在搭載 NVIDIA RTX Spark 的 Windows PC 上,NVIDIA 和微軟將在 Ignite 大會上展示本地大型語言模型體驗,展示開發者如何直接在裝置上執行 AI 應用程式。
對於使用雲端電腦的企業,這些公司正在將 Direct Stream 功能引入到 GPU 加速的 Windows 365 雲端電腦中。這些功能支援高要求的圖形應用程序,即使在網路環境複雜的情況下,也能以每秒 60 幀的速度同時傳輸多達兩路 4K 串流,並保持低延遲。目前已開放限量預覽註冊,計劃於 2027 年初推出公開預覽版。
將科學人工智慧與Microsoft Discovery連接起來
為了進行科學研究,NVIDIA BioNemo Agent Toolkit 和 NVIDIA ALCHEMI Toolkit 正在擴展到 Microsoft Discovery 目錄,將生命科學、藥物發現以及材料和化學科學的模型引入 Microsoft 的智能研究平台。
BioNeMo Agent Toolkit 幫助科學家使用自然語言在 Microsoft Discovery 中運行計算生物學工作流程,其中代理程式協調執行工作所需的工具和模型呼叫。
初步整合採用與華盛頓大學蛋白質設計研究所合作開發的 RFD4-Proteina 模型,產生候選蛋白質結構和胺基酸序列,以進行進一步評估和實驗室驗證。
加速微軟的模式和服務
除了擴大客戶對 NVIDIA 技術的存取權外,微軟還在其自身的 AI 開發和服務中使用 NVIDIA 軟體和加速運算。
微軟人工智慧利用 NVIDIA Dynamo 在訓練後階段支援強化學習的展開推理。這個計算密集型過程會產生用於改進模型的經驗。
Dynamo 可協調大規模 GPU 叢集上的推理,優化效能,並協助管理請求、模型更新和故障復原。該部署基於微軟 AI 和 NVIDIA 的聯合工程成果。
歡迎蒞臨 NVIDIA Ignite 大會,觀看涵蓋企業應用、機器人、加速資料處理和本地運算等領域的演示,硬體包括 NVIDIA GB300 NVL72 機架式伺服器和 RTX Spark 設備。
11月搞畏獎現正開跑,留言抽好禮!!
ioioTIMES IG | Threads 歡迎加入!!
我們有LINE TODAY頻道了,快來追踪我們吧!!--最新科技新聞 盡在你手















