OVX伺服器搭載新款NVIDIA GPU，可加速訓練及推論以及圖形密集的工作負載；戴爾科技集團、慧與科技、Lenovo、美超微等公司即將推出OVX伺服器產品
NVIDIA 今日宣布推出搭載新款 NVIDIA L40S GPU 的 NVIDIA OVX 伺服器。NVIDIA L40S GPU 是一款功能強大的通用資料中心處理器，用於搭配 NVIDIA Omniverse 平台加快處理人工智慧訓練及推論、3D 設計和視覺化，還有影片處理和工業數位化等運算最密集的複雜應用項目。
這款新的 GPU 為生成式人工智慧的加速運算工作負載提供了完整的運算能力，而生成式人工智慧正在改變各行各業的工作流程和服務，包括文字、影像和影片生成、聊天機器人、遊戲開發、產品設計和醫療保健。
NVIDIA 專業視覺化事業部門副總裁 Bob Pette 表示：「隨著生成式人工智慧改變了各行各業，企業也越來越在資料中心尋求大規模運算資源。搭載 NVIDIA L40S GPU 的 OVX 系統能夠加速處理人工智慧、繪圖和影片處理工作負載，滿足愈來愈多的複雜多樣化應用項目對效能的嚴苛要求。」
用於處理人工智慧及繪圖作業的強大效能
NVIDIA OVX 系統每具伺服器上最多可支援 8 個 NVIDIA L40S GPU，每個 GPU 配備 48GB 記憶體。基於 NVIDIA Ada Lovelace GPU 架構的 L40S，包含第四代 Tensor 核心和一具 FP8 Transformer Engine，張量處理能力超過 1.45 petaflops。NVIDIA L40S GPU與 NVIDIA A100 Tensor 核心 GPU相比，在處理具有數十億個參數和多種資料模式（如文字和影片）的複雜人工智慧工作負載方面，其生成式人工智慧的推論表現提升 1.2 倍，訓練表現增加 1.7 倍。
NVIDIA L40S GPU 內有 142 個第三代 RT 核心，可提供 212 teraflops 的光線追蹤運算效能，以支援實時渲染、產品設計和創作 3D 內容等高保真度的專業視覺化工作流程。這使得創意專業人士能夠創作出極具臨場感的視覺體驗和逼真內容。
對於工程和科學模擬等有著嚴苛運算要求的工作流程，NVIDIA L40S 內有 18,176 個 CUDA 核心，單精度浮點運算（FP32）效能幾乎是 NVIDIA A100 GPU 的五倍，可加速執行複雜運算和資料密集型的分析作業。
先行採用
CoreWeave 是首批提供 L40S 執行個體的雲端服務提供商之一，該公司專精於處理大規模 GPU 加速工作負載。
CoreWeave 技術長 Brian Venturo 表示：「隨著生成式人工智慧的爆發，我們各行各業的客戶都在尋找強大的運算解決方案和規模，以滿足從互動式影片到人工智慧設計和自動化等各種複雜程度不一的工作負載。NVIDIA L40S GPU 將進一步擴大我們廣泛的 NVIDIA 解決方案組合，使得 CoreWeave 成為首家提供這些嶄新資源的專業雲端運算服務供應商，為下一波生成式人工智慧應用項目提供快速、高效且符合成本效益的加速運算服務。」
推動人工智慧發展的軟體
部署 L40S GPU 的企業可以搭配 NVIDIA AI Enterprise 軟體並從中獲得效益。NVIDIA AI Enterprise 軟體今日亦推出重大更新內容，該軟體提供 100 多種框架、預先訓練模型、工具套件及軟體，其中包括用於模擬的NVIDIA Modulus、用於資料科學的 NVIDIA RAPIDS，以及用於在生產環境中提供人工智慧的 NVIDIA Triton Inference Server，給予生產就緒的企業支援和安全性。
Omniverse 升級
NVIDIA 另宣布推出 Omniverse 平台重大更新項目，引入多項功能和平台增強項目，讓開發人員能夠利用生成式人工智慧的強大功能，加速推進 OpenUSD 管道及工業數位化應用項目的發展。用於支援 Omniverse Cloud 的下一代 NVIDIA OVX 系統將搭載 L40S GPU，提供推動生成式人工智慧管道及 Omniverse 工作負載所需的人工智慧及繪圖處理效能。
供貨時程
NVIDIA L40S 將於今年秋季上市。包括華碩、戴爾科技集團（Dell Technologies）、技嘉科技、慧與科技（HPE）、Lenovo、雲達科技（QCT）及美超微（Supermicro）在內的全球系統建構商，將很快提供搭載 NVIDIA L40S GPU 的 OVX 系統。這些伺服器將幫助全球專業人士推進人工智慧的發展，並且為各行各業的用戶帶來智慧聊天機器人、搜尋和摘要工具等生成式人工智慧應用項目。
