在過去的幾年裡,人工智能已經從科幻小說的領域發展到部署在一系列不同的系統和軟體應用程序中。在許多情況下,這些應用程序位於雲中或在大型計算系統上運行得最好。AMD 銳龍 AI 和 AMD XDNA 架構的目標是通過將先進的人工智能處理引入本地 PC 來擴大人工智慧和人工智慧軟體開發的範圍。
將 AI 工作負載從雲端轉移到本地硬體可改善延遲,有助於將敏感數據保留在雲端之外,並且與排隊等待使用基於雲的服務相比,可以加快處理速度 Ryzen AI 引擎內置於精選 Ryzen 7000 中系列移動處理器提供了專用的片上加速器來運行這些工作負載,但我們還沒有過多討論等式的軟體方面。
Ryzen AI 軟體平台將於今年晚些時候廣泛推出,將為開發人員提供將 AI 添加到現有應用程序所需的工具,以及創建全新程序,以令人興奮的新方式利用這一新興領域。
我們於五月份開始了軟體推出的公開階段,提供了開發人員可以試驗的演示和代碼示例。今年夏天,我們將通過臨時版本擴展這種參與,增加對 IPU 上運行的新算子的支持,並為 ONNX、PyTorch 和 TensorFlow 模型提供量化支持。要開始使用,請訪問 Ryzen AI 軟體文檔頁面。
當完整的 Ryzen AI 軟體平台在今年晚些時候首次亮相時,這些早期預覽和有限的開發者合作夥伴關係將擴大到對 AI 開發者和相關生態系統的更廣泛支持。未來的版本將支援更多在 AMD XDNA 上運行的操作。ONNXRT 執行提供程序 (EP) 具有對 Vitis AI 執行提供程序的上游支持,將根據工作負載的特性自動決定是在 CPU 還是 AMD XDNA AI 引擎上調度工作負載。

開發人員可以採用 PT、TF 和 ONNX 格式的訓練模型,使用 AMD Vitis AI Quantizer 或 Microsoft Olive Quantizer 將這些模型量化為 INT8,並使用 ONNX Runtime 和 Vitis AI Execution Provider 進行部署。後者將分區並編譯代碼以在 AMD XDNA AI 引擎或 CPU 上運行。
今年晚些時候,AMD 將發布更多工具鏈、庫和指南,以簡化人工智慧開發。這些都是我們在各個層面簡化人工智慧戰略的一部分,從訓練模型到在銳龍人工智慧驅動的系統上本地部署它們。我們還打算增加對生成式人工智慧模型的支援。
AMD Ryzen AI 軟體平台的目標是最大程度地縮小硬體首次亮相和最終用戶軟體可用性之間的差距,讓工程師和最終用戶即使在這個相對初級的開發階段也能看到 AI 處理的好處。今年夏天的臨時發布以及 AMD 將在今年晚些時候提供的擴展功能將加速 AI 生態系統的發展,並為開發人員帶來這種新型處理的好處。