AMD 宣布最新 AMD ROCm™ 6.2 開源堆疊軟體現已釋出,為 AMD Instinct™ 系列帶來效能和效率最佳化的大幅成長。AMD部落格文章提供關於新增功能和優勢的詳細資訊,包括:
- 擴展 vLLM 支援,以提升 Instinct 加速器的人工智慧(AI)推論能力。
- 全新 Bitsandbytes 功能可透過提升記憶體效率與效能來增強 AI 訓練和推論。
- 全新的離線安裝程式建立器可簡化 ROCm 的安裝體驗。
- 全新 Omnitrace 與 Omniperf 分析工具透過效能分析和精簡的開發工作流程來革新 AI 和高效能運算(HPC)的開發。
- 更廣泛的 FP8 支援可在使用更少記憶體的情況下進行更具效率的訓練,從而增強 AI 推論能力。
ROCm 6.2 帶來前所未有的 AI 加速器效能和效率提升,同時提供工具及支援,助力開發人員在 AI 專案中突破極限。
