Arm推出Arm AI Portal，加速Arm運算平台上最佳化AI應用程式開發

　•    Arm AI Portal 讓超過 2,200 萬名開發者及其 AI 代理，能夠在 Arm 運算平台上取得橫跨雲端、邊緣與實體 AI 的最佳化 AI 軟體。
　•    開發者可透過預先最佳化的模型更快上手，也可導入自有模型並進行最佳化，以在 Arm 架構上獲得最佳效能
　•    隨著開發流程逐漸由 AI 代理驅動，AI Portal 讓模型、效能數據與工作流程可由機器發現，直接融入開發者與 AI 代理既有的開發環境，讓他們更容易取得 Arm 的最新 AI 技術

代理式 AI 正從雲端進一步延伸至邊緣與實體 AI。隨著開發者需要跨不同模型、執行環境與硬體目標進行開發，整體複雜度也隨之提高。Arm 的運算平台橫跨這整個連續運算範圍，背後有超過 2,200 萬名開發者組成的生態系，而這些開發者都需要經過最佳化的 AI 軟體。

打造 AI 應用程式不該從數週的搜尋、基準測試與最佳化開始。開發者需要找到合適的模型並了解其效能，而 AI 代理則需要清楚的訊號，才能尋找到相同的模型、工具與資訊。

Arm 於今日正式推出 Arm AI Portal，為開發者與 AI 代理提供一致的途徑，在 Arm 運算平台上探索、最佳化並部署 AI 軟體。開發者可以找到針對特定任務、已預先最佳化的模型及其效能與準確度資料，比較延遲、記憶體需求與模型大小，並取得程式碼範例與部署工作流程。

不久的將來，AI Portal 也將提供工具讓開發者匯入自己的模型，包括專有模型，以在 Arm 上進行效能分析與最佳化。在正式發表前，專為 AI 代理設計的 AI 資源目前已開放搶先體驗。

 

運用針對Arm最佳化的AI加速開發

AI Portal 再基於 Arm 的運算平台上支援語言、語音、視覺與神經圖像。推出時，預先最佳化的模型包括 Alibaba Qwen、Google Gemma 與 Ultralytics YOLO，並採用 ExecuTorch、LiteRT 與 ONNX-RT 等執行環境，同時獲得 Alibaba、Raspberry Pi 與 Ultralytics 等生態系夥伴支援。

AI Portal 能直接融入開發者與 AI 代理既有的開發環境；針對 Arm 最佳化的模型可透過 Hugging Face 取得，Portal 資源也可讓程式開發代理透過 MCP 存取。

針對 Arm 最佳化的模型已帶來顯著的效能提升：

• Qwen3-TTS 在 vivo X300 智慧型手機上，採用單執行緒執行，以及 Q8_0 talker 與 code predictor 的混合量化，並透過第二代可擴展矩陣延伸指令集（SME2）加速，實現超過 4 倍的速度提升。
• Ultralytics YOLO26n 在搭載 SME2 的 vivo X300 智慧型手機上，以 FP16 相較於 FP32 進行單執行緒執行時，效能提升超過 40%；在搭載 NEON 的 Raspberry Pi 5 上，採用 FP16 與 INT8 混合量化相較於 FP32，同樣帶來超過 40% 的效能提升。

 

推動最佳化AI遍及Arm運算平台

AI Portal 橫跨包括雲端、邊緣與實體 AI 的 Arm 運算平台，協助開發者依據目標找出最佳化模型，從機器人所需的視覺模型、智慧型手機上的生成式 AI，到雲端 CPU 上針對特定任務的大型語言模型。

AI Portal 將可擴展向量延伸指令集（SVE）、SME 與神經加速等 Arm 技術，與最佳化軟體相連結。以第二代行動裝置運算子系統（ CSS for Mobile 2 ）為例，透過 SME2 加速的模型以及具備神經網路加速器的 GPU，現在都能透過 AI Portal 取得。

數十年來，Arm 持續深耕軟體生態系。如今，AI Portal 將這項投入延伸至 AI 時代，協助超過 2,200 萬名開發者及其 AI 代理，找到並運用針對其目標硬體最佳化的軟體。

AI Portal 今日起即可使用。

 

 

9月搞畏獎開跑中，搞畏有獎放送中
現在就加入 ioioTIMES 臉書粉絲團 更多互動、更多好康攏抵加!!
我們有LINE TODAY頻道了，快來追踪我們吧!!--最新科技新聞 盡在你手