當今開發者正積極針對特定任務微調大型語言模型（LLM），例如打造能回應產品支援問題的聊天機器人，或打造協助行程管理的個人助理。這類工作流程在 NVIDIA 顯示卡上更顯高效，開發者可在本地端獲得更高的控制彈性、更充裕的記憶體資源，以及更快速的迭代體驗。
本週更新的 RTX AI Garage 部落格，深入介紹如何使用專為 NVIDIA 顯示卡最佳化的開源框架 Unsloth 進行模型微調，涵蓋從 GeForce RTX 筆電到 NVIDIA 的 AI 超級電腦 DGX Spark 的完整流程。內容同時說明開發者如何透過 DGX Spark 微調更大型的模型，以支援更複雜的代理型 AI 工作流程。
文章也聚焦於全新發表的 NVIDIA Nemotron 3 開放模型，其包含模型、資料與函式庫，專為高效率、可擴展的微調需求而設計。Nemotron 3 針對代理型 AI 應用打造，是 NVIDIA 目前功能最完整的開放模型系列，並依不同工作負載提供 Nano、Super 與 Ultra 等多種規模選擇。
本週的 RTX AI Garage 亦重點介紹微調實務的關鍵要點，包括：
- ● 微調時的重要考量，從參數高效率微調到強化學習方法，以及不同模型規模對 VRAM 的需求建議。
- ● Unsloth 如何在 NVIDIA 顯示卡上加速訓練，同時降低 VRAM 使用量。
- ● DGX Spark 在處理更大型模型、延伸上下文視窗與進階工作流程上的優勢。
- ● Nemotron 3 開放模型，Nano、Super 與 Ultra 三種規模大小，以高效率與領先準確度，成為建構代理型 AI 應用的理想選擇。
若想進一步了解本地端微調實作，可觀看 Matthew Berman 示範使用 Unsloth 在 NVIDIA GeForce RTX 5090 上執行強化學習的影片。
此外，開發者也可參考以下教學，學習如何在 NVIDIA DGX Spark 上安裝 Unsloth，並快速開始模型微調：
目前 Nemotron 3 Nano 已可在 Unsloth 上進行微調。開發者可透過 Hugging Face 下載 Nemotron 3 Nano，或使用 Llama.cpp 與 LM Studio 進行體驗。
