Unsloth

Unsloth 早期以「极速微调」的 Python 库闻名，如今推出 Unsloth Desktop——官方称之为「第一个可运行与训练 AI 模型的桌面应用」，开源、免费、百分之百本地运行。它把下载模型、对话、微调、生成图像与视频整合进一个无代码桌面工作台，官方定位是「Your complete local AI workspace」，让本地 AI 不再只是命令行玩家的玩具——官方称「下载一个模型、几分钟内开始聊天」即可上手。官方还强调本地模型也能「真正跑代码」（Models that actually run code），并支持「随处访问模型」（Access models anywhere）。

核心能力

• 本地对话：下载一个模型几分钟内即可开始聊天，所有数据不出机器；官方提供模型库页面，可浏览最新开源模型并按需下载，模型与工作区都归你本地管理。
• 无代码微调：官方描述为 open-source, no-code desktop UI，提供可视化微调工作流，不必编写训练脚本，适合快速验证「在自有数据上调教模型」的可行性。
• 图像与视频生成：支持 MiniMax-H3、FLUX、Z-Image 等模型出图，Wan、LTX 等模型出视频；并可在本地做重绘（inpaint）、扩图（extend）、放大（upscale）、参考图（reference）等编辑。
• 连接编码智能体：可把 Claude Code、Codex 等智能体连接到自己的 GPU 上，让它们跑在本地模型之上。
• 最新模型与联网检索：持续跟进 Qwen、GLM 等新发布的开源模型（官网展示 Qwen3.8-Flash-Next、GLM-5.3-Flash 等），并内置高级网页搜索（Advanced Web search）。

适合谁

有本地显卡、在意数据不外流的研究者与开发者；想低成本尝试微调、又不想啃训练框架的个人用户；以及希望用本地模型驱动编码智能体、降低 API 依赖的团队；需要把代码与数据完全留在本地的公司内部场景同样适用。

注意事项

• 性能取决于显卡：官网视频生成样例基于 NVIDIA B200 这类高端卡（960×544、124 帧、13 秒），消费级设备需大幅降低预期。
• 提供 macOS 版本下载，但重度训练与出图仍建议在 NVIDIA 平台上进行。
• 本地运行意味着要自己管理模型文件与磁盘空间，大模型动辄数十 GB。
• 首次下载模型与运行出图耗时较长，受网络与硬盘速度影响明显。
• 微调与生成的具体效果随模型版本变化，官方示例里的参数未必适用你的数据，需要自行实验。
• 开源模型的能力与最新云端旗舰模型仍有差距，关键任务需自行评估。
• 桌面应用会同时占用内存与显存，对话、微调、出图多任务并行时注意资源竞争。

使用建议

先下载一个小模型跑通对话，体验本地推理；再尝试用无代码流程微调一个领域数据集，验证整个流程；视频生成等高负载任务建议在专用 GPU 上运行。官方教程与模型库更新频繁，动手前先看目标模型对硬件的要求，避免下载后才发现跑不动。数据敏感场景下，本地运行本身就是最大的安全优势。