Locally AI

Locally AI 是一款在 iPhone、iPad 与 Mac 上本地运行开源大模型的原生应用，官网强调无需联网、无需登录，下载模型后即可开始使用。与云端 AI 助手相比，它的差异在于全部推理都发生在设备端，数据不出本机；官方称针对 Apple Silicon 做了优化，底层由 MLX 驱动，并接入设备上的 Apple Foundation Models。

核心能力

• Offline：官方称完全离线运行，无需联网或登录，下载模型后即可直接对话。
• Private and secure：所有处理都在设备本地完成，官方称没有云端处理、也不收集数据。
• Apple Silicon Optimized：官方称语言与视觉模型针对 Apple 芯片做了优化，兼顾性能与能效。
• Top open-source models supported：官网列出 Llama、Gemma、SmolLM、DeepSeek、Qwen、Granite、Cogito 与 LFM 等模型。
• Built for Apple platforms：原生应用覆盖 iPhone、iPad 与 Mac，官方称会利用最新的系统能力与设备端基础模型。
• Bigger screen, bigger intelligence：官网单列该板块，介绍 Mac 等大屏设备上的使用形态。

适合谁

• 常在无网络环境（航班、野外、涉密场所）下仍需要用 AI 处理文本的人。
• 处理合同、病历、内部资料等敏感内容、不愿把原文传到云端的从业者。
• 想在 Mac 或 iPad 上实测不同开源模型表现的开发者与研究者。
• 希望离线练写作、整理笔记、做本地问答的学生与写作者。

使用建议

• 先挑一个体积较小的模型（官网列表中的 SmolLM 一类轻量模型）试跑，确认速度可接受再换更大的模型。
• 下载前留意设备剩余存储空间，各模型体积差异较大，建议先装一个再逐步增补。
• 虽然处理在本地完成，仍建议检查系统级的云同步与备份设置，避免聊天内容被同步出去。
• 官方公告称 Locally AI 将加入 LM Studio，已在用 LM Studio 的用户可关注官方博客了解后续安排。
• 各开源模型的许可证不同，商用前请查看对应模型的许可条款；应用功能与官方规则可能调整，以官网说明为准。