AnythingLLM

AnythingLLM 是一款跑在个人电脑上的私有 AI 助手，官方口号是「Own your intelligence」。它不需要账号、不需要 API key、没有 token 上限，模型和文档都留在本机。与云端聊天产品最大的差别在于数据不出设备：官方称已有 700 万次以上桌面下载，累计在本地处理超过 2350 亿 token，帮用户省下 870 万美元以上的云端 API 费用。

核心能力

• 文档知识库：任意文档都能变成智能体的知识库，官方称数据全程不离开设备，适合内部资料问答。
• 本地会议助手：自动转写并总结会议，给出待办事项与关键决策，官方强调没有机器人加入通话，全程本地处理，且支持任意会议平台。
• Magic Echo 语音输入：说话即出字并实时润色，还能结合你当前屏幕上的内容给出更贴合的答复，同样在设备上完成。
• 智能体技能与后台任务：支持网页抓取与搜索、动态切换模型、后台作业、自定义 Agent 技能，复杂流程可以拆给不同模型跑。
• 三步上手：下载一个文件、选一个模型（或让它按硬件配置推荐）、直接开始；macOS、Windows、Linux 通用，另有 Android 版。
• 可扩展：自定义工具构建器与开发者 API，能把助手接进自己的业务流程，不必额外堆功能。

适合谁

• 处理合同、病历、内部制度等不便上云的岗位：文档和对话都留在本机。
• 经常开会、需要自动纪要和待办清单的人：不用再买单独的转写服务。
• 想在自己笔记本上跑开源模型、又不想折腾环境的开发者：装完即用，模型可选。
• 要给团队搭内网知识库问答的 IT：官方称已有数百万级下载和 Docker 部署方式。

使用建议

• 先下载桌面版，让它按硬件推荐模型，跑通流程后再换成更大的模型。
• 首次使用先建一个文档库，用几份熟悉的文件验证检索质量，再导入整批资料。
• 会议助手需要麦克风权限，正式会议前先用一场短会试录，确认转写与摘要的准确度。
• 官方博客提到正从 Ollama 迁到 Lemonade 与 llama.cpp，选模型时留意版本说明，避免照旧教程配置。
• 本地运行吃内存和显存，长文档解析与会议转写建议在插电、散热良好的状态下进行。