DeepSeek-R1 搭配 AnythingLLM 搭本地知识库

使用 DeepSeek-R1 与 AnythingLLM 搭建本地知识库

本地部署与模型视频教程· 进阶· 10 分钟· UP 主马克的技术工作坊· DeepSeek-R1 / AnythingLLM / 本地知识库

▶ 10.2万播放

演示用 DeepSeek-R1 搭配 AnythingLLM 搭建本地离线的知识库，依次安装 Ollama、下载模型、装好 AnythingLLM，再演示聊天模式、上传文档、多工作区与语言配置，并说明本地方案如何缓解大模型杜撰问题。

这套教程讲什么

适合看重数据不出内网、想用自有文档做问答，又不想依赖在线服务的个人用户与中小企业技术人员。

动手前先确认本机内存和磁盘能带动所选模型版本，装完后先传一份小文档验证召回是否正常，再批量导入资料。

本地知识库为什么能减少模型胡编？

因为回答被约束在你上传的文档范围内，模型只需基于检索到的片段组织语言，并可附带引用来源，凭空补事实的空间变小。但它仍可能误读片段或拼接不当，所以重要内容还是要回到原文核对。

搭本地知识库通常要准备哪几层？

大致三层：用 Ollama 之类的运行时把模型跑在本机，用 AnythingLLM 管理文档、工作区与对话，再配上向量化与检索组件。硬件主要看内存容量，模型越大越吃资源，可先从小参数版本试起。

把模型跑在自己机器上，换来的是数据不出本机、长期使用成本可控，以及可以按需要换模型和插件；代价是要处理环境、驱动、显存和依赖。本分类按真实安装顺序组织：先确认硬件与系统要求，再用 Ollama 之类工具跑通第一个模型，之后才是 ComfyUI 环境、插件管理、模型量化和轻量微调。