本地/隐私/开源
这一类处理的是「不能上云」的对话需求:本地跑模型、自部署客户端、端到端加密。适合律师、医生、财务、研发这类接触敏感信息的人,也适合想彻底控制成本(不按 token 付费)的团队。代价是硬件门槛和维护成本——本地模型的智力水平通常落后云端旗舰一代以上,7B~14B 在消费级显卡上能跑但别指望复杂推理。选型先确认显存,再谈模型。
排序共 9 款
这一类处理的是「不能上云」的对话需求:本地跑模型、自部署客户端、端到端加密。适合律师、医生、财务、研发这类接触敏感信息的人,也适合想彻底控制成本(不按 token 付费)的团队。代价是硬件门槛和维护成本——本地模型的智力水平通常落后云端旗舰一代以上,7B~14B 在消费级显卡上能跑但别指望复杂推理。选型先确认显存,再谈模型。