返回首页
LLM

LLM

代码编程与辅助

开源命令行工具兼 Python 库,在终端调用 OpenAI、Claude、Gemini、Qwen、DeepSeek 等几十家模型,提示词与响应存进本地 SQLite 可随时检索

开源CLI
月访问量7,670
月访问量为第三方平台估算,仅供参考

详细介绍

LLM 是知名开源开发者 Simon Willison 出品的命令行工具兼 Python 库,让大模型的使用回归终端:直接在命令行里对 OpenAI、Claude、Gemini、Qwen、Gemma、Kimi、DeepSeek、Mistral 等几十家模型发起提示词,远程 API 与本机安装运行的模型都支持。它的核心主张是「模型调用应该像 Unix 管道一样可组合」,并且每一次提示词与响应都默认留在本地,可检索、可复现。项目页提供了快速上手示例、项目动态与完整文档,官方还配有演示视频与详细笔记,方便新用户快速入门。它的出现,让开发者在 API 调用日益碎片化的当下有了一个不依赖图形界面的统一入口,把各家模型的差异收敛到一套命令之下。

核心能力

  • 命令行运行提示词:在终端里直接发起对话或单次生成,输出可接入管道继续处理,也能保存到文件或传给下一个命令。
  • 本地 SQLite 存储:提示词、响应乃至嵌入向量默认写入本地 SQLite,随时回溯每次运行的实际输入与输出,并可检索、导出。
  • 多模型插件体系:通过插件机制接入数十家模型服务商,也支持安装并在本机运行的开源模型,用一套命令统一调用不同模型。
  • 嵌入与结构化提取:可生成并存储嵌入向量,还能从文本与图像中提取结构化内容,为本地检索与信息整理提供基础。
  • Python 库:同样的能力封装为 Python API,便于在脚本、测试与自动化任务里直接调用,和 CLI 能力保持一致。

适合谁

习惯命令行工作流的开发者,需要把模型调用嵌入脚本、批处理或自动化任务的人,以及重视本地留痕、可复现性与数据自主可控的用户。它尤其适合喜欢「用文本与命令管理一切」、愿意把 AI 调用纳入自己既有工具链的人,配合管道与脚本能发挥最大价值。对于需要批量对比多家模型输出质量的场景,它也能充当统一的评测入口。

注意事项

  • 它是命令行工具,没有图形界面,需要一定的终端使用经验,对纯图形界面用户并不友好。
  • 调用远程模型需要自行配置各家 API 密钥,并按各自资费付费,成本会随使用量累积,建议留意用量与账单。
  • 本地运行开源模型对硬件有要求,模型越大越吃显存与内存,需按自己的机器配置量力而行。
  • 默认把所有交互记录写进本地 SQLite,隐私友好,但共享机器上使用时,要留意记录可能被同机用户读取。

使用建议

适合从「把一次性的 API 调试挪进终端」开始,逐步建立自己的提示词模板库与日志习惯。批量任务建议搭配模板、嵌入与结构化输出一起用,让结果沉淀成可检索的本地资产,事后回溯时能准确还原每次运行的实际提示词与参数——这正是它相比图形界面工具最独特的地方。若你同时使用多种模型,不妨用它统一入口,再按任务类型固定到具体模型,减少来回切换与适配成本。另一个实用技巧是给常用命令起别名或写 shell 函数,把参数与模型选择固化下来,日常调用几乎可以做到无脑复用。