
LLM
代码编程与辅助开源命令行工具兼 Python 库,在终端调用 OpenAI、Claude、Gemini、Qwen、DeepSeek 等几十家模型,提示词与响应存进本地 SQLite 可随时检索
详细介绍
LLM 是知名开源开发者 Simon Willison 出品的命令行工具兼 Python 库,让大模型的使用回归终端:直接在命令行里对 OpenAI、Claude、Gemini、Qwen、Gemma、Kimi、DeepSeek、Mistral 等几十家模型发起提示词,远程 API 与本机安装运行的模型都支持。它的核心主张是「模型调用应该像 Unix 管道一样可组合」,并且每一次提示词与响应都默认留在本地,可检索、可复现。项目页提供了快速上手示例、项目动态与完整文档,官方还配有演示视频与详细笔记,方便新用户快速入门。它的出现,让开发者在 API 调用日益碎片化的当下有了一个不依赖图形界面的统一入口,把各家模型的差异收敛到一套命令之下。
核心能力
- 命令行运行提示词:在终端里直接发起对话或单次生成,输出可接入管道继续处理,也能保存到文件或传给下一个命令。
- 本地 SQLite 存储:提示词、响应乃至嵌入向量默认写入本地 SQLite,随时回溯每次运行的实际输入与输出,并可检索、导出。
- 多模型插件体系:通过插件机制接入数十家模型服务商,也支持安装并在本机运行的开源模型,用一套命令统一调用不同模型。
- 嵌入与结构化提取:可生成并存储嵌入向量,还能从文本与图像中提取结构化内容,为本地检索与信息整理提供基础。
- Python 库:同样的能力封装为 Python API,便于在脚本、测试与自动化任务里直接调用,和 CLI 能力保持一致。
适合谁
习惯命令行工作流的开发者,需要把模型调用嵌入脚本、批处理或自动化任务的人,以及重视本地留痕、可复现性与数据自主可控的用户。它尤其适合喜欢「用文本与命令管理一切」、愿意把 AI 调用纳入自己既有工具链的人,配合管道与脚本能发挥最大价值。对于需要批量对比多家模型输出质量的场景,它也能充当统一的评测入口。
注意事项
- 它是命令行工具,没有图形界面,需要一定的终端使用经验,对纯图形界面用户并不友好。
- 调用远程模型需要自行配置各家 API 密钥,并按各自资费付费,成本会随使用量累积,建议留意用量与账单。
- 本地运行开源模型对硬件有要求,模型越大越吃显存与内存,需按自己的机器配置量力而行。
- 默认把所有交互记录写进本地 SQLite,隐私友好,但共享机器上使用时,要留意记录可能被同机用户读取。
使用建议
适合从「把一次性的 API 调试挪进终端」开始,逐步建立自己的提示词模板库与日志习惯。批量任务建议搭配模板、嵌入与结构化输出一起用,让结果沉淀成可检索的本地资产,事后回溯时能准确还原每次运行的实际提示词与参数——这正是它相比图形界面工具最独特的地方。若你同时使用多种模型,不妨用它统一入口,再按任务类型固定到具体模型,减少来回切换与适配成本。另一个实用技巧是给常用命令起别名或写 shell 函数,把参数与模型选择固化下来,日常调用几乎可以做到无脑复用。
相似工具

Unsloth
开源的本地 AI 工作台,桌面端即可下载模型对话,无代码微调模型,还能本地生成与编辑图像视频,并可把编码智能体接到自己的 GPU。
同标签 · 开源
aider
在终端里运行的 AI 结对编程工具,自动映射代码库、支持 100 多种语言与多模型接入,并把每次改动直接提交进 Git,全程可追溯。
同标签 · 开源

MLflow
MLflow 是最大的开源 AI 工程平台,覆盖 Agent、LLM 与传统模型:链路观测、系统评估、提示词优化、AI 网关与模型部署一站搞定,让 AI 迭代快十倍。
同标签 · 开源

Kilo
开源 AI 编码代理,覆盖 VS Code、JetBrains、CLI 与云端,可接入 500 多个模型并支持自带密钥零加价,用本地模型可保护代码隐私。
同标签 · 开源

OpenCode
OpenCode 是开源 AI 编程代理,可在终端、IDE 与桌面端写代码,支持 LSP、多会话并行与 75+ 模型,隐私优先不存储代码。
同标签 · 开源

OpenAI Codex
OpenAI 面向代码场景的能力与开发文档入口,开发者可从这里创建 API Key、安装 SDK 跑通首次调用,并了解智能体构建与多模态模型选型。
同分类
