如果你平时要在终端里快速问大模型一个问题,或者想在 Python 脚本里调模型,Simon Willison 写的 llm 是最顺手的工具之一:它既是一个命令行工具,也是一个 Python 库,模型和密钥都用一套配置管起来。2026 年 11 月 2 日它发布了 0.37 版(随后还有 0.37.1 修复版),攒了大约两个月的更新。这篇文章就是这次更新的上手记录,所有命令都在 Python 3.12.3 的环境里实际跑过。
0.37 更新了什么
先说结论,四个值得注意的变化:
- 新模型:OpenAI 插件里多了
gpt-6.1-sol和gpt-6.1-terra,装好就能用llm -m指定。 - 接第三方端点变简单了:新命令
llm openai endpoint add,可以把任何 OpenAI 兼容的 API(比如 OpenRouter、本地的 Ollama、llama.cpp 服务,或者公司的代理)注册进来,不用再手改配置文件。 - 默认模型换了,也便宜了:如果你之前没有自己设过默认模型,新装的默认模型从
gpt-5.6-luna换成了gpt-6-luna,价格大约是原来的一半。 - 向量(embeddings)支持多模态内容类型:库层面现在能声明二进制内容的类型,命令行里对应的是
llm embed --binary配合--attachment-type指定 MIME 类型。这是 Gemini Embedding 2 这类模型需要的,因为它能同时处理文本、音频、图片和视频。
另外一个小花絮:这次的修复来自 12 位贡献者,作者说几乎全是 AI 辅助提交的 PR,评审负担比预想的轻。
安装和验证
推荐用 pipx 或者 pip 安装,装的是命令行工具本身:
pip install llm
llm --version
我这边实测的输出是:
llm, version 0.37.1
装完先看一眼默认模型和模型列表,确认 0.37 的变化真的在你这台机器上生效了:
llm models default
llm models | grep -i "6.1\|luna"
实测输出:
gpt-6-luna
OpenAI Responses: gpt-5.6-luna
OpenAI Responses: gpt-6-luna
OpenAI Responses: gpt-6.1-sol
OpenAI Responses: gpt-6.1-terra
Default: gpt-6-luna
默认模型确实是 gpt-6-luna,gpt-6.1-sol 和 gpt-6.1-terra 也都在列表里。
配密钥:不要把 key 写进命令里
llm 的密钥是单独存的,用交互式命令设置,不会留在 shell 历史记录里:
llm keys set openai
# 提示 Enter key: 时粘贴你的 OpenAI API key,屏幕上不回显
llm keys
没配过密钥的话,llm keys 会显示 No keys found。配好之后,第一句对话就是一句话:
llm '用一句话解释什么是反向代理'
不加 -m 就是默认模型(现在是 gpt-6-luna)。想指定模型就加 -m:
llm -m gpt-6.1-sol '用一句话解释什么是反向代理'
新功能实测:llm openai endpoint add
这是 0.37 里对我最有用的一个变化。以前要接一个 OpenAI 兼容的端点,得自己去改 extra-openai-models.yaml;现在一条命令就能注册。先看它支持哪些选项:
llm openai endpoint --help
实测输出里有 add、list、remove、path、prompt 五个子命令,配置保存在 extra-openai-models.yaml。以官方帮助里的 OpenRouter 例子来说,注册一个模型是这样的:
llm openai endpoint add https://openrouter.ai/api/v1 \
-m anthropic/claude-sonnet-4.5 --id claude-sonnet \
--key openrouter --alias claude --supports-tools
几个关键参数的意思:
-m是对方 API 要求传的模型名,必填;--id是你在llm里用的本地模型 ID,不填就默认用模型名;--key是存在llm keys里的密钥名字,用llm keys set openrouter先存好;--supports-tools、--vision、--audio这些是告诉llm这个模型支持哪些能力,工具调用、看图、音频都按需加上。
注册完验证一下:
llm openai endpoint list
llm -m claude-sonnet '你好'
同样的办法也可以指向本地服务:Ollama 默认的 OpenAI 兼容地址,或者 llama.cpp 起的服务,URL 换成本地地址就行,之后你原来的脚本一行都不用改,换个 -m 就能切模型。这就是作者说的“BYOK(自带密钥)逃生口”:模型和端点可以换,命令行用法不变。
默认模型变了:写脚本的人要注意
默认模型从 gpt-5.6-luna 换成 gpt-6-luna,对随手在终端里提问的人来说是好事:同样的提示词,价格大约减半。但如果你有现成的脚本是直接调 llm '...' 而不写 -m 的,升级之后跑的模型就悄悄换了,输出风格和计费都会变。建议是:
- 正式脚本里永远显式写
-m 模型名,不要依赖默认模型; - 升级后跑一遍
llm models default确认当前默认值; - 如果你之前自己设过默认模型,这次升级不会动你的设置,只有“从来没设过”的人会被换成新默认。
在 Python 里调用
llm 不只是命令行,它本身就是 Python 库,同一套模型和密钥配置在代码里也能用:
import llm
model = llm.get_model("gpt-6-luna")
response = model.prompt("用一句话解释什么是反向代理")
print(response.text())
实测 llm.get_model("gpt-6-luna") 和取默认模型都能正常返回,不需要先配密钥就能拿到模型对象,真正发请求时才会用到密钥。这样写脚本的好处是:换模型只改一个字符串,密钥、日志、对话记录都由 llm 统一管,不用每个脚本自己再写一遍配置。
向量:一句话带过,但要知道它在
如果你做检索、语义搜索,会用到 llm embed。0.37 之后,向量功能在内容类型上更完整了:二进制内容可以声明自己的类型,命令行里是 --binary 加 --attachment-type:
llm embed -m gemini-embedding-2 --binary --attachment-type audio.wav audio/wav
意思是把一段音频按 audio/wav 类型交给支持多模态的向量模型。文本向量不受影响,这条主要是给同时处理文本、音频、图片、视频的模型准备的。做纯文本检索的话,升级前后用法没变。
验证
本文用到的关键命令和实测结果汇总:
| 命令 | 实测结果 |
|---|---|
llm --version | llm, version 0.37.1 |
llm models default | gpt-6-luna |
llm models | grep luna | gpt-6-luna、gpt-6.1-sol、gpt-6.1-terra 均在列 |
llm openai endpoint --help | 有 add / list / remove / path / prompt |
llm keys(未配置时) | No keys found |
Python llm.get_model("gpt-6-luna") | 正常返回模型对象 |
没有实际发请求的输出,因为发请求需要你自己的 API key,本文不演示真实调用的返回内容。
安全提醒
- API key 只用
llm keys set <名字>存,不要写进代码、不要贴到聊天记录、不要提交到 git。llm keys的存储位置在你本机,不要把它同步到公开的地方。 - 第三方端点的 key 和 OpenAI 的 key 分开存,
--key参数就是用来区分的;一个端点泄露了,换那一个就行。 - 注意计费:
llm本身免费,但每一次调用都是向模型服务商按量付费的。默认模型便宜了一半是好事,但gpt-6.1系列和长对话的费用要另外看定价,跑批量任务之前先小规模试一次。 - 如果你在公司网络里用,确认一下代理和出口策略是否允许访问模型 API,不要为了调模型绕过公司的网络管控。
参考
- 发布说明原文:https://simonwillison.net/2026/Nov/2/llm/
llm官方文档:https://llm.datasette.io/- 项目地址:https://github.com/simonw/llm
如果你之前没用过 llm,装上 0.37 之后,先跑 llm models default 和 llm openai endpoint --help 这两条,就能摸到这次更新的重点:默认模型更便宜了,接第三方端点也不用再手改配置文件了。