如果你平时要在终端里快速问大模型一个问题,或者想在 Python 脚本里调模型,Simon Willison 写的 llm 是最顺手的工具之一:它既是一个命令行工具,也是一个 Python 库,模型和密钥都用一套配置管起来。2026 年 11 月 2 日它发布了 0.37 版(随后还有 0.37.1 修复版),攒了大约两个月的更新。这篇文章就是这次更新的上手记录,所有命令都在 Python 3.12.3 的环境里实际跑过。

0.37 更新了什么

先说结论,四个值得注意的变化:

  • 新模型:OpenAI 插件里多了 gpt-6.1-sol 和 gpt-6.1-terra,装好就能用 llm -m 指定。
  • 接第三方端点变简单了:新命令 llm openai endpoint add,可以把任何 OpenAI 兼容的 API(比如 OpenRouter、本地的 Ollama、llama.cpp 服务,或者公司的代理)注册进来,不用再手改配置文件。
  • 默认模型换了,也便宜了:如果你之前没有自己设过默认模型,新装的默认模型从 gpt-5.6-luna 换成了 gpt-6-luna,价格大约是原来的一半。
  • 向量(embeddings)支持多模态内容类型:库层面现在能声明二进制内容的类型,命令行里对应的是 llm embed --binary 配合 --attachment-type 指定 MIME 类型。这是 Gemini Embedding 2 这类模型需要的,因为它能同时处理文本、音频、图片和视频。

另外一个小花絮:这次的修复来自 12 位贡献者,作者说几乎全是 AI 辅助提交的 PR,评审负担比预想的轻。

安装和验证

推荐用 pipx 或者 pip 安装,装的是命令行工具本身:

pip install llm
llm --version

我这边实测的输出是:

llm, version 0.37.1

装完先看一眼默认模型和模型列表,确认 0.37 的变化真的在你这台机器上生效了:

llm models default
llm models | grep -i "6.1\|luna"

实测输出:

gpt-6-luna
OpenAI Responses: gpt-5.6-luna
OpenAI Responses: gpt-6-luna
OpenAI Responses: gpt-6.1-sol
OpenAI Responses: gpt-6.1-terra
Default: gpt-6-luna

默认模型确实是 gpt-6-luna,gpt-6.1-sol 和 gpt-6.1-terra 也都在列表里。

配密钥:不要把 key 写进命令里

llm 的密钥是单独存的,用交互式命令设置,不会留在 shell 历史记录里:

llm keys set openai
# 提示 Enter key: 时粘贴你的 OpenAI API key,屏幕上不回显
llm keys

没配过密钥的话,llm keys 会显示 No keys found。配好之后,第一句对话就是一句话:

llm '用一句话解释什么是反向代理'

不加 -m 就是默认模型(现在是 gpt-6-luna)。想指定模型就加 -m:

llm -m gpt-6.1-sol '用一句话解释什么是反向代理'

新功能实测:llm openai endpoint add

这是 0.37 里对我最有用的一个变化。以前要接一个 OpenAI 兼容的端点,得自己去改 extra-openai-models.yaml;现在一条命令就能注册。先看它支持哪些选项:

llm openai endpoint --help

实测输出里有 add、list、remove、path、prompt 五个子命令,配置保存在 extra-openai-models.yaml。以官方帮助里的 OpenRouter 例子来说,注册一个模型是这样的:

llm openai endpoint add https://openrouter.ai/api/v1 \
  -m anthropic/claude-sonnet-4.5 --id claude-sonnet \
  --key openrouter --alias claude --supports-tools

几个关键参数的意思:

  • -m 是对方 API 要求传的模型名,必填;
  • --id 是你在 llm 里用的本地模型 ID,不填就默认用模型名;
  • --key 是存在 llm keys 里的密钥名字,用 llm keys set openrouter 先存好;
  • --supports-tools、 --vision、--audio 这些是告诉 llm 这个模型支持哪些能力,工具调用、看图、音频都按需加上。

注册完验证一下:

llm openai endpoint list
llm -m claude-sonnet '你好'

同样的办法也可以指向本地服务:Ollama 默认的 OpenAI 兼容地址,或者 llama.cpp 起的服务,URL 换成本地地址就行,之后你原来的脚本一行都不用改,换个 -m 就能切模型。这就是作者说的“BYOK(自带密钥)逃生口”:模型和端点可以换,命令行用法不变。

默认模型变了:写脚本的人要注意

默认模型从 gpt-5.6-luna 换成 gpt-6-luna,对随手在终端里提问的人来说是好事:同样的提示词,价格大约减半。但如果你有现成的脚本是直接调 llm '...' 而不写 -m 的,升级之后跑的模型就悄悄换了,输出风格和计费都会变。建议是:

  • 正式脚本里永远显式写 -m 模型名,不要依赖默认模型;
  • 升级后跑一遍 llm models default 确认当前默认值;
  • 如果你之前自己设过默认模型,这次升级不会动你的设置,只有“从来没设过”的人会被换成新默认。

在 Python 里调用

llm 不只是命令行,它本身就是 Python 库,同一套模型和密钥配置在代码里也能用:

import llm

model = llm.get_model("gpt-6-luna")
response = model.prompt("用一句话解释什么是反向代理")
print(response.text())

实测 llm.get_model("gpt-6-luna") 和取默认模型都能正常返回,不需要先配密钥就能拿到模型对象,真正发请求时才会用到密钥。这样写脚本的好处是:换模型只改一个字符串,密钥、日志、对话记录都由 llm 统一管,不用每个脚本自己再写一遍配置。

向量:一句话带过,但要知道它在

如果你做检索、语义搜索,会用到 llm embed。0.37 之后,向量功能在内容类型上更完整了:二进制内容可以声明自己的类型,命令行里是 --binary 加 --attachment-type:

llm embed -m gemini-embedding-2 --binary --attachment-type audio.wav audio/wav

意思是把一段音频按 audio/wav 类型交给支持多模态的向量模型。文本向量不受影响,这条主要是给同时处理文本、音频、图片、视频的模型准备的。做纯文本检索的话,升级前后用法没变。

验证

本文用到的关键命令和实测结果汇总:

命令实测结果
llm --versionllm, version 0.37.1
llm models defaultgpt-6-luna
llm models | grep lunagpt-6-luna、gpt-6.1-sol、gpt-6.1-terra 均在列
llm openai endpoint --help有 add / list / remove / path / prompt
llm keys(未配置时)No keys found
Python llm.get_model("gpt-6-luna")正常返回模型对象

没有实际发请求的输出,因为发请求需要你自己的 API key,本文不演示真实调用的返回内容。

安全提醒

  • API key 只用 llm keys set <名字> 存,不要写进代码、不要贴到聊天记录、不要提交到 git。llm keys 的存储位置在你本机,不要把它同步到公开的地方。
  • 第三方端点的 key 和 OpenAI 的 key 分开存,--key 参数就是用来区分的;一个端点泄露了,换那一个就行。
  • 注意计费:llm 本身免费,但每一次调用都是向模型服务商按量付费的。默认模型便宜了一半是好事,但 gpt-6.1 系列和长对话的费用要另外看定价,跑批量任务之前先小规模试一次。
  • 如果你在公司网络里用,确认一下代理和出口策略是否允许访问模型 API,不要为了调模型绕过公司的网络管控。

参考

  • 发布说明原文:https://simonwillison.net/2026/Nov/2/llm/
  • llm 官方文档:https://llm.datasette.io/
  • 项目地址:https://github.com/simonw/llm

如果你之前没用过 llm,装上 0.37 之后,先跑 llm models default 和 llm openai endpoint --help 这两条,就能摸到这次更新的重点:默认模型更便宜了,接第三方端点也不用再手改配置文件了。