先说结论:Kaggle 给个人账号每周 30 小时免费 GPU,一台 Notebook 两张 Tesla T4,每张 15.3GB 可用显存。9GB 的无审查 Qwen3-14B 单卡就能跑,实测 13–16 tok/s。本文把 Notebook 从零写到能对外调用的每一步都按实测写出来,照着抄就能跑。

和之前那篇 Colab 方案比,Kaggle 不用订阅、双 T4、每周 30 小时;代价是条款对长期对外服务更严,也没有 Drive 那样的持久缓存。自己测试、做实验,Kaggle 更划算。

一、Kaggle 免费 GPU 到底给什么

  • 每周 30 小时 GPU(TPU 另外 20 小时),按会话计时,跑一个 cell 才开始算。
  • 单次会话最长约 9 小时。官方两份文档数字打架,按短的规划。
  • 空闲 20 分钟自动断开。注意是"空闲":后台跑着的 Ollama 不算"执行中",所以要留一个长期占着的 cell 保活,或者用 Save & Run All(无空闲超时,上限 12 小时)。
  • 开 GPU 要先验证手机号:没验证之前,Accelerator 里 GPU T4 x2 是灰的,验证完就能选。TPU 还要再做身份验证,GPU 不用。
  • 额度数字以官方文档为准,免费政策随时可能变,动手前以官方页面为准。

二、新建 Notebook:两个开关

  1. Kaggle 首页 → Create → New Notebook。
  2. 右侧 Session options → Accelerator 选 GPU T4 x2。
  3. Internet 确认是开的(新建默认开)。Kaggle 没有入站端口,模型下载和隧道都靠出站联网。

跑一个 cell 之后会话才真正启动、开始计费。只写代码、改 cell 的时间不算。

三、Notebook 里写什么

整个流程就三个 cell:装 Ollama → 拉模型 → 验证。思路很简单,先在 Notebook 里手动跑通,再用脚本一键化。

Cell 1:装 Ollama

!curl -fsSL https://ollama.com/install.sh | sh
!ollama --version

Kaggle Notebook 是 root 权限的 Ubuntu 容器,curl | sh 直接装,不用 sudo。

Cell 2:起服务、拉模型

先把模型缓存指到 /kaggle/working(20GB 自动保存的目录),再起服务、拉模型:

!OLLAMA_MODELS=/kaggle/working/ollama-models nohup ollama serve > /tmp/ollama.log 2>&1 &
!ollama pull huihui_ai/qwen3-abliterated:14b
!ollama list

为什么是这个模型:无审查版 Qwen3-14B,Q4_K_M 量化 9.0GB,单张 T4(15.3GB 可用)放得下,不用跨卡。实测下载 9.3GB 只要一两分钟,Kaggle 出站带宽很快。

Cell 3:验证

!curl -s http://localhost:11434/api/tags | head -c 500
!curl -s http://localhost:11434/api/generate -d '{"model":"huihui_ai/qwen3-abliterated:14b","prompt":"写一个 Python hello world 程序,只输出代码,不要解释。","stream":false,"think":false}'

返回 print("Hello, World!"),模型就跑起来了。速度约 13–16 tok/s,写代码、翻译、聊天都够用。大上下文注意 KV cache 另占显存,留点余量。

模型缓存:下次不用重下

模型存在 /kaggle/working/ollama-models 里,下次开新会话,Session Persistence 选 Files only,/kaggle/working 的内容(best-effort)会带过来。更稳的办法是做成私有 Dataset 挂载到 /kaggle/input 再复制——不过实测重下 9.3GB 只要一两分钟,缓存丢了也不心疼。

保活:别让会话空闲断掉

交互会话空闲 20 分钟就断,后台的 Ollama 不算"执行中"。办法是留一个长期阻塞的 cell 占着,比如一个每分钟检查一次、跑满 8 小时自动停的循环,时间到了自己停 Ollama 和隧道。附录的完整脚本就是这么做的。

四、对外访问:Cloudflare 隧道(简要)

Kaggle 没有公网 IP 和入站端口,对外只能走出站隧道。Cloudflare Tunnel 的 Named Tunnel 就够:

  1. Cloudflare Zero Trust → Tunnels 建一个 tunnel,记下 token。
  2. Public Hostname:子域名填一个,域名选自己的,Service 填 http://localhost:11434,HTTP Host Header 填 localhost:11434。DNS 的 CNAME 建 hostname 时自动生成。
  3. Notebook 里装 cloudflared,拿 token 跑起来:
!curl -fsSL https://github.com/cloudflare/cloudflared/releases/latest/download/cloudflared-linux-amd64.deb -o /tmp/cloudflared.deb && dpkg -i /tmp/cloudflared.deb
!CLOUDFLARE_TUNNEL_TOKEN=你的TOKEN cloudflared tunnel run --token "$CLOUDFLARE_TUNNEL_TOKEN" &

token 别写进公开的 Notebook,用 Kaggle Secrets。

  1. 验证:浏览器打开 https://你的域名/api/tags,能看到模型列表就是通了。

注意:Quick Tunnel 的随机 trycloudflare.com 域名实测会被 Cloudflare 直接 403,三个网络加真浏览器都一样,别在这条路上浪费时间,直接用 Named Tunnel。

五、额度与收尾

  • 这次实测:从拉模型到验证通过、再停掉,总共用了 36 分钟 GPU,30 小时/周的额度还剩约 29.4 小时。
  • 用完就停会话:先停跑着的 cell(脚本会自己停 Ollama 和 cloudflared),再点 Stop session。只关浏览器标签不管用,空闲计时照样走,额度继续烧。
  • 条款:Kaggle 只许个人非商用,明确禁 server farming。短时间自己测试没问题,长期当免费 API 对外提供服务是拿账号冒险。

附录:完整启动脚本

上面这些步骤我包成了一个脚本,一个 cell 跑完:装 Ollama、拉模型、预热、起隧道、自测、保活 8 小时自动停。脚本不含任何密钥,注释是中文的。

下载:qwen3-kaggle.py

Notebook 里两个 cell:

!wget -q https://www.richyean.com/downloads/qwen3-kaggle.py -O /kaggle/working/qwen3-kaggle.py
!CLOUDFLARE_TUNNEL_TOKEN=你的TOKEN python /kaggle/working/qwen3-kaggle.py --tunnel named --public-url https://你的域名 --max-hours 8

不用隧道就把 --tunnel named 那部分去掉,默认 Quick Tunnel 只在 Notebook 里自测用。