用于在本地运行大语言模型(LLM)的工具「Ollama」现已兼容 Anthropic 的「Messages API」[1]。该功能自 0.14.0 版本起提供,可让 Anthropic 的终端编程工具「Claude Code」搭配开源模型使用[1]。你既可以在本机运行模型,也可以通过 Ollama 的云端连接模型[1]

「Anthropic API 兼容」带来了什么变化

Claude Code 是 Anthropic 推出的、运行在终端中的智能体式编程工具[1]。它通常以 Anthropic 自家的模型为前提,而这次 Ollama 兼容了 Anthropic 的 Messages API,因此可以从 Claude Code 调用任何在 Ollama 上运行的模型[1]

使用本地模型,代码和指令内容就无需发送到外部服务器,可在本机完成处理。若需要更大的模型,也可以选择通过 ollama.com 连接云端模型[1]

安装步骤——安装 Claude Code 并连接 Ollama

首先安装 Claude Code 本体。各操作系统的安装命令如下[1]

# macOS / Linux / WSL
curl -fsSL https://claude.ai/install.sh | bash

# Windows PowerShell
irm https://claude.ai/install.ps1 | iex

接着,将 Claude Code 的连接目标指向 Ollama。只需设置两个环境变量[1]

export ANTHROPIC_AUTH_TOKEN=ollama
export ANTHROPIC_BASE_URL=http://localhost:11434

然后,指定想用的模型并启动 Claude Code[1]

claude --model gpt-oss:20b

Ollama 云端的模型也可以用同样的方式指定[1]

claude --model glm-4.7:cloud

无需获取 API 密钥或额外的配置文件,只需设置环境变量即可切换连接目标,十分便捷。

推荐模型与上下文长度

Ollama 为编程用途推荐的模型如下[1]。本地模型方面推荐「gpt-oss:20b」和「qwen3-coder」,云端模型方面推荐「glm-4.7:cloud」和「minimax-m2.1:cloud」[1]

像编程这类需要处理较长上下文的工作,建议将上下文长度(模型一次能处理的 token 数)设置为至少 32K(3.2 万 token)[1]。本地模型可在 Ollama 的设置中更改上下文长度[1]。此外,Ollama 的云端模型始终以最大上下文长度运行[1]

也支持通过 Anthropic SDK 使用

除了 Claude Code,使用 Anthropic SDK(软件开发工具包)的现有应用也只需更改连接的 URL 即可指向 Ollama[1]。在 Python 中,初始化客户端时将 base_url 设为 Ollama 的地址,api_key 设为「ollama」。该密钥为必填项,但其值不会被使用[1]

import anthropic

client = anthropic.Anthropic(
    base_url='http://localhost:11434',
    api_key='ollama',  # 必填,但其值会被忽略
)

message = client.messages.create(
    model='qwen3-coder',
    messages=[
        {'role': 'user', 'content': 'Write a function to check if a number is prime'}
    ]
)
print(message.content[0].text)

支持的功能也很丰富。包括多轮对话、流式输出、系统提示、工具调用(函数调用)、扩展思考(Extended thinking)以及支持图像输入的视觉功能等[1]。由此,许多以 Anthropic 模型为前提构建的工具和应用,也有了在开源模型上运行的空间。

总结

Ollama 自 0.14.0 版本起兼容 Anthropic 的 Messages API,让终端编程工具「Claude Code」和 Anthropic SDK 能够在开源模型上运行。安装只需装好 Claude Code,再用环境变量将连接目标指向 Ollama,十分简单,本地模型和云端模型都可选用。编程用途建议使用 32K 以上的上下文长度,并支持工具调用、扩展思考、图像输入等功能。对于想在本机环境或开源模型上尝试以 Anthropic 模型为前提构建的开发环境的人来说,这是一项拓宽选择的更新。

来源:https://ollama.com/blog/claude