用於在本機執行大型語言模型(LLM)的工具「Ollama」現已相容 Anthropic 的「Messages API」[1]。此功能自 0.14.0 版起提供,可讓 Anthropic 的終端機程式設計工具「Claude Code」搭配開源模型使用[1]。你既可以在本機執行模型,也可以透過 Ollama 的雲端連接模型[1]。

「Anthropic API 相容」帶來什麼改變

Claude Code 是 Anthropic 推出、在終端機中運作的代理式程式設計工具[1]。它通常以 Anthropic 自家的模型為前提,而這次 Ollama 相容了 Anthropic 的 Messages API,因此可以從 Claude Code 呼叫任何在 Ollama 上執行的模型[1]。

使用本機模型,程式碼與指示內容就無須傳送到外部伺服器,可在本機完成處理。若需要更大的模型,也可以選擇透過 ollama.com 連接雲端模型[1]。

安裝步驟——安裝 Claude Code 並連接 Ollama

首先安裝 Claude Code 本體。各作業系統的安裝指令如下[1]。

# macOS / Linux / WSL
curl -fsSL https://claude.ai/install.sh | bash

# Windows PowerShell
irm https://claude.ai/install.ps1 | iex

接著,將 Claude Code 的連接目標指向 Ollama。只需設定兩個環境變數[1]。

export ANTHROPIC_AUTH_TOKEN=ollama
export ANTHROPIC_BASE_URL=http://localhost:11434

然後,指定想用的模型並啟動 Claude Code[1]。

claude --model gpt-oss:20b

Ollama 雲端的模型也可以用相同方式指定[1]。

claude --model glm-4.7:cloud

無須取得 API 金鑰或額外的設定檔,只要設定環境變數即可切換連接目標,相當方便。

推薦模型與上下文長度

Ollama 為程式設計用途推薦的模型如下[1]。本機模型方面推薦「gpt-oss:20b」與「qwen3-coder」,雲端模型方面推薦「glm-4.7:cloud」與「minimax-m2.1:cloud」[1]。

像程式設計這類需要處理較長上下文的工作,建議將上下文長度(模型一次能處理的 token 數)設定為至少 32K(3.2 萬 token)[1]。本機模型可在 Ollama 的設定中變更上下文長度[1]。此外,Ollama 的雲端模型始終以最大上下文長度運作[1]。

也支援透過 Anthropic SDK 使用

除了 Claude Code,使用 Anthropic SDK(軟體開發套件)的現有應用程式也只要更改連接的 URL 即可指向 Ollama[1]。在 Python 中,初始化用戶端時將 base_url 設為 Ollama 的位址,api_key 設為「ollama」。此金鑰為必填,但其值不會被使用[1]。

import anthropic

client = anthropic.Anthropic(
    base_url='http://localhost:11434',
    api_key='ollama',  # 必填,但其值會被忽略
)

message = client.messages.create(
    model='qwen3-coder',
    messages=[
        {'role': 'user', 'content': 'Write a function to check if a number is prime'}
    ]
)
print(message.content[0].text)

支援的功能也相當豐富。包括多輪對話、串流(逐步輸出)、系統提示、工具呼叫(函式呼叫)、擴展思考(Extended thinking)以及支援圖像輸入的視覺功能等[1]。如此一來,許多以 Anthropic 模型為前提打造的工具與應用程式,也有了在開源模型上執行的空間。

總結

Ollama 自 0.14.0 版起相容 Anthropic 的 Messages API,讓終端機程式設計工具「Claude Code」與 Anthropic SDK 能在開源模型上執行。安裝只需裝好 Claude Code,再以環境變數將連接目標指向 Ollama,相當簡單,本機模型與雲端模型皆可選用。程式設計用途建議使用 32K 以上的上下文長度,並支援工具呼叫、擴展思考、圖像輸入等功能。對於想在本機環境或開源模型上嘗試以 Anthropic 模型為前提打造的開發環境的人來說,這是一項拓寬選擇的更新。

來源:https://ollama.com/blog/claude