用來打造可完全在自己電腦上運行的個人AI代理的開源框架「OpenJarvis」1.0版本正式發布[1]。它由史丹佛大學的Hazy Research與Scaling Intelligence兩個實驗室開發,從一開始就內建對「Ollama」的支援,Ollama是一款在本地運行大型語言模型(LLM)的工具[1]。其特色在於把「本地優先」設為預設方式,不再一味依賴雲端,而是在使用者自己的硬體上完成處理。

重新檢視「雲端優先」的前提

OpenJarvis是一套開源框架(也就是開發所依託的基礎結構),用於建立在自己硬體上運行的個人AI代理[1]。史丹佛大學的Hazy Research與Scaling Intelligence兩個實驗室,將其作為追求每瓦效能的「Intelligence Per Watt(每瓦智慧)」研究的一環進行開發[1]。

開發團隊指出了這樣的問題:本地運行的模型其實已經能夠應付絕大多數的日常對話與推理,但多數個人AI仍然把每一次請求都送往雲端[1]。OpenJarvis把這個前提反轉過來,將本地優先設為預設行為[1]。模型在使用者自己的機器上運行,使用雲端則完全是選用項目[1]。此外,它不只關注回答的準確度,還會一併記錄耗電量、成本以及回應所需的等待時間(延遲)[1]。

當處理在自己的裝置上完成時,輸入的資訊就無需傳送到外部伺服器,因此在隱私與通訊成本方面也具有優勢。在1.0版本中,作為支撐這種本地運行的基礎,對Ollama的支援已被標準內建[1]。

安裝步驟與模型選擇

要開始使用,首先需要準備用來在本地運行模型的Ollama[1]。Ollama面向macOS、Windows與Linux發布[1]。

接著安裝OpenJarvis本體。在macOS與Linux上,執行安裝腳本即可備齊所需的全部環境,並會自動偵測既有的Ollama安裝[1]。

curl -fsSL https://open-jarvis.github.io/OpenJarvis/install.sh | bash

在Windows上,可在WSL2(在Windows上運行Linux環境的機制)中執行該指令,或是安裝桌面應用程式[1]。準備就緒後,執行指令「jarvis」即可啟動[1]。

使用的模型可以自行選擇[1]。安裝腳本會準備一個初始模型以便立即上手,不過也可以透過Ollama取得並使用任意模型[1]。

jarvis model pull qwen3.5:35b
jarvis ask -m qwen3.5:35b "Your prompt"

若想固定預設使用的模型,可在設定檔「~/.openjarvis/config.toml」中寫入如下內容[1]。

[intelligence]
default_model = "qwen3.5:35b"
preferred_engine = "ollama"

開箱即用的內建代理

OpenJarvis內建了可直接運行的預設組態(也就是事先配置好的組合)[1]。每個預設都把某一用途所需的代理、執行引擎與工具打包在一起[1]。

第一個是晨間簡報。它會利用行事曆、電子郵件以及當天的新聞,產生一個彙整重點的晨間摘要代理[1]。

jarvis init --preset morning-digest-mac
jarvis connect gdrive
jarvis digest --fresh

第二個是跨檔案檢索。它會跨越網路上的資訊與本地文件進行查找,並給出附有出處的回答[1]。

jarvis init --preset deep-research
jarvis memory index ./docs/
jarvis ask "Summarize all emails about Project X"

第三個是在本地運行的程式設計代理。它會在使用者自己的機器上撰寫並執行Python程式碼來完成工作[1]。

jarvis init --preset code-assistant

這些預設的共同點在於,無需始終連接雲端,就能在自己的環境中運行。其設計可以依用途選擇初始組態,並在需要時替換所使用的模型。

總結

OpenJarvis是一套在自己硬體上運行個人AI代理的開源框架,自1.0版本起標準內建對Ollama的支援。在史丹佛大學實驗室推進的「每瓦智慧」研究背景下,它把過去交給雲端的處理轉向本地優先,並且不只記錄準確度,還記錄耗電量、成本與等待時間。它還提供了晨間摘要、跨檔案檢索、本地程式設計輔助等預設,安裝之後即可在自己的機器上立即試用。

來源:https://ollama.com/blog/openjarvis