Ollama 是什麼?2026 完整教學:本地 AI 模型、安裝與硬體需求

Elponcrab
分享
Ollama 是什麼?2026 完整教學:本地 AI 模型、安裝與硬體需求

Ollama 是免費的開源工具,用一行指令就能在自己的電腦下載、執行開源 AI 模型,對話內容不會離開你的電腦。

多數人這樣選:16GB 記憶體的電腦先跑 Google 的 gemma4(約 7~10GB);32GB 以上可以換 Qwen3.6、Qwen3.8 或 OpenAI 的 gpt-oss:20b;本機跑不動的超大模型,例如 Kimi K3.1 Pro、DeepSeek V4.1 Flash,改用 Ollama Cloud 按 token 付費。

本文依 Ollama 0.40.15 版(2026 年 11 月 3 日)與官方文件整理。

廣告 - 內文未完請往下捲動

Ollama 現在能跑哪些模型?

本機最常用的是 Google Gemma 4、阿里巴巴 Qwen3.6/3.8 與 OpenAI gpt-oss;超大模型集中在 Ollama Cloud。以下大小是 Ollama 模型庫標示的下載檔案大小。

本機模型

模型(開發者) Ollama 上的大小 上下文長度 適合用途
gemma4(Google) e2b:4.6~7.5GB
e4b:6.6~9.5GB
12b:7.7~8GB
26b:16~19GB
31b:19~20GB
e2b、e4b:128K
其餘:256K
入門首選,通用對話、看圖、寫程式
qwen3.6(阿里巴巴) 27b:18~19GB
35b:23GB
256K 寫程式代理、中文
qwen3.8(阿里巴巴) 27b:18GB 256K 寫程式、研究、長時間代理任務
gpt-oss(OpenAI) 20b:14GB
120b:65GB
128K 推理、代理任務
flint(Recursive) 40b:23GB 256K 在整個程式庫裡查錯、加功能、寫測試
nemotron-3.5-bolt(NVIDIA) e4b:7.2~7.9GB 128K 快速對話、看圖、呼叫工具

Flint 是 Recursive 的寫程式模型,10 月加入 Ollama,總參數 400 億、每個 token 只啟動約 25 億,Recursive 自己公布的 SWE-bench Verified 成績是 74.2%。另外還有很小的模型可用,例如 Liquid AI 的 LFM3 系列(1.7B 起),適合放在筆電或做特定任務。

雲端模型(Ollama Cloud)

模型 API 價格(每百萬 token,輸入/輸出)
kimi-k3.1-pro(月之暗面) 2 美元/10 美元
deepseek-v4-pro(DeepSeek) 1.32 美元/3.96 美元(離峰 0.66/1.98 美元)
glm-5.3(智譜) 1.40 美元/4.40 美元
deepseek-v4.1-flash(DeepSeek) 0.30 美元/1.20 美元(離峰 0.15/0.60 美元)
glm-5.3-flash(智譜) 0.15 美元/0.50 美元
gpt-oss:120b(OpenAI) 0.15 美元/0.60 美元
gemma4(Google) 0.14 美元/0.40 美元

價格取自 Ollama 官方價格頁;離峰時段是平日 UTC 12:00~18:00 以外與週末全天。Kimi K3.1 Pro 的權重雖已開放,但屬 3 兆參數等級,在 Ollama 上只提供雲端版,見鏈新聞先前報導。

依記憶體怎麼選?

能跑多大的模型,主要看記憶體(Mac)或顯示卡記憶體(PC)。原則是模型檔案要放得進去,另外留 2~4GB 給系統和對話內容。

可用記憶體 建議模型
8GB gemma4:e2b、LFM3 等小模型
16GB gemma4(預設 e4b)、gemma4:12b、nemotron-3.5-bolt:e4b
24~32GB qwen3.6:27b、qwen3.8、gemma4:26b/31b、gpt-oss:20b、flint
96GB 以上 gpt-oss:120b(65GB);再大的模型改用雲端

Mac:Apple Silicon 預設用 MLX

Apple Silicon 的處理器和顯示晶片共用同一塊記憶體,大記憶體的 Mac 很適合跑本地模型。0.40.0 版起,Apple Silicon 上支援的模型會預設改用 Apple 的 MLX 引擎執行,不需要另外設定,更新 Ollama 即可。

PC:NVIDIA 顯示卡要求

依 Ollama 硬體文件,NVIDIA 顯示卡需要運算能力 5.0 以上、驅動程式 550 版以上,RTX 20 系列到 50 系列都在支援名單內。沒有顯示卡也能用處理器跑,只是慢很多。

上下文長度:寫程式、代理至少設 64K

Ollama 會依顯示卡記憶體自動決定預設上下文長度:小於 24GB 是 4K、24~48GB 是 32K、48GB 以上是 256K。官方建議網路搜尋、代理、寫程式這類工作至少設到 64,000 token:

OLLAMA_CONTEXT_LENGTH=64000 ollama serve

上下文越長,佔用的記憶體越多。

安裝 Ollama 並執行第一個模型

macOS 與 Windows 從官網下載安裝程式,之後會自動下載更新。也可以用指令安裝:

# macOS(Homebrew)
brew install ollama

# Windows
winget install Ollama.Ollama

# Linux
curl -fsSL https://ollama.com/install.sh | sh

# Docker(有 NVIDIA 顯示卡)
docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

安裝後 Ollama 會在背景執行,預設在 localhost:11434 接收請求。接著一行指令就能開始對話,模型還沒下載的話會自動下載:

ollama run gemma4
>>> 請用繁體中文解釋什麼是區塊鏈
>>> /bye

常用指令:

指令 用途
ollama pull qwen3.6:27b 只下載、不啟動
ollama list 列出已下載的模型
ollama ps 看哪些模型正在執行
ollama stop gemma4 停止模型
ollama rm gemma4 刪除模型
ollama launch 設定並啟動 Claude Code、Codex 等外部工具

接到 Claude Code、Codex 等工具

除了直接對話,Ollama 也能當其他 AI 工具的模型來源。ollama launch 會互動式幫你設定,官方文件列出的整合包括 Claude Code、Codex、OpenCode、VS Code、Hermes Agent 等。

Claude Code:一行 ollama launch claude

依 Ollama 官方文件,Ollama 透過 Anthropic 相容 API 把本機與雲端模型接到 Claude Code,啟動方式是:

ollama launch claude

Claude Code 的功能與費用見 Claude Code 完整指南;用 DeepSeek V4 Pro 雲端模型搭配 Claude Code 的實作,見這篇教學。

Codex、ChatGPT Desktop 與 Claude Desktop

ollama launch codex 會把本機已下載的模型放進 Codex CLI 的模型選單,在 Codex 裡用 /model 切換。9 月的 0.34.0 版起,Ollama 模型也能直接在 ChatGPT Desktop 使用;8 月起可以當 Claude Desktop 的模型來源。

Hermes Agent、OpenClaw 與編輯器

Nous Research 的 Hermes Agent 從 0.21.0 版起可以用 ollama launch hermes 啟動,它會把完成的任務整理成技能、越用越順手,遷移方式見 Hermes Agent 教學。OpenClaw 的設定見 Gemma 4+Ollama+OpenClaw 教學。

Cursor 等支援 OpenAI 格式的編輯器,把 API 位址設成 http://localhost:11434/v1、填入模型名稱即可,見 Cursor 完整指南。

用程式呼叫 Ollama

Ollama 提供自己的 REST API,也相容 OpenAI 與 Anthropic 的格式,原本串 OpenAI 的程式通常只要改網址和模型名稱。

# Ollama 原生 API
curl http://localhost:11434/api/chat -d '{
  "model": "gemma4",
  "messages": [{"role": "user", "content": "什麼是比特幣?"}],
  "stream": false
}'

# OpenAI 相容端點
curl http://localhost:11434/v1/chat/completions -d '{
  "model": "gemma4",
  "messages": [{"role": "user", "content": "什麼是比特幣?"}]
}'

Python 與 JavaScript 有官方套件(pip install ollama、npm install ollama):

import ollama

response = ollama.chat(model="gemma4", messages=[
    {"role": "user", "content": "請解釋什麼是區塊鏈"}
])
print(response["message"]["content"])

工具呼叫

在 /api/chat 的請求裡加上 tools 清單,模型就能自己決定什麼時候呼叫哪個工具,例如查天氣、查資料庫,這是做 AI 代理的基礎。

網路搜尋 API

Ollama 的網路搜尋是另一支雲端 API,要先用免費帳號建立 API key。依官方文件,每次查一個關鍵字,最多回傳 10 筆結果,每筆有標題、網址與內容摘要:

curl https://ollama.com/api/web_search \
  -H "Authorization: Bearer $OLLAMA_API_KEY" \
  -d '{"query": "比特幣 ETF", "max_results": 5}'

決策模型與語音

10 月起 Ollama 支援「決策模型」:給一段文字或圖片,模型回傳選項、是或否的機率或評分,適合分類客服單、幫代理分流。可用的有 Cloudflare 的 Clef(見先前報導)、vLLM 的 d3 等:

ollama run d3 "客戶說他的卡被重複扣款。" --ask "這是帳務問題嗎?"

0.40.11 版起,Ollama 也能在 macOS 上把文字或模型的回覆念出來,第一個語音模型是 Gradium 的 Phonon;程式可以透過 OpenAI 相容的 /v1/audio/speech 端點取得語音。

進階設定

用 Modelfile 做自己的模型

Modelfile 可以固定系統提示詞與參數,做出專用版本:

# Modelfile
FROM gemma4
SYSTEM """你是繁體中文技術文件助手,回答一律使用繁體中文。"""
PARAMETER temperature 0.7
PARAMETER num_ctx 8192
ollama create zh-writer -f Modelfile
ollama run zh-writer

常用環境變數

# 讓區網其他電腦連線(只在信任的內網使用)
OLLAMA_HOST=0.0.0.0:11434 ollama serve

# 改模型存放位置
OLLAMA_MODELS=/path/to/models ollama serve

# 同時處理的請求數
OLLAMA_NUM_PARALLEL=4 ollama serve

Ollama 模型庫的模型多半已經量化,也就是把參數壓縮成較低精度,檔案比原始版本小很多,代價是品質略降。

Ollama Cloud:本機跑不動的模型

Ollama Cloud 把模型放在 Ollama 的伺服器上執行,用法和本機幾乎一樣,模型名稱後面加 :cloud 就會改在雲端跑:

ollama run kimi-k3.1-pro:cloud

程式呼叫則用 API key,對 https://ollama.com/api/chat 送出請求。用雲端模型時,對話內容會送到 Ollama 的伺服器處理,這點和本機不同。

依官方價格頁,方案如下:

方案 月費 內含
Pay as you go 0 元 按 token 付費,可同時處理 3 個請求,不收服務費
Pro 20 美元(年繳每月 16.67 美元) 每月 60 美元用量、可用較大的 Pro 模型
Max 100 美元 每月 300 美元用量,可同時處理 10 個請求,新模型搶先用
Team(搶先體驗) 500 美元 不限人數、全隊共用每月 1,000 美元用量

偶爾才需要超大模型,按用量付費比買高階顯示卡划算;每天大量使用又重視隱私,本機硬體長期成本較低。

常見問題(FAQ)

Ollama 是免費的嗎?

是。Ollama 是 MIT 授權的開源軟體,本機下載、執行模型都不用錢,只有使用 Ollama Cloud 雲端模型要按用量付費。

Ollama 需要什麼電腦?

16GB 記憶體的 Apple Silicon Mac,或有 NVIDIA 顯示卡的 PC,就能順跑 gemma4 這類入門模型;想跑 27B 等級的模型,建議 32GB 以上。

Ollama 跟 ChatGPT 有什麼不同?

ChatGPT 是 OpenAI 的雲端服務,用的是閉源模型;Ollama 是在你電腦上執行開源模型的工具,可以離線使用、資料不外傳。最難的任務雲端頂尖模型通常仍較強,很多人日常用本機、難題才用雲端。

Ollama 可以用中文嗎?

可以。阿里巴巴的 Qwen 系列與 Google 的 Gemma 4 都支援中文,直接用中文問就會用中文回答。

資料會外洩嗎?

本機模型的對話、文件都留在你的電腦,只有下載模型時需要連網。使用名稱帶 :cloud 的雲端模型時,內容會送到 Ollama 的伺服器處理。

怎麼更新 Ollama 和模型?

macOS 與 Windows 版會自動下載更新,點選單列圖示的「Restart to update」即可;Linux 重新執行安裝指令。模型用 ollama pull 加模型名稱更新。

可以多人共用一台 Ollama 嗎?

可以。把 OLLAMA_HOST 設成 0.0.0.0:11434,區網其他電腦就能透過 API 連線;只建議在信任的內網這樣做,並設好防火牆。

Ollama 發展回顧

  • 11/3:0.40.15 版加入小米 MiMo V2.6、AutoTrust 決策模型,ollama launch 支援 Kimi Code CLI
  • 10/27:0.40.12 版加入 Liquid AI LFM3 小模型系列,含語音與全模態版本
  • 10/24:0.40.11 版在 macOS 加入語音生成(Phonon),並加入 d3 決策模型
  • 10/21:0.40.8 版加入 Recursive 的 Flint 寫程式模型
  • 10/14:0.40.5 版加入 NVIDIA Nemotron 3.5 Super,決策模型可在雲端執行
  • 10/12:0.40.4 版起決策模型可在終端機直接使用
  • 9/25:0.40.0 版起,Apple Silicon 上支援的模型預設改用 MLX 執行
  • 9/5:0.34.0 版起,Ollama 模型可直接在 ChatGPT Desktop 使用
  • 8/31:Ollama Cloud 改為按 token 計費,各方案附內含用量
  • 8/25:可作為 Claude Desktop 的模型來源
  • 7/11:0.32.0 版起直接輸入 ollama 會啟動互動式代理,並加入技能系統
  • 5/13:0.30.0 版把主要推論引擎改為 llama.cpp,Apple Silicon 仍用 MLX

更早之前:4 月 0.21.0 版加入 Hermes Agent,3 月預覽 MLX 支援並推出 Windows ARM64 版。版本細節以 Ollama GitHub releases 為準。

風險提示

加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。