Ollama 是什麼?2026 完整教學:本地 AI 模型、安裝與硬體需求
Ollama 是免費的開源工具,用一行指令就能在自己的電腦下載、執行開源 AI 模型,對話內容不會離開你的電腦。
多數人這樣選:16GB 記憶體的電腦先跑 Google 的 gemma4(約 7~10GB);32GB 以上可以換 Qwen3.6、Qwen3.8 或 OpenAI 的 gpt-oss:20b;本機跑不動的超大模型,例如 Kimi K3.1 Pro、DeepSeek V4.1 Flash,改用 Ollama Cloud 按 token 付費。
本文依 Ollama 0.40.15 版(2026 年 11 月 3 日)與官方文件整理。
廣告 - 內文未完請往下捲動
Ollama 現在能跑哪些模型?
本機最常用的是 Google Gemma 4、阿里巴巴 Qwen3.6/3.8 與 OpenAI gpt-oss;超大模型集中在 Ollama Cloud。以下大小是 Ollama 模型庫標示的下載檔案大小。
本機模型
| 模型(開發者) | Ollama 上的大小 | 上下文長度 | 適合用途 |
|---|---|---|---|
| gemma4(Google) | e2b:4.6~7.5GB e4b:6.6~9.5GB 12b:7.7~8GB 26b:16~19GB 31b:19~20GB |
e2b、e4b:128K 其餘:256K |
入門首選,通用對話、看圖、寫程式 |
| qwen3.6(阿里巴巴) | 27b:18~19GB 35b:23GB |
256K | 寫程式代理、中文 |
| qwen3.8(阿里巴巴) | 27b:18GB | 256K | 寫程式、研究、長時間代理任務 |
| gpt-oss(OpenAI) | 20b:14GB 120b:65GB |
128K | 推理、代理任務 |
| flint(Recursive) | 40b:23GB | 256K | 在整個程式庫裡查錯、加功能、寫測試 |
| nemotron-3.5-bolt(NVIDIA) | e4b:7.2~7.9GB | 128K | 快速對話、看圖、呼叫工具 |
Flint 是 Recursive 的寫程式模型,10 月加入 Ollama,總參數 400 億、每個 token 只啟動約 25 億,Recursive 自己公布的 SWE-bench Verified 成績是 74.2%。另外還有很小的模型可用,例如 Liquid AI 的 LFM3 系列(1.7B 起),適合放在筆電或做特定任務。
雲端模型(Ollama Cloud)
| 模型 | API 價格(每百萬 token,輸入/輸出) |
|---|---|
| kimi-k3.1-pro(月之暗面) | 2 美元/10 美元 |
| deepseek-v4-pro(DeepSeek) | 1.32 美元/3.96 美元(離峰 0.66/1.98 美元) |
| glm-5.3(智譜) | 1.40 美元/4.40 美元 |
| deepseek-v4.1-flash(DeepSeek) | 0.30 美元/1.20 美元(離峰 0.15/0.60 美元) |
| glm-5.3-flash(智譜) | 0.15 美元/0.50 美元 |
| gpt-oss:120b(OpenAI) | 0.15 美元/0.60 美元 |
| gemma4(Google) | 0.14 美元/0.40 美元 |
價格取自 Ollama 官方價格頁;離峰時段是平日 UTC 12:00~18:00 以外與週末全天。Kimi K3.1 Pro 的權重雖已開放,但屬 3 兆參數等級,在 Ollama 上只提供雲端版,見鏈新聞先前報導。
依記憶體怎麼選?
能跑多大的模型,主要看記憶體(Mac)或顯示卡記憶體(PC)。原則是模型檔案要放得進去,另外留 2~4GB 給系統和對話內容。
| 可用記憶體 | 建議模型 |
|---|---|
| 8GB | gemma4:e2b、LFM3 等小模型 |
| 16GB | gemma4(預設 e4b)、gemma4:12b、nemotron-3.5-bolt:e4b |
| 24~32GB | qwen3.6:27b、qwen3.8、gemma4:26b/31b、gpt-oss:20b、flint |
| 96GB 以上 | gpt-oss:120b(65GB);再大的模型改用雲端 |
Mac:Apple Silicon 預設用 MLX
Apple Silicon 的處理器和顯示晶片共用同一塊記憶體,大記憶體的 Mac 很適合跑本地模型。0.40.0 版起,Apple Silicon 上支援的模型會預設改用 Apple 的 MLX 引擎執行,不需要另外設定,更新 Ollama 即可。
PC:NVIDIA 顯示卡要求
依 Ollama 硬體文件,NVIDIA 顯示卡需要運算能力 5.0 以上、驅動程式 550 版以上,RTX 20 系列到 50 系列都在支援名單內。沒有顯示卡也能用處理器跑,只是慢很多。
上下文長度:寫程式、代理至少設 64K
Ollama 會依顯示卡記憶體自動決定預設上下文長度:小於 24GB 是 4K、24~48GB 是 32K、48GB 以上是 256K。官方建議網路搜尋、代理、寫程式這類工作至少設到 64,000 token:
OLLAMA_CONTEXT_LENGTH=64000 ollama serve
上下文越長,佔用的記憶體越多。
安裝 Ollama 並執行第一個模型
macOS 與 Windows 從官網下載安裝程式,之後會自動下載更新。也可以用指令安裝:
# macOS(Homebrew)
brew install ollama
# Windows
winget install Ollama.Ollama
# Linux
curl -fsSL https://ollama.com/install.sh | sh
# Docker(有 NVIDIA 顯示卡)
docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
安裝後 Ollama 會在背景執行,預設在 localhost:11434 接收請求。接著一行指令就能開始對話,模型還沒下載的話會自動下載:
ollama run gemma4
>>> 請用繁體中文解釋什麼是區塊鏈
>>> /bye
常用指令:
| 指令 | 用途 |
|---|---|
| ollama pull qwen3.6:27b | 只下載、不啟動 |
| ollama list | 列出已下載的模型 |
| ollama ps | 看哪些模型正在執行 |
| ollama stop gemma4 | 停止模型 |
| ollama rm gemma4 | 刪除模型 |
| ollama launch | 設定並啟動 Claude Code、Codex 等外部工具 |
接到 Claude Code、Codex 等工具
除了直接對話,Ollama 也能當其他 AI 工具的模型來源。ollama launch 會互動式幫你設定,官方文件列出的整合包括 Claude Code、Codex、OpenCode、VS Code、Hermes Agent 等。
Claude Code:一行 ollama launch claude
依 Ollama 官方文件,Ollama 透過 Anthropic 相容 API 把本機與雲端模型接到 Claude Code,啟動方式是:
ollama launch claude
Claude Code 的功能與費用見 Claude Code 完整指南;用 DeepSeek V4 Pro 雲端模型搭配 Claude Code 的實作,見這篇教學。
Codex、ChatGPT Desktop 與 Claude Desktop
ollama launch codex 會把本機已下載的模型放進 Codex CLI 的模型選單,在 Codex 裡用 /model 切換。9 月的 0.34.0 版起,Ollama 模型也能直接在 ChatGPT Desktop 使用;8 月起可以當 Claude Desktop 的模型來源。
Hermes Agent、OpenClaw 與編輯器
Nous Research 的 Hermes Agent 從 0.21.0 版起可以用 ollama launch hermes 啟動,它會把完成的任務整理成技能、越用越順手,遷移方式見 Hermes Agent 教學。OpenClaw 的設定見 Gemma 4+Ollama+OpenClaw 教學。
Cursor 等支援 OpenAI 格式的編輯器,把 API 位址設成 http://localhost:11434/v1、填入模型名稱即可,見 Cursor 完整指南。
用程式呼叫 Ollama
Ollama 提供自己的 REST API,也相容 OpenAI 與 Anthropic 的格式,原本串 OpenAI 的程式通常只要改網址和模型名稱。
# Ollama 原生 API
curl http://localhost:11434/api/chat -d '{
"model": "gemma4",
"messages": [{"role": "user", "content": "什麼是比特幣?"}],
"stream": false
}'
# OpenAI 相容端點
curl http://localhost:11434/v1/chat/completions -d '{
"model": "gemma4",
"messages": [{"role": "user", "content": "什麼是比特幣?"}]
}'
Python 與 JavaScript 有官方套件(pip install ollama、npm install ollama):
import ollama
response = ollama.chat(model="gemma4", messages=[
{"role": "user", "content": "請解釋什麼是區塊鏈"}
])
print(response["message"]["content"])
工具呼叫
在 /api/chat 的請求裡加上 tools 清單,模型就能自己決定什麼時候呼叫哪個工具,例如查天氣、查資料庫,這是做 AI 代理的基礎。
網路搜尋 API
Ollama 的網路搜尋是另一支雲端 API,要先用免費帳號建立 API key。依官方文件,每次查一個關鍵字,最多回傳 10 筆結果,每筆有標題、網址與內容摘要:
curl https://ollama.com/api/web_search \
-H "Authorization: Bearer $OLLAMA_API_KEY" \
-d '{"query": "比特幣 ETF", "max_results": 5}'
決策模型與語音
10 月起 Ollama 支援「決策模型」:給一段文字或圖片,模型回傳選項、是或否的機率或評分,適合分類客服單、幫代理分流。可用的有 Cloudflare 的 Clef(見先前報導)、vLLM 的 d3 等:
ollama run d3 "客戶說他的卡被重複扣款。" --ask "這是帳務問題嗎?"
0.40.11 版起,Ollama 也能在 macOS 上把文字或模型的回覆念出來,第一個語音模型是 Gradium 的 Phonon;程式可以透過 OpenAI 相容的 /v1/audio/speech 端點取得語音。
進階設定
用 Modelfile 做自己的模型
Modelfile 可以固定系統提示詞與參數,做出專用版本:
# Modelfile
FROM gemma4
SYSTEM """你是繁體中文技術文件助手,回答一律使用繁體中文。"""
PARAMETER temperature 0.7
PARAMETER num_ctx 8192
ollama create zh-writer -f Modelfile
ollama run zh-writer
常用環境變數
# 讓區網其他電腦連線(只在信任的內網使用)
OLLAMA_HOST=0.0.0.0:11434 ollama serve
# 改模型存放位置
OLLAMA_MODELS=/path/to/models ollama serve
# 同時處理的請求數
OLLAMA_NUM_PARALLEL=4 ollama serve
Ollama 模型庫的模型多半已經量化,也就是把參數壓縮成較低精度,檔案比原始版本小很多,代價是品質略降。
Ollama Cloud:本機跑不動的模型
Ollama Cloud 把模型放在 Ollama 的伺服器上執行,用法和本機幾乎一樣,模型名稱後面加 :cloud 就會改在雲端跑:
ollama run kimi-k3.1-pro:cloud
程式呼叫則用 API key,對 https://ollama.com/api/chat 送出請求。用雲端模型時,對話內容會送到 Ollama 的伺服器處理,這點和本機不同。
依官方價格頁,方案如下:
| 方案 | 月費 | 內含 |
|---|---|---|
| Pay as you go | 0 元 | 按 token 付費,可同時處理 3 個請求,不收服務費 |
| Pro | 20 美元(年繳每月 16.67 美元) | 每月 60 美元用量、可用較大的 Pro 模型 |
| Max | 100 美元 | 每月 300 美元用量,可同時處理 10 個請求,新模型搶先用 |
| Team(搶先體驗) | 500 美元 | 不限人數、全隊共用每月 1,000 美元用量 |
偶爾才需要超大模型,按用量付費比買高階顯示卡划算;每天大量使用又重視隱私,本機硬體長期成本較低。
常見問題(FAQ)
Ollama 是免費的嗎?
是。Ollama 是 MIT 授權的開源軟體,本機下載、執行模型都不用錢,只有使用 Ollama Cloud 雲端模型要按用量付費。
Ollama 需要什麼電腦?
16GB 記憶體的 Apple Silicon Mac,或有 NVIDIA 顯示卡的 PC,就能順跑 gemma4 這類入門模型;想跑 27B 等級的模型,建議 32GB 以上。
Ollama 跟 ChatGPT 有什麼不同?
ChatGPT 是 OpenAI 的雲端服務,用的是閉源模型;Ollama 是在你電腦上執行開源模型的工具,可以離線使用、資料不外傳。最難的任務雲端頂尖模型通常仍較強,很多人日常用本機、難題才用雲端。
Ollama 可以用中文嗎?
可以。阿里巴巴的 Qwen 系列與 Google 的 Gemma 4 都支援中文,直接用中文問就會用中文回答。
資料會外洩嗎?
本機模型的對話、文件都留在你的電腦,只有下載模型時需要連網。使用名稱帶 :cloud 的雲端模型時,內容會送到 Ollama 的伺服器處理。
怎麼更新 Ollama 和模型?
macOS 與 Windows 版會自動下載更新,點選單列圖示的「Restart to update」即可;Linux 重新執行安裝指令。模型用 ollama pull 加模型名稱更新。
可以多人共用一台 Ollama 嗎?
可以。把 OLLAMA_HOST 設成 0.0.0.0:11434,區網其他電腦就能透過 API 連線;只建議在信任的內網這樣做,並設好防火牆。
Ollama 發展回顧
- 11/3:0.40.15 版加入小米 MiMo V2.6、AutoTrust 決策模型,ollama launch 支援 Kimi Code CLI
- 10/27:0.40.12 版加入 Liquid AI LFM3 小模型系列,含語音與全模態版本
- 10/24:0.40.11 版在 macOS 加入語音生成(Phonon),並加入 d3 決策模型
- 10/21:0.40.8 版加入 Recursive 的 Flint 寫程式模型
- 10/14:0.40.5 版加入 NVIDIA Nemotron 3.5 Super,決策模型可在雲端執行
- 10/12:0.40.4 版起決策模型可在終端機直接使用
- 9/25:0.40.0 版起,Apple Silicon 上支援的模型預設改用 MLX 執行
- 9/5:0.34.0 版起,Ollama 模型可直接在 ChatGPT Desktop 使用
- 8/31:Ollama Cloud 改為按 token 計費,各方案附內含用量
- 8/25:可作為 Claude Desktop 的模型來源
- 7/11:0.32.0 版起直接輸入 ollama 會啟動互動式代理,並加入技能系統
- 5/13:0.30.0 版把主要推論引擎改為 llama.cpp,Apple Silicon 仍用 MLX
更早之前:4 月 0.21.0 版加入 Hermes Agent,3 月預覽 MLX 支援並推出 Windows ARM64 版。版本細節以 Ollama GitHub releases 為準。
風險提示
加密貨幣投資具有高度風險,其價格可能波動劇烈,您可能損失全部本金。請謹慎評估風險。


