本地 AI
入門
本地 AI

在自己電腦跑 AI：Ollama 安裝、選模型、硬體需求

不連網、不上傳資料也能用 AI。一行指令下載模型，依電腦規格挑大小，並學會管理模型。
30 分鐘
6 步
免費（需要一台記憶體 8 GB 以上的電腦）
編
AI 有解編輯部
最後更新 2026 年 11 月 4 日・CC BY 4.0
用到的工具
本地 AI 的好處是資料完全留在你的電腦，沒有月費、可以離線。代價是：能力取決於你的硬體，通常比雲端最強的模型弱。
你需要準備
•
Windows、macOS 或 Linux 電腦
•
記憶體至少 8 GB（16 GB 以上體驗好很多）
•
有獨立顯示卡（NVIDIA）或 Apple M 系列晶片會快很多
•
10 GB 以上硬碟空間
進度 0／6
1

先看你的電腦能跑多大的模型

模型大小用「參數量」表示，例如 8B 是 80 億。下表是常見 4 位元量化版本的粗略需求：
模型大小
大約需要的記憶體／顯示記憶體
適合
1B–4B
3–4 GB
筆電、簡單問答、摘要
7B–9B
6–8 GB
一般聊天、寫作、翻譯
12B–14B
10–12 GB
較好的推理與程式
27B–32B
20 GB 以上
接近雲端中階模型
2

安裝 Ollama

•
Windows／Mac：到 ollama.com 下載安裝程式。
•
Linux：
終端機
curl -fsSL https://ollama.com/install.sh | sh
3

下載並執行第一個模型

到 ollama.com 的模型庫挑一個符合你硬體的模型。中文表現好的開源模型系列包括 Qwen、Gemma 等，模型名稱與版本更新很快，以模型庫頁面為準。例如：
終端機
ollama run qwen3:8b
第一次會下載模型，之後直接進入對話。輸入 /bye 離開。
4

管理模型

終端機
ollama list # 看已下載的模型 ollama ps # 看正在執行的模型與佔用的記憶體 ollama pull 模型名稱 # 下載或更新 ollama rm 模型名稱 # 刪除
5

比較兩個模型

用同一組問題測試，例如：一段中文摘要、一題數學、一段程式。記錄速度與品質，挑最適合你的。
6

不想用指令？用 LM Studio

LM Studio 有圖形介面：搜尋、下載、聊天都用點的，也能開本地 API。新手可以從這裡開始。
你照著做成功了嗎？
成為第一個回報的人。你的回報會決定攻略排序與作者分潤。
下一步
做一個像 ChatGPT 的網頁介面給全家或同事用：見〈打造自己的私人 ChatGPT〉。
收錄在學習路線
廣告版位
想讓正在用 AI 的人看到你的產品？了解廣告合作
問與答
卡住的地方、補充的做法都可以留在這裡
還沒有人留言。
更多「本地 AI」攻略