為咩要學本地運行 AI 模型？

你知唔知，每個月俾緊 HK$200 嘅 ChatGPT Plus 或者 HK$780 嘅 Claude Pro，其實只係買緊「雲端算力」嘅使用權？當你 upload 文件、寫 code、問問題嘅時候，你嘅資料全部會送去美國嘅伺服器處理。

對於香港家長嚟講，呢個係個大問題：你仔女嘅功課內容、你公司嘅機密文件、甚至你嘅銀行資料，全部經由第三方伺服器處理。2025 年 OpenAI 嘅私隱過濾器（privacy-filter）模型已經有 18 萬次下載，證明好多人開始關注呢個問題。

但更重要嘅係：本地運行 AI 模型係一個「技能型投資」，唔係「消費型開支」。

2026 年 5 月嘅 HuggingFace 數據顯示，開源模型嘅能力已經追近甚至超越閉源模型。DeepSeek V4 一星期內有 3782 個讚好、116 萬次下載；Qwen3.6-27B 更有 212 萬次下載。呢啲數字話俾我哋知：全球開發者已經用行動證明，本地 AI 嘅時代已經嚟咗。

對香港學生嚟講，識得部署同運行本地 AI 模型，係未來 5 年最有市場價值嘅技能之一。唔單止慳錢，仲可以幫你喺大學申請、IT 職業認證、甚至創業路上搶先一步。

2026 年最值得本地運行嘅 5 個開源模型

1. DeepSeek V4 Pro — 性價比之王

  • 下載量：116 萬次（7 天）
  • 適合：日常問答、寫作輔助、程式碼生成
  • 硬體要求：最低 8GB VRAM（RTX 3070 或以上）
  • 特點：支援 safetensors 格式，量化版本（GGUF）可以喺 6GB VRAM 嘅顯示卡運行

2. Qwen3.6-27B — 多模態全能型

  • 下載量：212 萬次（7 天）
  • 適合：圖像理解、文件分析、複雜推理
  • 硬體要求：16GB VRAM（RTX 4080 或以上）
  • 特點：支援 image-text-to-text，可以直接分析圖片內容

3. Gemma 4 31B IT Assistant — Google 出品

  • 下載量：4.7 萬次（7 天，增長中）
  • 適合：專業助理任務、多語言支援
  • 硬體要求：24GB VRAM（RTX 4090 或以上）
  • 特點：any-to-any 架構，可以處理聲音、影像、文字混合輸入

4. ZAYA1-8B — 輕量級入門

  • 下載量：2.3 萬次（7 天）
  • 適合：學習部署流程、低配置電腦
  • 硬體要求：6GB VRAM（GTX 1660 或以上）
  • 特點：Apache 2.0 授權，完全免費商用

5. Sulphur-2-base — 影片生成新星

  • 下載量：11.5 萬次（7 天）
  • 適合：創意影片製作、動畫生成
  • 硬體要求：12GB VRAM（RTX 4070 或以上）
  • 特點：支援 text-to-video，可以生成 10 秒以內嘅短片

實際部署步驟（Windows/Mac 通用）

Step 1：安裝 Ollama（最簡單嘅方法）

Ollama 係目前最流行嘅本地 AI 運行工具，支援 Windows、macOS、Linux。

  1. 去 ollama.com 下載對應版本
  2. 安裝完成後，打開 Terminal（命令提示字元）
  3. 輸入 ollama pull deepseek-v4 下載模型
  4. 輸入 ollama run deepseek-v4 開始使用

時間投入：第一次下載約 15-30 分鐘（視乎網絡速度），之後每次使用即開即用。

Step 2：使用 LM Studio（適合新手）

如果你唔習慣用命令列，LM Studio 提供圖形介面：

  1. 下載 LM Studio（lmstudio.ai）
  2. 喺搜尋欄輸入「DeepSeek V4」或「Qwen3.6」
  3. 揀選量化版本（例如 Q4_K_M，平衡速度同品質）
  4. 下載完成後，點擊「Load Model」
  5. 開始對話

Step 3：進階部署（Docker + Open WebUI）

適合想學習完整 DevOps 流程嘅學生：

  1. 安裝 Docker Desktop
  2. 用 docker-compose 部署 Ollama + Open WebUI
  3. 透過瀏覽器使用，介面類似 ChatGPT

呢個技能喺 IT 行業值錢到咩程度？ 根據 Indeed 同 LinkedIn 嘅數據，懂得部署同管理 AI 模型嘅 DevOps 工程師，香港月薪中位數係 HK$45,000 至 HK$65,000，比普通後端工程師高出 30%。

實際應用場景：香港人點樣用？

場景一：DSE 學生 — 私人 AI 補習老師

  • 模型：DeepSeek V4 Pro（量化版本）
  • 用途：幫你改英文作文、解釋數學證明、生成練習題
  • 成本：電費每月約 HK$30（每日用 2 小時）
  • 對比：補習社每月 HK$3,000

場景二：IT 求職者 — 考證照神器

  • 模型：Qwen3.6-27B
  • 用途：解釋 AWS/Azure 架構、幫你模擬面試問題、生成 code review
  • 優勢：完全離線，唔怕資料外洩
  • 職業回報：考到 AWS Solutions Architect 認證後，平均加薪 HK$15,000

場景三：家長 — 小朋友嘅創意工具

  • 模型：Sulphur-2-base + Gemma 4
  • 用途：幫小朋友生成故事插圖、製作動畫短片、學習編程
  • 安全：所有內容本地處理，唔會上傳到任何伺服器

場景四：自由工作者 — 自動化工作流

  • 模型：ZAYA1-8B（輕量級）
  • 用途：自動回覆客戶電郵、生成報價單、整理會議記錄
  • 成本：一部 HK$8,000 嘅二手電腦已經夠用

硬體投資回報分析

最低配置（HK$5,000 預算）

  • 電腦：二手 Dell Optiplex + GTX 1660（HK$4,000）
  • RAM：32GB DDR4（HK$800）
  • SSD：1TB NVMe（HK$500）
  • 可運行模型：ZAYA1-8B、DeepSeek V4（量化版）
  • 每月電費：約 HK$20

推薦配置（HK$12,000 預算）

  • 電腦：自組裝 Ryzen 5 + RTX 4070（HK$10,000）
  • RAM：64GB DDR5（HK$1,500）
  • SSD：2TB NVMe（HK$800）
  • 可運行模型：DeepSeek V4、Qwen3.6-27B（量化版）
  • 每月電費：約 HK$50

進階配置（HK$30,000 預算）

  • 電腦：自組裝 Ryzen 9 + RTX 4090（HK$28,000）
  • RAM：128GB DDR5（HK$3,000）
  • SSD：4TB NVMe（HK$2,000）
  • 可運行模型：所有模型都可以流暢運行
  • 每月電費：約 HK$120

對比雲端服務：用 RTX 4090 跑一年嘅電費約 HK$1,440，但同等算力嘅雲端 GPU 服務（例如 RunPod、Lambda Labs）每月要 HK$5,000 以上。一年慳返 HK$58,560。

持續進修基金（CEF）點樣用？

香港政府嘅持續進修基金（CEF）每人有 HK$25,000 資助，可以用嚟報讀 IT 相關課程。以下係幾個同本地 AI 部署相關嘅認證課程：

  1. AWS Certified AI Practitioner — 學費約 HK$5,000（CEF 資助後約 HK$2,500）
  2. Google Cloud Professional ML Engineer — 學費約 HK$8,000（CEF 資助後約 HK$4,000）
  3. 香港大學 SPACE 嘅 AI 應用課程 — 學費約 HK$12,000（CEF 資助後約 HK$6,000）

貼士：報讀呢啲課程之前，先用免費嘅 Ollama 同開源模型自學 1-2 個月，咁樣上堂時會更容易理解，考試合格率更高。

點樣開始？30 日學習計劃

第 1-7 日：基礎安裝

  • Day 1-2：安裝 Ollama，下載 ZAYA1-8B 模型
  • Day 3-4：學習基本命令（pull、run、list、rm）
  • Day 5-7：安裝 LM Studio，嘗試唔同嘅量化版本

第 8-14 日：實際應用

  • Day 8-10：用 DeepSeek V4 幫你完成一份學校報告或工作文件
  • Day 11-12：學習調整模型參數（temperature、top_p、max_tokens）
  • Day 13-14：嘗試用 Qwen3.6 分析圖片內容

第 15-21 日：進階技能

  • Day 15-17：學習用 Docker 部署 Ollama + Open WebUI
  • Day 18-19：了解 RAG（檢索增強生成）概念，用 local documents 增強模型回答
  • Day 20-21：嘗試用 Python 呼叫 Ollama API，寫一個簡單嘅 chatbot

第 22-30 日：實戰項目

  • Day 22-25：建立一個「本地 AI 補習助理」，幫你改英文作文
  • Day 26-28：將模型整合到 VS Code 做 code review
  • Day 29-30：撰寫一篇部署心得，放上 GitHub 做 portfolio

完成呢個計劃後，你唔單止慳咗每月 HK$200-780 嘅 AI 訂閱費，仲擁有一個可以寫喺 CV 上嘅實戰技能。

延伸閱讀

最後嘅鼓勵

2026 年嘅 AI 世界，已經唔再係「有錢人先用得起」嘅專利。開源社群嘅力量令到最先進嘅 AI 技術，任何人都可以免費使用。

對於香港學生嚟講，識得本地運行 AI 模型，代表你：

  • 唔受網絡限制 — 就算冇互聯網，你都照樣可以用 AI
  • 保護私隱 — 你嘅資料永遠留喺自己電腦
  • 節省成本 — 一次性投資，長期免費使用
  • 提升競爭力 — 呢個技能喺大學申請同求職市場極具價值

今日就開始：打開瀏覽器，去 ollama.com 下載安裝，然後輸入 ollama pull deepseek-v4。30 分鐘後，你就會擁有一個屬於自己嘅 AI 助手。

唔需要等政府資助，唔需要報幾萬蚊嘅課程。一部電腦、一個免費軟件、同你嘅好奇心，就係最好嘅開始。