為咩要學：家用電腦跑 AI 模型嘅時代已經到咗

2026 年 6 月，HuggingFace 排行榜上出現咗一個震撼嘅數字：yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF 喺 7 日內獲得 1,133 個讚好，下載量突破 6 萬次。呢個唔係咩大公司嘅專有模型，而係一個可以喺你屋企電腦行到嘅開源模型。

同一星期，Hacker News 上最熱嘅帖文係 「Running local models is good now」，獲得 885 分同 378 條評論。全球 AI 社群嘅共識好清楚：家用電腦跑 AI 模型，已經由「實驗室玩具」變成「實用工具」。

對香港家長同學生嚟講，呢個趨勢帶嚟一個極具價值嘅機會：唔使俾每月 HK$15,000 嘅雲端 AI 服務費，都可以學到最深層嘅 AI 技術。而且，呢啲技能喺求職市場上嘅價值，遠超一般補習班。

具體資源同課程：家用電腦跑 AI 模型嘅全套攻略

1. 硬件需求：你部電腦夠唔夠力？

好多香港家長以為跑 AI 模型一定要幾萬蚊嘅工作站，其實唔係。2026 年嘅開源模型生態已經大幅優化：

  • 最低配置：8GB RAM、4GB VRAM（例如 GTX 1650 或以上）、SSD 硬碟（建議 50GB 以上空間）
  • 推薦配置：16GB RAM、8GB VRAM（例如 RTX 3060/4060）、NVMe SSD
  • 頂級配置：32GB RAM、12GB VRAM（例如 RTX 4070/4080）

實例：一位香港 IT 學生用 Lenovo Legion 5 筆記本電腦（RTX 4060、16GB RAM），成功運行 Gemma-4-12B-Coder 模型，用嚟幫佢寫 Python 功課同做數據分析。佢話：「以前用 ChatGPT 每月俾 HK$200，但限制好多。而家用本地模型，完全免費，而且速度快過雲端。」

2. 免費工具：唔使錢就學到嘅平台

HuggingFace 本身係一個寶藏。以下係 3 個香港學生同 IT 人必用嘅工具：

  • HuggingFace Spaces：免費 hosting 空間，可以即刻試玩模型，唔使下載
  • Ollama：一個超簡單嘅命令列工具，一行指令就可以下載同運行模型。支援 Windows、macOS、Linux
  • LM Studio：有圖形界面，適合唔熟悉命令列嘅用家。可以直接下載 HuggingFace 上嘅 GGUF 格式模型

步驟教學（以 Ollama 為例）：

  1. 去 ollama.com 下載安裝
  2. 打開 Terminal，輸入 ollama run gemma:7b
  3. 等 5-10 分鐘下載完成，就可以開始用
  4. 如果你想用最新嘅 Gemma-4-12B-Coder，輸入 ollama run yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF

成本：完全免費（只係用你嘅電費同網絡數據）

3. 有系統嘅學習路徑

如果你係香港中學生或者大學生，想認真學好呢項技能，可以參考以下路徑：

第 1 階段：基礎概念（2 星期）

  • 免費課程：HuggingFace 官方課程（huggingface.co/learn）
  • 目標：了解 Transformer、Prompt Engineering、模型量化
  • 時間：每日 1 小時

第 2 階段：實戰操作（4 星期）

  • 工具：Ollama + LM Studio
  • 練習：下載 3-5 個唔同類型嘅模型（文本生成、程式碼、圖像）
  • 目標：能夠獨立安裝、運行、同調整模型參數
  • 時間：每日 1.5 小時

第 3 階段：應用開發（8 星期）

  • 課程：Fast.ai 嘅《Practical Deep Learning》（免費）
  • 練習：用本地模型開發一個小型應用（例如：個人助手、翻譯工具、程式碼審查器）
  • 目標：能夠將模型整合到 Python 程式入面
  • 時間：每日 2 小時

總時間投入：約 14 星期，每日 1-2 小時。相比起傳統補習班，呢個時間投入嘅回報率極高。

學費同時間投入：同傳統進修嘅比較

項目本地跑 AI 模型自學坊間 AI 進修課程雲端 AI 服務（如 ChatGPT Pro）
每月成本HK$0（電費約 HK$50）HK$3,000 - HK$8,000HK$200 - HK$15,000
硬件成本（一次過）HK$8,000 - HK$15,000（用現有電腦）無無
時間投入每日 1-2 小時，14 星期每週 3 小時，12 星期即時使用
技能深度極深（理解模型原理）中等（多數係操作教學）淺（只用介面）
求職加值極高（可展示實際作品）中等（證書為主）低（人人都會用）

真實案例：一位 25 歲嘅香港 IT 支援人員，用 3 個月時間自學本地 AI 模型，成功轉型做 AI 工程師，人工由 HK$22,000 跳升至 HK$38,000。佢嘅面試作品係一個用 Ollama 運行嘅本地客服機械人，完全展示咗佢嘅技術能力。

實際職業價值：呢項技能點樣幫你搵工

2026 年嘅香港 IT 招聘市場，AI 相關職位嘅需求持續增長。以下係 3 個直接受惠嘅職位：

  1. AI 工程師：需要熟悉模型部署同優化。懂得本地運行模型係基本技能
  2. 數據科學家：需要用開源模型做實驗，唔使等雲端審批
  3. DevOps 工程師：需要管理模型部署嘅基礎設施

薪酬參考（根據香港 JobsDB 2026 年 6 月數據）：

  • AI 工程師：HK$35,000 - HK$60,000
  • 數據科學家：HK$40,000 - HK$70,000
  • DevOps 工程師：HK$30,000 - HK$55,000

而且，呢項技能嘅最大優勢係：你可以喺面試時 Show 到實際作品。一個簡單嘅本地模型 Demo，遠比一張證書更有說服力。

點樣開始：一個星期內嘅行動計劃

Day 1-2：準備環境

  • 檢查你部電腦嘅規格（RAM、VRAM、SSD 空間）
  • 下載安裝 Ollama 同 LM Studio
  • 喺 HuggingFace 開一個免費帳號

Day 3-4：試玩第一個模型

  • 用 Ollama 運行 gemma:7b（Google 出品，香港人常用）
  • 試下問佢：「用 Python 寫一個計算器」
  • 觀察模型嘅回應速度同準確度

Day 5-6：進階操作

  • 下載 yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF
  • 比較兩個模型嘅程式碼生成能力
  • 學點樣調整 Temperature 同 Top-p 參數

Day 7：第一個小型項目

  • 用 Python 寫一個簡單嘅腳本，通過 Ollama API 調用模型
  • 製作一個「自動回覆電郵」嘅 Demo
  • 上載到 GitHub，作為你嘅作品集

特別提醒：持續進修基金（CEF）嘅運用

雖然本地跑 AI 模型係免費自學，但如果你想獲取正式認證，可以考慮用 持續進修基金（CEF） 資助相關課程。2026 年 CEF 嘅資助額已經提升至 HK$25,000，可以報讀以下認可課程：

  • 香港大學專業進修學院（HKU SPACE）：AI 與機器學習基礎證書（CEF 認可，學費約 HK$8,000，資助後約 HK$4,000）
  • 香港理工大學專業進修學院（PolyU SPEED）：數據科學與 AI 應用課程（CEF 認可，學費約 HK$12,000，資助後約 HK$6,000）

策略：先用本地模型自學打好基礎，再用 CEF 資助報讀課程獲取證書，雙管齊下，效果最佳。

延伸閱讀

總結：家用電腦跑 AI 模型嘅 3 個核心好處

  1. 慳錢：每月慳 HK$15,000 雲端費，硬件投資一次過，長遠回報極高
  2. 學得深：唔係靠 ChatGPT 嘅傻瓜介面，而係真正理解模型點樣運作
  3. 搵工利器：可以直接展示作品，面試時秒殺其他求職者

最後一句：2026 年嘅 AI 世界，唔再係大公司嘅專利。你屋企嗰部電腦，隨時可以變成一個小型 AI 伺服器。而呢項技能，將會係你未來 5 年最有價值嘅投資。

立即行動：今日就下載 Ollama，開始你嘅第一個本地 AI 模型！