EP-56|世界末日救星:使用 LM Studio 預先下載離線模型,準備你的末日之旅
如果世界末日斷電斷網,ChatGPT 也救不了你。本文介紹 LM Studio:可在電腦本機離線執行開源大型語言模型,支援下載 GGUF 模型、聊天介面、GPU 加速與資源監控,並可上傳少量文件做簡易 RAG。同時分享無獨顯筆電的選模思路與末日求生 PDF 清單。
你有在你的電腦安裝離線 AI 嗎? 免費就能裝,適合下列情境:測試開源模型、機敏資料不便上傳,或者在網路消失的時候,例如世界末日。
我是末日主題遊戲的粉絲,例如異塵餘生(Fallout)、往日不再(Days Gone)、陰屍路(the Walking Dead)等。所以我常幻想如果有一天社會崩解了,我該怎麼應對。
現在的我,不管大事小事,一律就是詢問 AI 。可是在沒電沒網路的末日,根本無法使用 ChatGPT ,只靠我自己大概是死路一條。
這時候,我就希望有一台筆電,已經安裝了離線的大型語言模型(LLMs),只要我還能找到柴油發電機,就能夠諮詢 AI 任何基礎問題,例如怎麼做肥皂。
目前我知道最好的解決方案是 LM Studio。
LM Studio 由 Element Labs Inc. 開發,一款能讓你在自己的電腦上執行大型語言模型的桌面應用程式。你可以把它想像成把 ChatGPT「下載」到你的電腦裡,即使拔掉網路線、或是遇到世界末日(只要還有電),你的 AI 助理依然能照常運作。
LM Studio 核心功能
完全離線:所有運算都在本機硬體(GPU/CPU)上完成。
支援豐富模型:內建搜尋介面,可以直接下載 Hugging Face 上熱門的開源模型(如 Llama、DeepSeek、Qwen 等)。
聊天式互動介面:提供類似 ChatGPT 的對話介面,可建立/切換多個對話、保存對話紀錄,並支援系統提示詞。
硬體加速與資源監控:支援 GPU 加速(如 CUDA/Metal 等後端)並可即時查看 VRAM/RAM 使用狀況,協助調校效能與負載。
LM Studio 使用方式
1. 下載並安裝 LM Studio
到 LM Studio 官網下載頁,選你的作業系統版本(Windows/macOS/Linux)。
安裝後打開 LM Studio。
第一次開啟如果遇到安全性提示(特別是 macOS),照提示放行即可。
2. 修改語言顯示
LM Studio 預設為英文顯示,如果需要修改語言:
找到右下角的小齒輪 → App Settings → General → Language
找到繁體中文,或者任何你想要顯示的語言
3. 下載語言模型
LM Studio 內建 Hugging Face 模型搜尋與下載。
打開 LM Studio 的「發現」頁面,應該是左側的放大鏡圖示。
在搜尋列輸入你想要的模型家族,例如:Llama、Qwen、Mistral、Gemma、Phi。
優先挑 GGUF 格式(LM Studio 最常見、也是「一鍵能跑」的格式)。
下載完成後,到 Chat 介面選擇模型,直接開聊。
4. 不知道要選哪一款語言模型?先搞懂「參數規模」
當你搜尋語言模型時,你會看到 Params 顯示 7B、13B、20B、32B,這個 B = Billion(十億),代表「參數量」。B
越大,通常越會推理、越能講人話,但越吃你的硬體。
5. 選個跑得動的模型
目前開源模型最強的就是中國廠商的產品,包含 Qwen 、DeepSeek 等等。當然,如果你對於中國產品有戒心,llama 系列模型也是好選擇。
由於我的工作用筆電是 ASUS Vivobook ,沒有獨立顯示卡。如果要執行語言模型,勢必得用 CPU 。
經我自己測試,參數規模最好小於 7B ,大於這個尺寸以上基本上都跑不動。就連 7B 都算是勉強能跑而已。當然,如果你的筆電有獨立顯卡,有 24GB VRAM,或者是 MacBook Pro,要跑 30B 的模型應該沒問題。
所以最後我是下載了通義千問的 qwen3-4b-thinking ,它是 Qwen3 系列的 4B 參數「只支援 thinking mode」版本,主打在小模型尺寸下把推理(數學、邏輯、科學、coding)做到極致,同時把長上下文提升到原生 256K(262,144 tokens)。
從模型名稱來推估,這是一款參數在 40 億規模,能夠進行推理的小模型。只佔硬碟容量不到 3 GB。
準備好末日求生文件
LM Studio 支援小型 RAG ,文件數量5件,總容量不超過 30MB。使用方式就是在對話框選擇文件上傳即可。
我推薦的末日求生文件如下:
FEMA — Are You Ready? An In-depth Guide to Citizen Preparedness(PDF):涵蓋家庭應變計畫、物資整備、避難/撤離、以及多類災害章節(含生物、化學、核/放射等)很適合當離線「總手冊」。
Emergency Preparedness Guide(Alabama Department of Public Health)(PDF):以一般家庭為主,含撤離/避難、重要文件、疾病預防、天然災害與危險物質等,篇幅較短但好翻找。
US Army Field Manual — FM 21-76 Survival(PDF):經典野外求生技能手冊,涵蓋水、火、庇護、食物獲取、訊號等(較偏戶外與野外情境)。
Canadian Red Cross — First Aid & CPR(PDF):離線查找急救流程很方便,適合和 FEMA/軍用手冊一起存。
Canadian Red Cross — Comprehensive Guide for First Aid & CPR(PDF):比前一本更完整,適合當「詳細版」急救參考書。
LM Studio 的「原始用途」
LM Studio 一開始當然不是用來設計給你當作末日時的諮詢工具。它原本的目的是讓開發者與進階使用者能在自己的電腦上,本機開發與實驗大型語言模型。
更具體來說,它的初始設計重點主要落在這幾件事:
本機跑模型、做測試與比較:在桌機或筆電上直接載入模型,快速驗證模型行為與效果。
提供一個「熟悉的聊天介面」做實驗:用類 ChatGPT 的 UI 來試提示詞、試不同模型、看回應差異。
把「找模型、下載模型」整合進工具本身:內建從 Hugging Face 搜尋與下載模型的流程,降低開始門檻。
讓本機模型能用 API 方式被呼叫:可以啟動一個「OpenAI 相容」的本機伺服器,方便把本機 LLM 接到自己的應用或工作流程。
工商時間
想透過 AI 打造更高效的工作流程嗎?歡迎加入我的付費社群「社畜進化論」——一個專為上班族設計的 AI 學習與交流空間。
✨ 加入後你能獲得
基礎課程內容:涵蓋 AI 知識管理、AI Coding、AI 自動化等主題
定期更新資源:每月至少 2 篇實戰筆記、可用腳本或講解影片
社群互助支援:遇到問題隨時發問,與其他成員交流經驗
會員專屬優惠:進階課程享折扣價
💵 費用方案
按月訂閱:每月 $5 美元
按年訂閱:每年 $50 美元(比月繳省 $10)
https://www.skool.com/decode-ai-ai-2667/about




