本地部署大模型要花多少錢？硬體、電費和 API 三年總賬（2026）

本文提及的固定價格均以中國二手市場人民幣（CNY）為基準；動態表格則依頁面所選幣別顯示。

本地部署的成本項有哪些？

四項：顯示卡、整機其餘部分、電費、折舊，其中顯示卡佔六成以上。

• 顯示卡：二手價格見站內即時資料，本文以 RTX 3090（入門 24GB）、RTX 4090（主流）、RTX PRO 6000 Blackwell（96GB 高階）三檔為例，另列 Mac Studio M4 Max 128GB 作整機對照。
• 整機其餘部分：CPU、主機板、32GB 記憶體、850W 電源、機箱，2026 年一套約 ¥4,700（$700）。跑 MoE 專家卸載要 128GB 記憶體，再加 ¥2,000 左右。已有桌上型電腦的話這項為零。
• 電費：顯示卡標稱功耗 × 實際負載係數 × 使用時長 × 電價。推論負載通常只到標稱的 50% 到 70%，我們按 60%、每天 8 小時、居民電價算。
• 折舊：顯示卡三年後大約還值三到四成，3090 這種老卡跌得慢。下表沒有扣殘值，實際成本比表裡低一到兩成。

三套配置的三年總成本

入門 3090 主機三年約一萬三，4090 主機約兩萬九，RTX PRO 6000 主機超過十三萬。 顯示卡價格即時取當前二手中位價：

Mac Studio 是整機，「整機其餘部分」記零；它 480W 的標稱功耗實際跑推論只有一百多瓦，電費一項被高估，但也改變不了它在這張表裡的位置。

同等用量走 API 要花多少？

API 的價差比硬體大得多：同樣一百萬輸出 token，DeepSeek V4 Flash 收 $0.28，Claude Sonnet 5 收 $10，差 35 倍。 2026 年 9 月各家官網標價（每百萬 token，輸入 / 輸出）：

按輸入輸出各半估算，三檔典型用量的三年 API 花費：

盈虧平衡點在哪？

盈虧平衡日均 token 數 = 本地三年總成本 ÷ API 單價 ÷ 1,095 天。 以 3090 主機三年 $1,950 計：

• 對 DeepSeek V4 Flash（均價 $0.21 / 百萬）：需要日均 850 萬 token。一張 3090 跑 32B 4-bit 約 32 tokens/s，每天 8 小時上限 90 萬 token，永遠追不上。
• 對 GPT-5.6 luna（均價 $0.70 / 百萬）：需要日均 250 萬 token，同樣超出單卡產能。
• 對 Claude Sonnet 5（均價 $6 / 百萬）：需要日均 30 萬 token，8 小時跑 3 小時就夠，重度使用者能達到。

但注意第三條的前提：你願意用 32B 級的本地模型替代 Sonnet 5。多數場景下這是能力降級，省下的錢要用返工時間去換。

什麼情況下本地一定划算？

四種情況下不用算賬，直接買：資料不能出本機、需要離線、要微調、要跑大批次。

1. 資料不能出本機：法務文書、病歷、未公開程式碼、財務資料。合規成本一次就超過顯示卡錢。
2. 離線：車間、船上、無外網的辦公環境。
3. 微調：LoRA 微調一個 8B 到 14B 模型在 24GB 卡上幾小時完成，API 微調按 token 收費且不給權重。
4. 大批次：幾十萬條文件分類、嵌入、摘要，一張 3090 一晚上跑完，API 的賬單和限速都會變成問題。
5. 本來就要買遊戲卡：顯示卡錢已經花了，邊際成本只剩電費，這時本地推論接近免費。

什麼情況下別買卡？

日均一萬 token 以內的個人使用、只用最強模型、以及沒有桌上型電腦的人，都不該為大模型買卡。

• 每天聊幾十輪、寫幾封郵件，全年 API 花費不到一張顯示卡電費。
• 要的是 Sonnet 5、V4 Pro 這一檔的能力，本地沒有對應物，買卡也解決不了。
• 沒有桌上型電腦：整機加顯示卡的一次性投入要翻倍，而 Mac Studio 的性價比見 Mac 統一記憶體 vs 獨立顯示卡。
• 預算有限又確定要買：先看每個顯示記憶體檔位最省錢的顯示卡。