GeForce RTX 5060 Ti 16GB 價格與中古行情:能部署哪些大型語言模型?
到價提醒
閒魚價格到達你設定的價位時,寄信通知你。
RTX 5060 Ti 16GB 是 NVIDIA 2025 年的入門遊戲卡,16GB 顯示記憶體讓 12B 級模型連 8-bit 都放得下,整卡 180W。vLLM 要 CUDA 12.8 以上才認得這張卡。
閒魚
GeForce RTX 5060 Ti 16GB 價格走勢
閒魚
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
GeForce RTX 5060 Ti 16GB 完整規格
- 顯存16 GB · GDDR7
- 頻寬448 GB/s
- FP16 / BF1694.9 TFLOPS
- FP8 / INT8189.8 / 189.8 TOPS
- 位寬
- 128-bit
- 架構
- Blackwell (GB206)
- 核心
- 4,608
- 張量核心
- 144
- 生態
- CUDA
- 介面
- PCIe 5.0 x8
- NVLink
- 不支援
- 功耗
- 180 W
- 供電介面
- 1× 8-pin / 16-pin 12V-2x6
- 類型
- 消費卡
- 發布日期
- 2025年4月16日
- 官方定價
- NT$14,120
單張 GeForce RTX 5060 Ti 16GB 能跑哪些模型?
單張 5060 Ti 16GB 跑 12B 以內用 4-bit 最順,8-bit 也放得下。27B 級的 4-bit 剛好超出 16GB;30B 級 MoE 用 2-bit 能破 100 tokens/s。
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 3.8 GB | 能跑 | 78.8 | 128K | |
| 4.1 GB | 能跑 | 72.9 | 256K | |
| 4.7 GB | 能跑 | 63.5 | 256K | |
| 10.5 GB | 能跑 | 101.5 | 256K | |
| 11.8 GB | 能跑 | 27.4 | 64K | |
| 9.8 GB | 能跑 | 32.6 | 93K | |
| 11.9 GB | 能跑 | 113.7 | 75K | |
| 11.8 GB | 能跑 | 26.4 | 41K | |
| 12.3 GB | 能跑 | 126.1 | 181K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 5 GB | 能跑 | 61.8 | 128K | |
| 5.7 GB | 能跑 | 54.4 | 256K | |
| 7.1 GB | 能跑 | 44 | 256K | |
| 16.9 GB | 需卸載到記憶體 | 35.1 | 256K | |
| 16.8 GB | 跑不了 | — | — | |
| 16.5 GB | 跑不了 | — | — | |
| 18.3 GB | 需卸載到記憶體 | 34.7 | 198K | |
| 18.3 GB | 跑不了 | — | — | |
| 22.1 GB | 需卸載到記憶體 | 47.4 | 256K |
| 模型 | 大小 | 能否執行 | 速度 t/s | 最大上下文 |
|---|---|---|---|---|
| 8.2 GB | 能跑 | 39.2 | 128K | |
| 9.5 GB | 能跑 | 34 | 196K | |
| 12.7 GB | 能跑 | 25.6 | 183K | |
| 26.9 GB | 需卸載到記憶體 | 23.7 | 256K | |
| 28.6 GB | 跑不了 | — | — | |
| 29 GB | 跑不了 | — | — | |
| 31.8 GB | 需卸載到記憶體 | 21.7 | 198K | |
| 32.6 GB | 跑不了 | — | — | |
| 36.9 GB | 需卸載到記憶體 | 31.3 | 256K |
能跑權重、KV 快取和執行開銷都裝得進顯存,速度按顯存頻寬估算。
需卸載到記憶體僅 MoE 模型:專家權重放進記憶體,速度按記憶體頻寬 70 GB/s 估算。
跑不了這一檔量化下單卡放不下,借記憶體也不行。
詳細計算規則可在資料方法頁查看。
GeForce RTX 5060 Ti 16GB 用 Strata 能跑多大的模型?
Strata 把模型主體放在記憶體和硬碟裡,顯示卡只存最常用的專家,所以 GeForce RTX 5060 Ti 16GB 也能跑顯示記憶體遠遠裝不下的大模型。以下是 Strata 作者和社群在這張卡上的實測,價格由本站依現價補上。
Strata 把模型分三處放
Qwen3.8 Flash Next Q2_0 · 66.4 GB- 顯示記憶體 16 GB:每個字都要用的部分,加上最常用的專家
- 記憶體約 40 GB:全部專家,顯示卡沒存的由 CPU 即時計算
- 硬碟 28.8 GB:查找表,每個字只讀幾行
2.00 bpw · 257 GB實測
Qwen3.8 Flash Next
UD-IQ4_XS-v31 · 93.7 GB實測
Qwen3.8 Flash Next
IQ3_S · 83.6 GB實測
Qwen3.8 Flash Next
IQ3_S · 83.6 GB實測
Qwen3.8 Flash Next
IQ3_S · 83.6 GB實測部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
適合誰
適合
- 想用 8-bit 跑 12B
Gemma 4 12B 的 8-bit(12.7 GB)整張卡放得下,上下文 183K,約 26 tokens/s,12GB 卡辦不到
- 在它和 4060 Ti 16GB 之間猶豫
同樣 16GB,功耗只多 15W,稠密模型快五成
- 機殼和電源供應器有限
整卡 180W,官方規格只要一個 8-pin,NVIDIA 建議整機 600W
不太適合
- 想用 4-bit 跑 Qwen3.8 27B
16.5 GB 已超過 16GB,只能退到 2-bit,約 33 tokens/s
- 想用 4-bit 跑 30B 級 MoE
得把專家放進系統記憶體,速度取決於記憶體頻寬,Qwen3.6 35B A3B 約 47 tokens/s,和 4060 Ti 16GB 差不多
買前須知
別買成 8GB 版
商品頁只寫「5060 Ti」的,一定要問清楚顯示記憶體容量:8GB 版和 16GB 版用的是同一顆晶片,只差在 VRAM 容量,拿來跑模型卻差了一大截。NVIDIA 沒有推出公版,兩個版本都是合作廠商的卡。
PCIe 5.0 x8 插在舊平台上
它只接 8 條 PCIe 通道:插在 PCIe 5.0 主機板上,頻寬和 4.0 x16 一樣;插在 PCIe 4.0 主機板上會降為 4.0 x8,PCIe 3.0 上就只剩 3.0 x8。實際影響沒有想像中大:TechSpot 把 16GB 版插在 PCIe 3.0 上測遊戲,VRAM 夠用時幀率幾乎不變;跑模型也是同樣道理,權重一旦載入 VRAM,就很少再經過 PCIe。
50 系列要用新版軟體
50 系列是新架構,軟體必須用 CUDA 12.8 以上編譯才認得它,PyTorch 從 2.7 起提供對應的預先編譯套件。llama.cpp、Ollama 裝新版即可;若用舊的 Docker 映像檔或自行編譯 vLLM,要先確認 CUDA 版本,否則會出現不支援 sm_120 的錯誤。
與同級顯卡比較
GeForce RTX 5060 Ti 16GB 與 GeForce RTX 4060 Ti 16GB、GeForce RTX 5070、GeForce RTX 5070 Ti 的價格、顯存、頻寬、算力與本地大模型速度比較。
| 規格 | ||||
|---|---|---|---|---|
| 顯存 | 16 GB | 16 GB相同 | 12 GB少 25% | 16 GB相同 |
| 頻寬 | 448 GB/s | 288 GB/s低 36% | 672 GB/s高 50% | 896 GB/s高 100% |
| BF16 / FP16 算力 | 95 TFLOPS | 88 TFLOPS低 7% | 124 TFLOPS高 30% | 176 TFLOPS高 85% |
| INT8 算力 | 190 TOPS | 177 TOPS低 7% | 247 TOPS高 30% | 352 TOPS高 85% |
| Qwen3.8 27B 速度(2-bit) | 32.6 t/s | 21.3 t/s慢 35% | 47.8 t/s快 47% | 62.3 t/s快 91% |
| 最高可跑稠密模型(4-bit) | 23B | 23B相同 | 16B少 30% | 23B相同 |
| 功耗 | 180 W | 165 W低 8% | 250 W高 39% | 300 W高 67% |
| 介面 | PCIe 5.0 x8 | PCIe 4.0 x8 | PCIe 5.0 x16 | PCIe 5.0 x16 |
| 發布 | 2025-04 | 2023-07 | 2025-03 | 2025-02 |
| 閒魚中位價 |
部分購買連結是聯盟連結:透過它們購買時我們可能獲得佣金,你支付的價格不變。
GeForce RTX 5060 Ti 16GB 租用價格
GeForce RTX 5060 Ti 16GB 在 Vast.ai 隨需租用每小時 NT$4.9,每天用 8 小時約 NT$1,192/月。買一張(閒魚中位價 NT$24,618)每天用 4、8、24 小時,分別約 3.8 年、1.9 年、8 個月回本。
| 方案 | 價格 | 每天 4 小時 | 每天 8 小時 | 每天 24 小時 | 去查看 |
|---|---|---|---|---|---|
| NT$4.9/小時 | NT$596/月 | NT$1,192/月 | NT$3,577/月 | 去租 | |
| NT$24,618 | 約 3.8 年回本電費 NT$63/月 | 約 1.9 年回本電費 NT$126/月 | 約 8 個月回本電費 NT$377/月 | 去買 |
回本依台灣住宅平均電價(每度 NT$2.87)和 180 W 額定功耗估算,不計殘值和整機其他部分。
租用連結是推薦連結:透過它們註冊時,我們可能獲得佣金或平台額度。
其他市場價格
身為 eBay 合作夥伴,你透過本頁的 eBay 連結購買時,VRAMGlass 可能獲得佣金,你支付的價格不變。