A100 80GB PCIe 價格與中古行情：能部署哪些大型語言模型？

A100 80GB PCIe 是 NVIDIA 2021 年的資料中心卡，80GB 顯示記憶體，單卡放得下 gpt-oss 120B，30B 級模型直接跑 8-bit。卡上沒有風扇，得靠機殼風流散熱。

閒魚

A100 80GB PCIe 價格走勢

NT$531,749+8.54%

閒魚

價格更新於 2026/11/14 16:52

NT$817,515NT$679,310NT$541,104NT$402,899NT$264,693

最低價 NT$343,668最高價 NT$615,451

9月22日10月18日11月14日

部分購買連結是聯盟連結：透過它們購買時我們可能獲得佣金，你支付的價格不變。

A100 80GB PCIe 完整規格

顯存80 GB · HBM2e
頻寬1,935 GB/s
FP16 / BF16312 TFLOPS
INT8624 TOPS

位寬: 5,120-bit
架構: Ampere (GA100)
核心: 6,912
張量核心: 432
生態: CUDA
介面: PCIe 4.0 x16
NVLink: 600 GB/s
功耗: 300 W
供電介面: 8-pin EPS
槽位: 2
長度: 267 mm
類型: 資料中心
發布日期: 2021年6月28日

單張 A100 80GB PCIe 能跑哪些模型？

單張 A100 80GB 最大能跑 4-bit 的 gpt-oss 120B；35B 以內用 8-bit 最合適，Qwen3.8 27B 約 47 tokens/s。這一代沒有 FP8 加速，在 vLLM 上選 INT4 量化版會更快。

模型	大小	能否執行	速度 t/s	最大上下文
Gemma 4 26B A4B25.2B（啟用 3.8B）	10.5 GB	能跑	169.7	256K
Qwen3.6 27B27.8B	11.8 GB	能跑	104.9	256K
Qwen3.8 27B27.8B	9.8 GB	能跑	122.2	256K
GLM 4.7 Flash30B（啟用 3B）	11.9 GB	能跑	177	198K
Gemma 4 31B30.7B	11.8 GB	能跑	101.5	256K
Qwen3.6 35B A3B36B（啟用 3B）	12.3 GB	能跑	183.6	256K

模型	大小	能否執行	速度 t/s	最大上下文
Gemma 4 26B A4B25.2B（啟用 3.8B）	16.9 GB	能跑	152.8	256K
Qwen3.6 27B27.8B	16.8 GB	能跑	77.5	256K
Qwen3.8 27B27.8B	16.5 GB	能跑	78.7	256K
GLM 4.7 Flash30B（啟用 3B）	18.3 GB	能跑	164.5	198K
Gemma 4 31B30.7B	18.3 GB	能跑	70.2	256K
Qwen3.6 35B A3B36B（啟用 3B）	22.1 GB	能跑	166.7	256K

模型	大小	能否執行	速度 t/s	最大上下文
Gemma 4 26B A4B25.2B（啟用 3.8B）	26.9 GB	能跑	132.3	256K
Qwen3.6 27B27.8B	28.6 GB	能跑	47.9	256K
Qwen3.8 27B27.8B	29 GB	能跑	47.3	256K
GLM 4.7 Flash30B（啟用 3B）	31.8 GB	能跑	143.1	198K
Gemma 4 31B30.7B	32.6 GB	能跑	41.9	256K
Qwen3.6 35B A3B36B（啟用 3B）	36.9 GB	能跑	146.4	256K

能跑權重、KV 快取和執行開銷都裝得進顯存，速度按顯存頻寬估算。

需卸載到記憶體僅 MoE 模型：專家權重放進記憶體，速度按記憶體頻寬 70 GB/s 估算。

跑不了這一檔量化下單卡放不下，借記憶體也不行。

詳細計算規則可在資料方法頁查看。

多張 A100 80GB PCIe 能跑哪些模型？

兩張 A100 80GB（160GB）就能用 4-bit 跑 Qwen3.8 Flash Next，約 130 tokens/s；DeepSeek V4 Flash 要 4 張。支援 NVLink。

模型	大小	需要幾張	總價	總顯示記憶體	速度 t/s	總功耗
Qwen3.8 Flash Next176B（啟用 6B）	78.9 GB	2 張	NT$1,063,499	160 GB	147.5	600 W
DeepSeek V4 Flash284B（啟用 13B）	96.8 GB	2 張	NT$1,063,499	160 GB	129.1	600 W
Hy3295B（啟用 21B）	107.2 GB	2 張	NT$1,063,499	160 GB	74.7	600 W
GLM 5.3 Flash320B（啟用 18B）	108.7 GB	2 張	NT$1,063,499	160 GB	111.8	600 W
GLM 5.3744B（啟用 40B）	253.9 GB	4 張	NT$2,126,997	320 GB	67.2	1,200 W
Hy4 preview770B（啟用 49B）	307.2 GB估	8 張	NT$4,253,995	640 GB	53	2,400 W
Muse Spark Open816B（啟用 42B）	311.2 GB	8 張	NT$4,253,995	640 GB	61.2	2,400 W
Kimi K2.7 Code1,000B（啟用 32B）	339.5 GB	8 張	NT$4,253,995	640 GB	78.2	2,400 W
Kimi K2.61,000B（啟用 32B）	340.5 GB	8 張	NT$4,253,995	640 GB	78.1	2,400 W
Mistral Large 41,000B（啟用 52B）	378.3 GB	8 張	NT$4,253,995	640 GB	53.3	2,400 W

模型	大小	需要幾張	總價	總顯示記憶體	速度 t/s	總功耗
Qwen3.8 Flash Next176B（啟用 6B）	111.3 GB	2 張	NT$1,063,499	160 GB	132.9	600 W
DeepSeek V4 Flash284B（啟用 13B）	155.1 GB	4 張	NT$2,126,997	320 GB	104.7	1,200 W
Hy3295B（啟用 21B）	182.2 GB	4 張	NT$2,126,997	320 GB	58.9	1,200 W
GLM 5.3 Flash320B（啟用 18B）	199.7 GB	4 張	NT$2,126,997	320 GB	80.7	1,200 W
GLM 5.3744B（啟用 40B）	467.3 GB	8 張	NT$4,253,995	640 GB	44.2	2,400 W
Hy4 preview770B（啟用 49B）	467.3 GB	8 張	NT$4,253,995	640 GB	38.9	2,400 W
Muse Spark Open816B（啟用 42B）	505.5 GB	8 張	NT$4,253,995	640 GB	43.3	2,400 W
DeepSeek V4.1 Flash763B（啟用 8 / 16B）	510.3 GB	8 張Engram 放記憶體	NT$4,253,995	640 GB	71.7	2,400 W
Kimi K2.61,000B（啟用 32B）	583.7 GB	8 張	NT$4,253,995	640 GB	55.4	2,400 W
Kimi K2.7 Code1,000B（啟用 32B）	583.7 GB	8 張	NT$4,253,995	640 GB	55.4	2,400 W
Mistral Large 41,000B（啟用 52B）	604.8 GB	8 張	NT$4,253,995	640 GB	37.5	2,400 W

模型	大小	需要幾張	總價	總顯示記憶體	速度 t/s	總功耗
DeepSeek V4 Flash284B（啟用 13B）	161.9 GB	4 張	NT$2,126,997	320 GB	102.5	1,200 W
Qwen3.8 Flash Next176B（啟用 6B）	188.2 GB	4 張	NT$2,126,997	320 GB	107.6	1,200 W
Hy3295B（啟用 21B）	317.7 GB	8 張	NT$4,253,995	640 GB	42.6	2,400 W
GLM 5.3 Flash320B（啟用 18B）	341 GB	8 張	NT$4,253,995	640 GB	56.3	2,400 W
Kimi K2.61,000B（啟用 32B）	594.5 GB	8 張	NT$4,253,995	640 GB	54.7	2,400 W
Kimi K2.7 Code1,000B（啟用 32B）	594.5 GB	8 張	NT$4,253,995	640 GB	54.7	2,400 W

標「Engram 放記憶體」的另需約 203 GB 系統記憶體。詳細計算規則可在資料方法頁查看。

適合誰

適合

單卡跑 70B 到 120B 級的模型
gpt-oss 120B 的 4-bit、Llama 3.3 70B 的 8-bit 都放得下，不必拆到好幾張卡上
30B 級想用 8-bit 又要長上下文
Qwen3.8 27B 的 8-bit 能開滿 256K，約 47 tokens/s
之後想升級雙卡
兩張用 NVLink 橋接器連成一對，160 GB 就能跑 4-bit 的 Qwen3.8 Flash Next
要分給幾個人用
用 MIG 切成 2 份 40GB，每人可以跑一個 8-bit 的 27B

不太適合

需要快速讀長文件、多人同時使用
算力不到 H100 的一半，也沒有 FP8
想插進一般工作站直接用
卡上沒有風扇，300W 的熱全靠機殼風道帶走

買前須知

分清楚原廠 PCIe 版和 SXM4 轉接卡
二手市場上有人把伺服器用的 SXM4 模組裝上轉接板，當成 PCIe 卡賣，商品標題常寫「SXM4 converted」，連賣家都承認韌體仍會把它辨識成 SXM 版。轉接卡能用，但散熱、供電和穩定性要看轉接板廠商，也沒有原廠保固。拿到手先跑一下 nvidia-smi：原廠 PCIe 版顯示「A100 80GB PCIe」，轉接卡顯示「A100-SXM4-80GB」（lspci 的裝置 ID 分別是 20B5 和 20B2）。
300W 全靠風道帶走
卡上沒有風扇，300W 的熱全靠散熱鰭片和機殼風道帶走，比 40GB 版還多 50W。放進工作站的話，不是配導風罩加高風壓風扇，就是改裝水冷頭。供電是一個 8-pin CPU（EPS）接頭，接一般電源供應器要用 PCIe 轉 CPU 8-pin 的轉接線。
用 MIG 分給多人
MIG 能把一張卡切成幾張互不干擾的小卡，80GB 版每一份都比 40GB 版大一倍：切滿 7 份每份 10GB，夠跑 4-bit 的 Gemma 4 12B；切成 2 份 40GB，每份可以跑一個 8-bit 的 Qwen3.8 27B（29 GB）。
FP8 模型能跑，但不會變快
Ampere 不支援 FP8 運算。FP8 格式的模型在 vLLM 裡一樣能載入，權重以 FP8 儲存、運算時再轉成 FP16/BF16，所以省了顯示記憶體，速度卻不會提升。要拚吞吐量就找 AWQ、GPTQ 這類 INT4 版本；顯示記憶體夠的話，也可以直接用 BF16 原版。

與同級顯卡比較

A100 80GB PCIe 與 H100 PCIe、RTX PRO 6000 的價格、顯存、頻寬、算力與本地大模型速度比較。

規格	A100 80GB PCIe	H100 PCIe	RTX PRO 6000
顯存	80 GB	80 GB相同	96 GB多 20%
頻寬	1,935 GB/s	2,000 GB/s高 3%	1,792 GB/s低 7%
BF16 / FP16 算力	312 TFLOPS	756 TFLOPS高 142%	500 TFLOPS高 60%
INT8 算力	624 TOPS	1,513 TOPS高 142%	1,000 TOPS高 60%
Qwen3.8 27B 速度（2-bit）	122.2 t/s	125.6 t/s相同	114.6 t/s慢 6%
最高可跑稠密模型（4-bit）	136B	136B相同	165B多 21%
功耗	300 W	350 W高 17%	600 W高 100%
卡間互連	NVLink 600 GB/s	NVLink 600 GB/s	不支援
介面	PCIe 4.0 x16	PCIe 5.0 x16	PCIe 5.0 x16
發布	2021-06	2022-03	2025-03
閒魚中位價	NT$531,749去購買 A100 80GB PCIe	去閒魚查看 · H100 PCIe	NT$611,758去購買 RTX PRO 6000

部分購買連結是聯盟連結：透過它們購買時我們可能獲得佣金，你支付的價格不變。

A100 80GB PCIe 租用價格

A100 80GB PCIe 在優雲智算隨需租用每小時 NT$50，每天用 8 小時約 NT$12,232/月。買一張（閒魚中位價 NT$531,749）每天用 4、8、24 小時，分別約 7.4 年、3.7 年、1.2 年回本。

方案	價格	每天 4 小時	每天 8 小時	每天 24 小時	去查看
優雲智算租用29 分鐘前更新	NT$50/小時	NT$6,116/月	NT$12,232/月	NT$36,697/月	去租
閒魚6 小時前更新	NT$531,749	約 7.4 年回本電費 NT$105/月	約 3.7 年回本電費 NT$210/月	約 1.2 年回本電費 NT$629/月	去買