本站含聯盟連結。身為 eBay 合作夥伴，你透過本站連結購買時，我們可能獲得佣金。身為 eBay 合作夥伴，我們可能獲得佣金。了解詳情

收錄顯卡57價格追蹤49 天近 24h 價格資料43,400 筆24h 降價最多RTX PRO 5000 72GB-15.9%24h 漲價最多A100 80GB PCIe+9.4%更新於
NT$ TWD

A100 40GB PCIe 價格與中古行情：能部署哪些大型語言模型？

A100 40GB PCIe 是 NVIDIA 2020 年的資料中心卡，40GB 顯示記憶體，35B 以內的模型都能用 8-bit 跑。買二手要提防拿 SXM4 模組改成的轉接卡冒充 PCIe 版。

閒魚

A100 40GB PCIe 價格走勢

目前NT$160,906-6.38%
閒魚
價格更新於
NT$199,652NT$174,510NT$149,369NT$124,228NT$99,087
最低價 NT$113,453最高價 NT$185,285
9月4日9月27日10月21日
最新報價區間
NT$113,453 – NT$185,285
24 小時漲跌幅
-6.38%
7 天漲跌幅
+16.40%
30 天漲跌幅
+26.92%
在閒魚查看 5 件商品

部分購買連結是聯盟連結：透過它們購買時我們可能獲得佣金，你支付的價格不變。

A100 40GB PCIe 完整規格

  • 顯存40 GB · HBM2
  • 頻寬1,555 GB/s
  • FP16 / BF16312 TFLOPS
  • INT8624 TOPS
位寬
5,120-bit
架構
Ampere (GA100)
核心
6,912
張量核心
432
生態
CUDA
介面
PCIe 4.0 x16
NVLink
600 GB/s
功耗
250 W
供電介面
8-pin EPS
槽位
2
長度
267 mm
類型
資料中心
發布日期
2020年6月22日

單張 A100 40GB PCIe 能跑哪些模型？

單張 A100 40GB 用 8-bit 就放得下 35B 以內的模型，Qwen3.8 27B 約 39 tokens/s，上下文可開到 19 萬。70B 級連 4-bit 都放不下。

模型大小能否執行速度 t/s最大上下文
Qwen3.5 9B9.7B5.7 GB能跑158.9256K
Gemma 4 12B12B7.1 GB能跑132.5256K
Gemma 4 26B A4B25.2B（啟用 3.8B）16.9 GB能跑143256K
Qwen3.6 27B27.8B16.8 GB能跑63.6256K
Qwen3.8 27B27.8B16.5 GB能跑64.7256K
GLM 4.7 Flash30B（啟用 3B）18.3 GB能跑155.8198K
Gemma 4 31B30.7B18.3 GB能跑57.6256K
Qwen3.6 35B A3B36B（啟用 3B）22.1 GB能跑158.3256K

能跑權重、KV 快取和執行開銷都裝得進顯存，速度按顯存頻寬估算。

需卸載到記憶體僅 MoE 模型：專家權重放進記憶體，速度按記憶體頻寬 70 GB/s 估算。

跑不了這一檔量化下單卡放不下，借記憶體也不行。

詳細計算規則可在資料方法頁查看。

多張 A100 40GB PCIe 能跑哪些模型？

兩張 A100 40GB 能跑 70B 級稠密模型和 8-bit 的 gpt-oss 120B，2026 年的大型 MoE 則要 4 張起跳。NVLink 橋接器只能兩兩相連。

模型大小需要幾張總價總顯示記憶體速度 t/s總功耗
Qwen3.8 Flash Next176B（啟用 6B）111.3 GB4 張NT$643,623160 GB121.71,000 W
DeepSeek V4 Flash284B（啟用 13B）155.1 GB8 張NT$1,287,245320 GB93.22,000 W
Hy3295B（啟用 21B）182.2 GB8 張NT$1,287,245320 GB502,000 W
GLM 5.3 Flash320B（啟用 18B）199.7 GB8 張NT$1,287,245320 GB702,000 W

詳細計算規則可在資料方法頁查看。

適合誰

適合

  1. 想用 8-bit 跑 30B 級模型

    24GB 的卡只能跑這類模型的 4-bit，這張卡可以直接上 8-bit

  2. 打算用 vLLM 這類推論框架

    Ampere 世代的軟體支援很完整，FlashAttention 2 等加速技術都能用

  3. 多人共用一張卡

    可以透過 MIG 切成 2 份 20GB，每個人各跑一個 4-bit 的 27B

不太適合

  1. 想用單卡跑 70B 級

    Llama 3.3 70B 就算用 4-bit、上下文只開 8K，也需要 46.3 GB，放不下

  2. 想靠 FP8 加速

    這一代晶片沒有 FP8 運算單元，FP8 模型可以載入，但速度不會變快

  3. 想裝進一般桌機

    卡上沒有風扇，得靠伺服器的風道散熱；也沒有影像輸出

買前須知

  1. 小心 SXM4 轉接卡

    二手市場上有人把伺服器專用的 SXM4 模組裝到第三方轉接板上，當成 PCIe 卡來賣，商品標題常會出現「SXM4 converted」。這種卡的散熱、供電和穩定性，全看轉接板做得好不好，也沒有原廠保固。辨別方法：裝好後看 nvidia-smi 顯示的型號，原廠 PCIe 版是「A100-PCIE-40GB」，SXM4 模組則是「A100-SXM4-40GB」；lspci 裡的裝置 ID 分別是 20F1 和 20B0。

  2. 供電要轉接線，散熱得自己處理

    供電接頭是 8-pin CPU 接頭（EPS），和顯示卡常見的 8-pin PCIe 接頭不一樣。接一般電源供應器時，要用轉接線把電源的兩條 PCIe 8-pin 合併成一個 CPU 8-pin。卡上沒有風扇，只有一片鰭片很密的散熱器，原本的設計是靠伺服器的強力風扇來吹；裝進一般機殼的話，要另外加裝高風壓風扇或改用水冷頭，一般的機殼風扇吹不透。

  3. 什麼時候用得到 MIG

    MIG 是 A100 的分割功能，可以把一張卡切成幾張顯示記憶體和算力互不干擾的「小卡」，適合多人共用。實用的切法是 2 份 20GB，每份跑一個 4-bit 的 27B；或是 3 份 10GB，每份跑一個 4-bit 的 12B。切滿 7 份的話每份只剩 5GB，只放得下 2-bit 的 Gemma 4 E4B 這類小模型。如果只有一個人跑一個模型，就用不到這個功能。

與同級顯卡比較

A100 40GB PCIe 與 A100 80GB PCIe、CMP 170HX 40GB、L40S 的價格、顯存、頻寬、算力與本地大模型速度比較。

規格A100 40GB PCIeA100 80GB PCIeCMP 170HX 40GBL40S
顯存
40 GB
80 GB多 100%
40 GB相同
48 GB多 20%
頻寬
1,555 GB/s
1,935 GB/s高 24%
1,560 GB/s相同
864 GB/s低 44%
BF16 / FP16 算力
312 TFLOPS
312 TFLOPS相同
202 TFLOPS低 35%
362 TFLOPS高 16%
INT8 算力
624 TOPS
624 TOPS相同
404 TOPS低 35%
733 TOPS高 17%
Qwen3.8 27B 速度（2-bit）
101.6 t/s
122.2 t/s快 20%
101.9 t/s相同
60.3 t/s慢 41%
最高可跑稠密模型（4-bit）
65B
136B多 109%
65B相同
79B多 22%
功耗
250 W
300 W高 20%
250 W相同
350 W高 40%
卡間互連
NVLink 600 GB/s
NVLink 600 GB/s
不支援
不支援
介面
PCIe 4.0 x16
PCIe 4.0 x16
PCIe 2.0 x4
PCIe 4.0 x16
發布
2020-06
2021-06
2021-09
2023-08
閒魚中位價
NT$160,906去購買 A100 40GB PCIe
NT$682,630去購買 A100 80GB PCIe
NT$95,568去購買 CMP 170HX 40GB
去 閒魚 查看 · L40S

部分購買連結是聯盟連結：透過它們購買時我們可能獲得佣金，你支付的價格不變。

其他市場價格

eBay · 美國
NT$252,854
15 筆掛單
去查看
Amazon.jp · 日本
暫無
暫無掛單
去查看

身為 eBay 合作夥伴，你透過本頁的 eBay 連結購買時，VRAMGlass 可能獲得佣金，你支付的價格不變。