NVIDIA · 32 GB
RTX 5090：32GB 显存到底能跑什么
32GB 显存、1792 GB/s 带宽。下面是各模型在 Q4_K_M 下的显存需求、预估速度与 token 成本。
规格
| 显存 | 32 GB GDDR7 |
|---|---|
| 带宽 | 1792 GB/s |
| 功耗（TDP） | 575 W |
| 参考价 | $1999 |
| 效率系数 | 0.29 |
MSRP reference, Nov 2026. Street prices often higher.
逐模型对比
32GB 显存、1792 GB/s 带宽。下面是各模型在 Q4_K_M 下的显存需求、预估速度与 token 成本。
| 模型 | 权重（Q4） | KV（8K） | 总需求 | — | 预估 tok/s | 每百万 Token 成本 | 能跑的最大上下文 |
|---|---|---|---|---|---|---|---|
| Llama 3.3 70B Meta · Dense · GQA | 42.4 GB | 2.7 GB | 46.5 GB | 不行 | — | $— | — |
| Qwen3 32B Alibaba · Dense · GQA | 19.7 GB | 2.1 GB | 23.3 GB | 装得下 | 26 | $5.53 | 36k |
| Mistral Small 24B Mistral AI · Dense · GQA | 14.2 GB | 1.3 GB | 17.0 GB | 装得下 | 37 | $3.98 | 91k |
| Qwen3 14B Alibaba · Dense · GQA | 8.9 GB | 1.3 GB | 11.7 GB | 装得下 | 59 | $2.49 | 122k |
| Qwen3 8B Alibaba · Dense · GQA | 4.9 GB | 1.2 GB | 7.6 GB | 装得下 | 106 | $1.38 | 162k |
| Llama 3.1 8B Meta · Dense · GQA | 4.8 GB | 1.1 GB | 7.4 GB | 装得下 | 108 | $1.35 | 183k |
所有吞吐数字均为基于内存带宽与公开实测的估算值，显存数字按模型架构与量化假设推算。购买硬件前请以你自己的运行环境为准。
当前价格
价格波动大，下单前请查看实时标价。
跑起来要花多少钱
显卡只付一次钱，但每年都在折旧，而且不管跑不跑都在耗电。用量低时固定成本占主导：一张 $1,799 的卡三年产出约 9.78 亿 token，折合约 $2.08/百万——和便宜的 API 打得过，但打不过最便宜的那几档。
所有吞吐数字均为基于内存带宽与公开实测的估算值，显存数字按模型架构与量化假设推算。购买硬件前请以你自己的运行环境为准。