NVIDIA · 24 GB
RTX 3090：24GB 显存到底能跑什么
24GB 显存、936 GB/s 带宽。下面是各模型在 Q4_K_M 下的显存需求、预估速度与 token 成本。
规格
| 显存 | 24 GB GDDR6X |
|---|---|
| 带宽 | 936 GB/s |
| 功耗（TDP） | 350 W |
| 参考价 | $900 |
| 效率系数 | 0.29 |
Used-market reference, Nov 2026. Prices vary a lot.
逐模型对比
24GB 显存、936 GB/s 带宽。下面是各模型在 Q4_K_M 下的显存需求、预估速度与 token 成本。
| 模型 | 权重（Q4） | KV（8K） | 总需求 | — | 预估 tok/s | 每百万 Token 成本 | 能跑的最大上下文 |
|---|---|---|---|---|---|---|---|
| Llama 3.3 70B Meta · Dense · GQA | 42.4 GB | 2.7 GB | 46.5 GB | 不行 | — | $— | — |
| Qwen3 32B Alibaba · Dense · GQA | 19.7 GB | 2.1 GB | 23.3 GB | 很紧 | 14 | $4.98 | 7k |
| Mistral Small 24B Mistral AI · Dense · GQA | 14.2 GB | 1.3 GB | 17.0 GB | 装得下 | 19 | $3.59 | 45k |
| Qwen3 14B Alibaba · Dense · GQA | 8.9 GB | 1.3 GB | 11.7 GB | 装得下 | 31 | $2.25 | 76k |
| Qwen3 8B Alibaba · Dense · GQA | 4.9 GB | 1.2 GB | 7.6 GB | 装得下 | 55 | $1.25 | 111k |
| Llama 3.1 8B Meta · Dense · GQA | 4.8 GB | 1.1 GB | 7.4 GB | 装得下 | 56 | $1.22 | 126k |
所有吞吐数字均为基于内存带宽与公开实测的估算值，显存数字按模型架构与量化假设推算。购买硬件前请以你自己的运行环境为准。
当前价格
价格波动大，下单前请查看实时标价。
跑起来要花多少钱
显卡只付一次钱，但每年都在折旧，而且不管跑不跑都在耗电。用量低时固定成本占主导：一张 $1,799 的卡三年产出约 9.78 亿 token，折合约 $2.08/百万——和便宜的 API 打得过，但打不过最便宜的那几档。
所有吞吐数字均为基于内存带宽与公开实测的估算值，显存数字按模型架构与量化假设推算。购买硬件前请以你自己的运行环境为准。