从跑 AI 的角度,我把前面讨论过的所有 GPU 重新梳理成一张完整的分类表。整体逻辑按 消费级本地 AI → 专业/数据中心训练 → 国产替代 三条线展开,每条线内部再按定位和价格排序。sP-AIDeepThink×.cn
一、消费级显卡(个人本地跑 AI)
适合个人开发者、小团队本地跑中小模型推理、微调、AIGC 创作。核心优势是显存够大、价格相对可接受、生态成熟(CUDA)。
型号
显存
单精度算力(FP32)
AI 算力
参考价格
定位
RTX 5090
32GB GDDR7
约104.8 TFLOPS
3352 AI TOPS
约 4.3万-5万元
消费级天花板,32GB显存可跑较大模型
RTX 5090 D
32GB GDDR7
约104.8 TFLOPS
2375 AI TOPS
略低于5090
中国特供,AI算力被限制约29%
RTX 4090
24GB GDDR6X
83 TFLOPS
1321 AI TOPS
高位波动
经典AI入门卡,24GB显存实用
RTX 4090 D
24GB GDDR6X
74 TFLOPS
1177 AI TOPS
略低于4090
中国特供,核心缩减约11%
RTX 3090
24GB GDDR6X
35.6 TFLOPS
—
约 8000元(二手)
高性价比,24GB显存跑推理很划算
RTX 3080 Ti
12GB GDDR6X
约34.2 TFLOPS
—
二手市场
算力接近3090,但显存只有12GB
RTX 3080
10GB GDDR6X
约30 TFLOPS
—
二手市场
显存偏小,适合轻量任务
RTX 3060
12GB GDDR6
—
—
入门级
显存够但算力弱,适合学习练手
GTX 1080 Ti
11GB GDDR5X
—
—
已淘汰
无Tensor Core,不建议跑现代AI
消费级选购建议:
预算充足、要跑大模型 → RTX 5090 / 4090
追求性价比、显存优先 → 二手 RTX 3090(24GB)
仅学习/轻量推理 → RTX 3060 12GB sP-AIDeepThink×.cn
二、专业工作站 / 数据中心加速卡(训练与大规模推理)
适合企业级 AI 训练、大规模推理部署、科学计算。核心优势是显存极大、算力极强、支持多卡互联(NVLink)。
2.1 工作站级
型号
显存
单精度算力(FP32)
参考价格
定位
RTX PRO 6000
96GB GDDR7
约125 TFLOPS
高端专业卡
旗舰工作站,大显存+高算力
RTX PRO 6000 Max-Q
96GB GDDR7
约125 TFLOPS
略低
低功耗版(300W),适合密集部署
RTX 6000D
84GB GDDR7
约97 TFLOPS
中国特供
核心/显存/带宽削减约17%,算力损失约23%
RTX A4000
16GB GDDR6
约19.2 TFLOPS
中端专业卡
主流专业工作站卡
RTX A400
4GB GDDR6
2.7 TFLOPS
入门专业卡
显存太小,AI用途有限
2.2 数据中心级(训练主力)
型号
显存
关键算力
参考价格
定位
H100
80GB HBM3
FP8约1979 TFLOPS
整机约340万元/台;租赁约15.58元/卡时
高端训练主力
H800
80GB HBM3
同H100,NVLink限400GB/s
租赁约12.24元/卡时
中国特供,多卡通信受限
H200
141GB HBM3e
更高带宽
前沿训练
超大规模训练/推理
A100
80GB HBM2e
—
新卡4.7万-10.2万;二手2.7万-6.1万;租赁8.1-34.4元/小时
成熟训练卡
L40S
48GB GDDR6
—
中高端
高密度推理部署
H20
—
—
中国特供
合规推理卡
数据中心选购建议:
大规模训练 → H100 / H200
中国合规训练 → H800 / H20
推理部署 → L40S / A100
预算有限但需大显存 → 二手 A100 80GB sP-AIDeepThink×.cn
三、国产 AI 芯片(国产替代方案)
受 HBM 内存成本飙升影响,近期普遍涨价。生态适配(CUDA兼容性)是额外成本考量。
厂商
型号
参考价格
备注
华为昇腾
昇腾 950DT
25万元以上
预计2026 Q4上市,涨幅20%-50%
华为昇腾
昇腾 950PR
8万元以上
年初约6万,涨幅约30%,主打推理
华为昇腾
昇腾 910C
11万元以上
老款,年初约9万
百度昆仑芯
P800(第三代)
—
FP16算力345 TFLOPS
寒武纪
思元 590
—
性能接近A100
海光信息
深算系列(DCU)
—
兼容“类CUDA”环境,迁移门槛低
摩尔线程
MTT S5000
—
单卡AI稠密算力1000 TFLOPS
国产芯片选购建议:
推理为主、生态要求高 → 华为昇腾 950PR
训练为主、预算充足 → 昇腾 950DT / 910C
想低成本迁移CUDA代码 → 海光DCU sP-AIDeepThink×.cn
追求单卡高算力 → 摩尔线程 MTT S5000
四、按用途快速索引
你的需求
推荐型号
个人本地跑大模型(显存优先)
RTX 5090 32GB / 二手 RTX 3090 24GB
个人本地跑中小模型(性价比)
RTX 4090 / RTX 3090
学习练手、轻量推理
RTX 3060 12GB
企业大规模训练
H100 / H200 / A100 80GB
中国合规训练
H800 / H20
高密度推理部署
L40S / A100
专业工作站渲染+AI
RTX PRO 6000 / RTX 6000D
国产替代、推理为主
华为昇腾 950PR
国产替代、训练为主
华为昇腾 950DT / 910C
低成本迁移CUDA
海光DCU
一句话总结:
跑 AI 选卡:sP-AIDeepThink×.cn
消费级看显存(3090/4090/5090)
数据中心看互联(H100/H800)
国产看生态(昇腾/海光)
价格受市场波动影响大,以上均为参考区间,实际成交需以实时报价为准。