Llama 3.3 70B Instruct 显存需求测算器
Meta 打造的 70B 级旗舰,性能接近早期 405B,适合多卡集群或高性能工作站。
大语言模型开发方: Meta
推荐显卡: 2x RTX 3090 / Mac Studio 64GB+
12 GB
8,192 tokens
预估所需总显存
45.5GB
显存负载比例100% (45.5 / 12 GB)
显存组成明细
模型权重41.7 GB
KV Cache2.5 GB
CUDA 运行时1.3 GB
⚠️ 显存不足 (CUDA OOM 警告)
+33.5 GB 超出显存上限,加载或推理时将直接报错中断。