DeepSeek-R1-Distill-Llama-8B 显存需求测算器

基于 Llama-3.1 架构蒸馏的推理模型,英文表现优异,适合主流 8GB 游戏本与桌面显卡。

大语言模型开发方: DeepSeek
推荐显卡: RTX 4060 8GB / RTX 3060 12GB
12 GB

16,384 tokens
预估所需总显存
8.04GB
显存负载比例67% (8.04 / 12 GB)
显存组成明细
模型权重4.74 GB
KV Cache2 GB
CUDA 运行时1.3 GB
验证通过,可流畅运行
+4.0 GB 剩余缓冲空间充足,推理过程稳定。