DeepSeek V4 和 Gemma 4 的本地部署不是一个量级。 Gemma 4 的 26B、31B 还能讨论 24GB、32GB 显卡怎么选量化版；DeepSeek V4 则是超大 MoE 模型，真正完整本地部署时，显存需求会直接进入多卡工作站或服务器级别。

官方发布的 DeepSeek V4 Preview 主要包含两个推理版本：

• DeepSeek-V4-Pro：1.6T total / 49B active params
• DeepSeek-V4-Flash：284B total / 13B active params

Hugging Face 官方 collection 里还包含两个 Base 版本：

• DeepSeek-V4-Pro-Base
• DeepSeek-V4-Flash-Base

这篇只讨论完整加载模型权重时的大致显存门槛。 MoE 的 active params 主要影响每个 token 的计算量，不等于只需要加载这部分参数。 如果没有专家按需加载、CPU/NVMe offload、分布式推理或专门运行时优化，显存仍然要按完整权重来估。

先看结论

如果你的目标是个人电脑本地运行，DeepSeek V4 并不是合适对象。 更现实的路线是：

• 用 DeepSeek 官方 API 或兼容服务；
• 等社区稳定的 GGUF/EXL2/MLX 量化和推理支持；
• 使用更小的 DeepSeek 蒸馏模型；
• 或者把本地模型换成 Qwen、Gemma、Llama 等 7B 到 70B 级别模型。

官方权重体积

以下是 Hugging Face 官方仓库的 model.safetensors.index.json 中统计到的权重总量。 它反映的是当前公开权重文件大小，不等于长上下文运行时的完整显存占用。

可以看到，即使是最小的 V4-Flash，官方权重也已经接近 160GB。 这就是为什么它不能按“13B active params”理解成 13B 小模型。

DeepSeek V4 Flash 显存估算

V4-Flash 是 DeepSeek V4 里最适合本地尝试的一档。 但“最适合”只是相对 Pro 而言，它仍然不是消费级单卡模型。

下面按官方 159.61GB 权重体积做折算。 其中 Q4/Q3/Q2 是按位宽估算，不代表当前已经有稳定可用的官方 GGUF 版本。

如果未来社区出现成熟的 V4-Flash Q4，它大概率也不是 24GB 显卡的模型。 更现实的硬件起点是 96GB 到 128GB 级别的总显存，或者依赖 CPU 内存/offload 换速度。

DeepSeek V4 Pro 显存估算

V4-Pro 是旗舰推理版，官方权重体积约 864.70GB。 即使做 4-bit 量化，完整权重也仍然是数百 GB 级别。

对个人用户来说，V4-Pro 更适合通过 API 使用。 如果目标是完整本地部署，至少要把它当成多卡服务器模型，而不是 4090、5090、RTX PRO 单卡模型。

DeepSeek V4 Flash-Base 显存估算

Base 版通常用于研究、微调或继续训练，不是普通聊天部署的首选。 V4-Flash-Base 官方权重体积约 294.67GB。

如果只是要使用 DeepSeek V4 能力，不建议从 Base 版开始。 Base 版的部署和调优成本更高，普通应用更适合推理版或 API。

DeepSeek V4 Pro-Base 显存估算

V4-Pro-Base 是最重的一档，官方权重体积约 1606.03GB。 这已经是 1.6TB 级别的模型文件。

这类模型不适合被放进“家用显卡能不能跑”的框架里讨论。 哪怕是 Q4，也已经超过绝大多数单机工作站的舒适范围。

为什么不能只看 active params

DeepSeek V4 是 MoE 模型。 MoE 的特点是每个 token 只激活一部分专家，因此计算量会明显低于总参数量。 但这不等于显存只需要放 active params。

完整本地推理通常还要考虑：

• 所有专家权重是否需要常驻 GPU；
• 是否支持按需专家加载；
• CPU 内存与 GPU 显存之间的数据搬运成本；
• NVMe offload 的延迟；
• KV cache 在长上下文下的增长；
• 1M context 场景下的额外运行时开销；
• 多机多卡通信成本。

所以，49B active 的 V4-Pro 不能当成 49B 模型来部署。 13B active 的 V4-Flash 也不能当成 13B 小模型来部署。

怎么选

如果你只是普通个人用户：

• 不建议完整本地部署 DeepSeek V4。
• 需要 DeepSeek V4 能力时，优先用官方 API。
• 需要本地私有化时，优先看是否有成熟推理服务商或内部多卡服务器。
• 只有 24GB 到 48GB 显存时，转向 7B、14B、32B、70B 级别量化模型更实际。

如果你有 128GB 到 256GB 总显存：

• 可以关注 V4-Flash Q4/Q5 是否有稳定社区实现。
• 不建议把 V4-Pro 当成主力本地模型。

如果你有 512GB 以上总显存：

• V4-Pro Q4 才开始进入工程验证范围。
• 仍然要关注推理框架、专家调度、KV cache、吞吐和并发。

DeepSeek V4 的本地部署重点不是“下载哪个量化文件”，而是“有没有足够的系统级推理能力”。 它更接近一个服务器模型，而不是普通桌面模型。

参考来源

• DeepSeek V4 Preview Release - DeepSeek API Docs
• DeepSeek-V4 collection - Hugging Face
• deepseek-ai/DeepSeek-V4-Pro - Hugging Face
• deepseek-ai/DeepSeek-V4-Flash - Hugging Face
• deepseek-ai/DeepSeek-V4-Pro-Base - Hugging Face
• deepseek-ai/DeepSeek-V4-Flash-Base - Hugging Face