新模型还没开源，显存规划就要开始做——这是本地部署用户的常态。Qwen4 27B 的官方权重尚未落地，但两个已存在的事实可以支撑推演：直接前代 Qwen3.8-27B 的量化数据，以及被官方称为"Qwen4 架构早期预览"的 Flash-Next。这篇把两代人两条路线的账本都算清楚，权重落地当天直接对号入座。
两条可能的架构路线
路线 A：延续 dense。 27B 权重全部激活，显存预算沿用现表。Qwen3.8-27B 有个值得记住的细节：64 层里只有 16 层用全注意力，其余是线性/压缩结构，KV cache 约为常规 27B 的四分之一——但 20 万 token 长会话仍会额外吃数 GB。
路线 B：走 Flash-Next 的异构架构。 这条路线的构件完全不同：GDN+QSA 混合注意力、51B 的 n-gram 嵌入表（放主机内存异步预取，不占显存）、内置 MTP 投机解码头。Flash-Next 整包 BF16 约 360GB，社区 GGUF 的 4-bit 构建也要 93-111GB——这条路线压根不是消费级显卡的游戏。
最容易踩的认知坑是"6B 激活"四个字：它描述的是每 token 计算量，不是内存占用。未激活的专家在运行时仍要能被访问，n-gram 表是查表不是矩阵乘。问题从"需要多少 VRAM"变成"VRAM、内存、NVMe 三层怎么配合"。
dense 路线的显存分档表
以 Qwen3.8-27B 的 Unsloth 构建为参照（可作为落地当天的换算基础）：
| 你的硬件 | 构建档位 | 下载体积 | 能做什么 |
|---|---|---|---|
| 8GB 内存 | UD-IQ1_S | 6.2GB | 能加载，答短问题，工具调用不可用 |
| 12GB 内存/8GB 显存 | UD-Q2_K_XL | 9.8GB | 官方推荐最小档：聊天、摘要 |
| 16GB 内存/12GB 显存 | UD-Q3_K_XL | 13.1GB | 日常聊天、读文档、轻量写码 |
| 24GB 显卡 | UD-Q4_K_M | 16.5GB | 实用默认档，多数任务满能力 |
| 32GB+ 统一内存 | UD-Q6_K | 22GB | 接近参考质量 |
总账还要加三笔：KV cache（长上下文）、运行时缓冲、系统开销。速度侧公开实测：Q4_K_M 在 4090 级显卡约 49 tok/s，开 MTP 后 3090 上测到 59 tok/s。
及格线怎么定
Qwen3.8-27B 在 Intelligence Index 上 xhigh 档读数 52 分（托管全精度）。由此得出 Qwen4 27B 的判定标准：4-bit 本地版打不到这个数附近，升级对本地用户就没有实际意义。真正值得期待的不是榜单名次，而是单位显存能力——一个塞进 24GB 卡、接近闭源旗舰的模型，会直接改写私有部署的经济性。
落地当天的验证清单
权重发布当天按四步走，避免被社区热度裹挟：
- 查 model card：确认架构类型（dense 还是异构）、许可证、上下文长度。
- 对照本文分档表选构建档，先跑 3 条冒烟测试（短问答、长文档摘要、工具调用）。
- 用同套测试题对 Qwen3.8-27B 跑一遍对照，确认有真实提升再迁移——新模型的首日评测噪声极大，跨版本对比是唯一可靠的标尺。
- 新架构（若走路线 B）等社区支持追上来再上生产：新架构的运行时成熟度通常落后数天到数周，抢首日部署等于当测试员。
一句话收束：dense 就查表，异构就换算三层内存，及格线是 52 分的 4-bit 复现。权重落地前所有数字都标注"推演"，落地后用同一套题目验证，才是这份账本的正确用法。
评论0