KV Cache 压缩的动机很正当:上下文越拉越长,缓存占用线性增长,省显存提吞吐全靠它。但 ACL 2026 一篇论文(The Pitfalls of KV Cache Compression)指出了一个被忽略的暗面——压缩后的模型...
比特拾光 1周前 52 0
显示验证码
没有账号?注册  忘记密码?