多模态嵌入离线RAG:768维向量部署与取舍
检索增强生成的检索端,能不能整个塞进手机或浏览器?Google DeepMind 2026 年 10 月发布的 EmbeddingGemma 2 给出了肯定答案:740M 参数、Apache 2.0、文本代码图像视频音频五种模态全部投...
大模型分布式训练的显存账:参数梯度优化器与激活
很多人对分布式训练的最初想象是"多插几张卡,训练变快"。真上手算过账才知道,单卡的窘境往往不是慢,是根本放不下。这篇把显存这本账拆开算一遍,给你一套开训前就能做的预算方法。
显存里...
