一张 8G 显卡，除了跑聊天模型还能干什么？答案是把"你说话—系统听懂—模型回答—合成声音—人物开口"这条链完整接起来。Voice Companion Bundle 做的就是这件事：Faster-Whisper 识别、OpenAI 兼容接口对话、Qwen3-TTS 合成、LiveTalking + Wav2Lip 驱动口型，Windows + WSL2 环境一条整合包装完。
部署路径与验证顺序
流程分四步，每一步都有明确的验证目标，别跳：
第一步，跑通在线链路。 安装整合包时填 DeepSeek API Key，先用在线 LLM 把整条对话链跑通——这步的目的是把本地显卡压力降到最低，先验证"链路通"，再谈"本地化"。启动后浏览器打开页面，只能说明安装成功，真正验收要开口说话。
第二步，验证语音闭环。 选好麦克风，点开始，数字人先语音回应、口型随声音变化，回答结束出现麦克风标记后可以直接对话。这一步验证的是"麦克风→语音识别→在线 LLM→TTS→口型"全链。噪声大的环境先调麦克风噪声门限再测。
第三步，切本地推理。 用 LM Studio 在 Windows 侧加载本地模型，开放 12345 端口的 API 服务，再把数字人的 LLM 配置从在线切到 http://localhost:1234。实测 8G 卡本地输出约 34 token/s，生成时 GPU 占用明显上升。
第四步，个性化配置。 助手人设管回答风格，参考音色管克隆音色，人物形象上传一段视频生成新形象——人物视频本身占显存，8G 卡上要让给 LLM 的部分留够。
8G 显存的分配思路
这是原文最值得展开的部分：显存不只属于 LLM。数字人形象、语音组件、口型驱动都在抢同一块卡。实操原则是分层留量：LLM 用 Q4 量化的 7B 级模型（约 4.5 GB），数字人形象用低画质档，Whisper 用 small 及以下档。若语音对话出现明显卡顿，优先降数字人画质而不是换更小的 LLM——口型同步对延迟更敏感。
增量提醒（原文未给的验收清单）：四条全过才算部署完成——连续 10 轮对话无中断；本地与在线两档各测一次相同问题的首响应延迟并记录差值；对话中途静默 3 分钟再说话，验证会话不丢上下文；任务管理器观察 GPU 峰值不超过 95%（顶满会掉帧导致口型错位）。四条里任何一条不过，先降组件档位再排查代码。
边界与合规
这套链路的每一环都可以单独替换：识别换 FunASR、合成换其他 TTS、口型换 SadTalker，接口都是 OpenAI 兼容或本地文件交换，耦合度低。但也要清楚边界——公网暴露服务时必须加鉴权（反代 + Basic Auth 起步），语音克隆音色只对获得授权的声音使用，数字人形象不使用真人未授权素材。本地跑得通只是起点，可维护才是终点：真出问题时，要能分清是语音层、模型层还是渲染层的锅。
评论0