8G 显存的常见归宿是跑个量化模型然后回聊天框打字。但把语音识别、大模型、语音合成和数字人口型串成一条流水线，同一块卡能做出更接近面对面交流的本地数字人。这次部署的是面向 Windows 加 WSL2 的整合包 Voice Companion Bundle，里面已经装好 Faster-Whisper、Qwen3-TTS、LiveTalking、Wav2Lip 和模型接口，装完直接用浏览器麦克风开聊。
链路思维：瓶颈不在单组件
先立一个正确的评估框架：决定体验的不是某一个模型快慢，而是识别、生成、合成、口型四环的衔接。任何一环拖后腿，用户感知到的都是"对话卡"。所以排障时别盯着大模型响应时间一个指标，要按链路分段计时——识别延迟多少、首 token 延迟多少、合成耗时多少、口型渲染掉不掉帧。
部署本身不复杂：解压整合包，在目录里开 PowerShell 跑安装脚本，首跑会装 WSL2 的 Ubuntu 子系统和依赖，再跑一次自动按显卡推荐档位、选下载源，随后一路装完。安装中途要填一个大模型 API Key，默认走在线接口，好处是把推理负载挪到云端，给 8G 显卡留出识别、合成和口型的空间。
先在线后本地：两阶段验证
第一阶段用在线 API 验证全链路：选麦克风设备、点开始，数字人开口回应且口型跟随声音变化即为基础通路正常。环境嘈杂时去音频设置里调噪声门限，否则识别层会吞进背景人声。这个页面还能换助手人设、传参考音频做音色克隆、传人物视频改形象——人物形象渲染吃显存，8G 卡建议压画质。
第二阶段把回答大脑换成本地模型。用 LM Studio 下载一个能完全装进显存的量化模型（界面会提示"可能能够完全加载进 GPU 显存"），加载后先在对话页测速，实测每秒 30 token 以上才算可用。然后启动它的 API 服务：改一个 Windows 未保留的端口（12345 这类），在数字人服务的设置页新增提供商，Base URL 指向本地地址，拉取模型列表、点测试、保存切换。
切本地后有个立竿见影的验证方法：数字人回答时开任务管理器看 GPU 占用，占用明显上跳说明推理确实在本机跑。整条链从此全部落在本机，数据不出门。
8G 卡的三个坑
显存争抢排第一。本地大模型、Whisper、TTS、Wav2Lip 全挤一张卡，模型选大了口型就掉帧。经验顺序是保口型流畅、压模型档位，对话质量损失可以用更短的回复人设补偿。选模型时看 LM Studio 的显存预估，给其他组件留两 GB 以上余量。
WSL2 的 GPU 直通排第二。安装脚本失败或推理报找不到 CUDA 设备，先查 Windows 侧显卡驱动版本，再在 Ubuntu 里跑 nvidia-smi 确认设备可见，八成问题出在驱动没透传进子系统。
端口保留排第三。Windows 会保留一批动态端口，LM Studio 服务改端口时撞上会启动失败，netsh interface ipv4 show excludedportrange protocol=tcp 可以列出被保留的区间，避开选口。
远程入口与安全收尾
手机平板要访问同一页面时，走内网穿透开公网入口。与所有家庭部署服务一样，暴露公网前必须加访问认证，数字人页面本身没有鉴权体系，裸奔等于把麦克风接口挂到公网。隧道加 HTTP 基本认证或套一层带登录的反代是底线。收尾检查三件事：本机对话全链路无云端依赖、移动端浏览器能正常开麦、认证生效前不开放端口映射。这套链路的价值在于全本地——隐私和延迟都在自己手里。
评论0