动作编排使用预先准备好的视频表现待机和讲话状态,适合希望降低实时渲染成本的场景。会话播放阶段不需要实时口型推理,但口型对齐不会逐字对齐当前回答。
准备配对素材
在「创建数字人」中选择「动作编排」,从资产库选择一个待机动作,再为它准备口型对齐。讲话版应基于同一待机底片生成,尽量保持头部、身体、背景和动作节奏一致。
默认使用 MuseTalk 1.5:选择待机动作后点击「生成 MuseTalk 口型对齐」。任务会排队使用 GPU,完成后自动保存到该动作,可切换「待机素材/口型对齐」预览。重复点击不会为已有 MuseTalk 素材重新扣算力。MiniMax 与 Wav2Lip 的已有版本仍可预览。
口型对齐附属于待机动作,不作为独立动作混入普通动作列表。
配置会话
- 打开首页「会话配置工作台」,选择「数字人」。
- 在驱动方式中选择「动作编排」。
- 在「口型对齐」卡片中左右浏览,卡片直接播放讲话视频,名称包含原动作和生成方式。
- 点击「确认使用口型对齐」,自动绑定对应待机动作,无需再选一次底片。
- 配置音色及其他对话参数,开始会话。
需要修改素材时,点击「生成口型对齐」返回该数字人的配置页面。
播放与切换
实际音频开始播放时切换为讲话视频,播放结束或打断后回到待机状态。播放器使用时间位置对齐和短淡入淡出衔接两段视频;动作差异较大的素材仍可能出现跳变。
常见问题
开始按钮不可用:确认语音服务已连接,并在卡片上确认选中口型对齐。
找不到动作:检查动作是否拥有基于当前底片的讲话版。更换底片后,旧配对可能不再有效。
播放的版本不对:检查「口型对齐」卡片中的版本名称。修改后,退出当前会话并重新开始。
GPU 生成运行配置
当前是自托管 Node 服务内的串行任务队列,使用 SSH 调用 GPU 主机;不是浏览器直连 GPU。配置如下:
| 环境变量 | 默认值 |
|---|---|
| MUSETALK_SSH_HOST | dev |
| MUSETALK_REMOTE_ROOT | /root/lipsync-eval/musetalk |
| MUSETALK_REMOTE_PYTHON | /root/lipsync-eval/venv-musetalk/bin/python |
| MUSETALK_REFERENCE_AUDIO | research-assets/avatar-evaluation/2026-09-08/soft-response/reference.wav(相对项目目录的默认文件) |
本机需要 ssh、scp、ffmpeg;远端需要已有 MuseTalk 1.5 环境和权重,以及 ffmpeg、ffprobe、flock、timeout。生成使用固定参考音频,按原动作长度循环或截断;保存的视频静音,与原动作保持时长配对。
任务日志位于 .openrealtime/talking-jobs/<id>/,成品沿用 public/digital-human/talking-variants/。生成完成时再次校验底片身份;动作被删除或底片已更换,旧任务不会挂到新动作上。
页面关闭不取消服务器任务。队列状态保存在当前 Node 进程,重启不自动恢复未完成任务;先刷新动作库查看结果,未保存的可重新提交。远端同一模型目录通过 flock 串行执行,单次调用最长 30 分钟。当前不自动批量生成,只有显式点击生成按钮才提交新任务。