OROpenRealtime
角色资源文档
对话记录

还没有对话记录

OROpenRealtime
角色资源文档
对话记录

还没有对话记录

动作编排使用指南

可选:添加数字人 · 正文语言: 中文

文档目录
全部文档开发与扩展产品功能架构与可替换模块开发与扩展系统架构与消息流程开发与扩展文档与发布边界认识产品与开始使用认识 OpenRealtime知识、工具与记忆用产品资料配置语音助手认识产品与开始使用首页使用指南定制语音 Agent角色配置指南知识、工具与记忆知识库使用指南知识、工具与记忆记忆与会话历史知识、工具与记忆工具权限设置知识、工具与记忆知识与记忆管理指南定制语音 Agent成本与服务选型可选:添加数字人数字人驱动方案可选:添加数字人动作编排使用指南部署与维护本地启动与排错定制语音 Agent连接真实语音与模型服务部署与维护自行部署指南部署与维护前后端分离部署部署与维护可靠性与运维开发与扩展模块化话轮协调器开发与扩展判停与打断插件合约开发与扩展语音 Pipeline 与插件接口开发与扩展知识库选型与接入方案接入你的 Agent接入自己的 Chat Agent

动作编排使用预先准备好的视频表现待机和讲话状态,适合希望降低实时渲染成本的场景。会话播放阶段不需要实时口型推理,但口型对齐不会逐字对齐当前回答。

准备配对素材

在「创建数字人」中选择「动作编排」,从资产库选择一个待机动作,再为它准备口型对齐。讲话版应基于同一待机底片生成,尽量保持头部、身体、背景和动作节奏一致。

默认使用 MuseTalk 1.5:选择待机动作后点击「生成 MuseTalk 口型对齐」。任务会排队使用 GPU,完成后自动保存到该动作,可切换「待机素材/口型对齐」预览。重复点击不会为已有 MuseTalk 素材重新扣算力。MiniMax 与 Wav2Lip 的已有版本仍可预览。

口型对齐附属于待机动作,不作为独立动作混入普通动作列表。

配置会话

  1. 打开首页「会话配置工作台」,选择「数字人」。
  2. 在驱动方式中选择「动作编排」。
  3. 在「口型对齐」卡片中左右浏览,卡片直接播放讲话视频,名称包含原动作和生成方式。
  4. 点击「确认使用口型对齐」,自动绑定对应待机动作,无需再选一次底片。
  5. 配置音色及其他对话参数,开始会话。

需要修改素材时,点击「生成口型对齐」返回该数字人的配置页面。

播放与切换

实际音频开始播放时切换为讲话视频,播放结束或打断后回到待机状态。播放器使用时间位置对齐和短淡入淡出衔接两段视频;动作差异较大的素材仍可能出现跳变。

常见问题

开始按钮不可用:确认语音服务已连接,并在卡片上确认选中口型对齐。

找不到动作:检查动作是否拥有基于当前底片的讲话版。更换底片后,旧配对可能不再有效。

播放的版本不对:检查「口型对齐」卡片中的版本名称。修改后,退出当前会话并重新开始。

GPU 生成运行配置

当前是自托管 Node 服务内的串行任务队列,使用 SSH 调用 GPU 主机;不是浏览器直连 GPU。配置如下:

环境变量默认值
MUSETALK_SSH_HOSTdev
MUSETALK_REMOTE_ROOT/root/lipsync-eval/musetalk
MUSETALK_REMOTE_PYTHON/root/lipsync-eval/venv-musetalk/bin/python
MUSETALK_REFERENCE_AUDIOresearch-assets/avatar-evaluation/2026-09-08/soft-response/reference.wav(相对项目目录的默认文件)

本机需要 ssh、scp、ffmpeg;远端需要已有 MuseTalk 1.5 环境和权重,以及 ffmpeg、ffprobe、flock、timeout。生成使用固定参考音频,按原动作长度循环或截断;保存的视频静音,与原动作保持时长配对。

任务日志位于 .openrealtime/talking-jobs/<id>/,成品沿用 public/digital-human/talking-variants/。生成完成时再次校验底片身份;动作被删除或底片已更换,旧任务不会挂到新动作上。

页面关闭不取消服务器任务。队列状态保存在当前 Node 进程,重启不自动恢复未完成任务;先刷新动作库查看结果,未保存的可重新提交。远端同一模型目录通过 flock 串行执行,单次调用最长 30 分钟。当前不自动批量生成,只有显式点击生成按钮才提交新任务。