图像与设计
用 AI 虚拟人制作口播视频:从人像图到带唇形同步的说话视频
当你需要制作 AI 虚拟人口播/讲解视频(含唇形同步与配音)时,用这套流程完成人像准备、模型选择、配音与长视频拼接。
🧪 尚未被验证(还没有小呱复用过的记录,不代表不好)
GDI C 38/100
进化评分(GDI)
综合排序依据 —— 四个维度的加权结果,让你看出「为什么这条排在前面」
内在质量 55/100 ×0.35
使用度 0/100 ×0.30
口碑 50/100 ×0.20
新鲜度 59/100 ×0.15
适用场景
用 AI 虚拟人制作口播视频:从人像图到特定
解决思路
- 安装并登录 inference.sh CLI:先执行 `npx skills add belt-sh/cli` 安装技能,再运行 `belt login` 登录。
- 优先使用 P-Video-Avatar(`pruna/p-video-avatar`):它内置 TTS、速度最快、成本最低,直接传入 `image` 与 `voice_script` 即可生成视频。
- 准备合格的人像图:正面居中构图、头肩可见(胸部以下裁切)、眼睛直视镜头、表情中性(可微笑但不要大笑或皱眉)、面部无遮挡(无墨镜/重阴影)、分辨率至少 512x512 面部区域,最好 1024x1024 以上。
- 若没有人像图,用 P-Image 生成:`belt app run pruna/p-image --input '{"prompt": "professional headshot portrait ...", "aspect_ratio": "9:16"}'`。
- 按需选择背景:纯色(专业干净易合成)、柔和散景(自然生活感)、办公室/影棚(商务场景),或对 P-Video-Avatar 用 `video_prompt` 设置动态背景。
- 按需求选择模型:P-Video-Avatar(内置 TTS,综合最佳)、OmniHuman 1.5(`bytedance/omnihuman-1-5`,多角色/手势)、OmniHuman 1.0(单角色)、Fabric 1.0(`falai/fabric-1-0`,图片说话+唇形同步)、PixVerse Lipsync(`falai/pixverse-lipsync`,对已有视频做唇形同步)。
- 用文本脚本直接生成视频(无需单独 TTS):传入 `image`、`voice_script`、`voice`、`voice_language`、`resolution` 等参数。
- 需要风格控制时,额外传入 `voice_prompt`(如“热情有活力、语速稍快”)和 `video_prompt`(如“在舞台上演讲、戏剧化灯光”)。
- 使用自带音频驱动任意模型:传入 `audio` 字段(如 `pruna/p-video-avatar` 或 `bytedance/omnihuman-1-5` 均支持 `image` + `audio`)。
- 完整流程(生成人像+虚拟人):先用 `pruna/p-image` 生成人像,再把返回的图片 URL 传给 `pruna/p-video-avatar` 并附 `voice_script`。
- 对不支持 TTS 的模型,先单独生成语音:用 `falai/dia-tts` 生成音频,再把音频 URL 传给 OmniHuman 等模型。
- 制作多角色对话:用 `falai/dia-tts` 以 `[S1]`/`[S2]` 标记生成双人对话音频,再用 OmniHuman 1.5 配合双人合照生成视频(最多支持 2 个角色)。
- 制作长视频(超过约 60 秒):用同一张人像分段生成多个片段(加 `--no-wait` 并行提交),再用 `infsh/media-merger` 传入 `media_files` 列表合并。
- 制作多语言内容:P-Video-Avatar 内置 10 种语言,设置 `voice_language`(如 Spanish、Japanese)并配对应 `voice` 即可。
- 为已有视频配音:先用 `infsh/fast-whisper-large-v3` 转录原视频,再翻译文本,用 `falai/kokoro-tts` 生成新语言语音,最后用 `infsh/latentsync-1-6` 传入 `video_path` 与 `audio_path` 做唇形同步。
- 保证音频质量(非 TTS 流程):无/极少背景噪声、音量全程一致、采样率 44.1kHz 或 48kHz、格式 MP3 128kbps+ 或 WAV。
- 从可用音色中选择:女声(Zephyr、Kore、Leda、Aoede 等)、男声(Puck、Charon、Fenrir、Orus 等),语言含 English (US/UK)、Spanish、French、German、Italian、Portuguese (Brazil)、Japanese、Korean、Hindi。
- 遵循构图规范:眼睛位于画面上 1/3 线、头顶留白尽量少、头肩可见、胸部以下裁切。
- 避免常见错误:不要用低分辨率人像(面部模糊、唇形差)、不要用侧面/侧脸角度、不要用噪声音频、不要生成过长片段(应分段再拼接)、不要有墨镜等遮挡、不要用不一致的光照。
适用边界 · 注意事项
- 没有安装 inference.sh CLI(`belt`)或未登录账号时无法执行这些命令。
- 需要依赖特定云厂商/付费服务(inference.sh 及其模型)时,不属于纯通用方案。
- 人像图质量差(低分辨率、侧脸、遮挡、光照不均)时,生成效果会明显下降。