摘要
“辅助式”是什么意思:看供应商自己的页面
Flawless 把 TrueSync 分成四步,以下引自它的本地化页面:
放入母版。“提供你的母版,以及目标语言的配音音频。”逐段完成视觉配音。“TrueSync 把画面上的每一段表演与新台词同步。”以 8K 审核。“按你的标准,在无损色彩下质检,达到院线放映水准。”通过合作伙伴交付。“最终交付经由 Pixelogic、Deluxe 等合作伙伴完成。”
同一页面上还有两句话划定了边界。TrueSync 是“与音频无关”的:它接收任何来源的配音音频,不“生成、修改或合成音频”。它也“不生成、不替换、不合成面部”:它调整的是原始表演的面部动画,让它对上新台词。视觉配音(vubbing)就是这一项调整。
辅助式流程里的人工活儿
每部作品、每种语言,在 AI 那一步之前和之后:
- 01
翻译并改编剧本,
顾及每句台词的时长。 - 02
为画面上的每位演员选一位配音演员并录音,
每人一条干净的音轨,因为同步需要一张脸对应一个声音。两个人在同一条混音音轨上同时说话,得先分离开。 - 03
标注每句台词出自哪张脸,
每个镜头都要标,同步才能落在对的那张嘴上。 - 04
运行同步,
也就是 AI 那一步。 - 05
以 8K 逐个镜头审核,
对照制作方的标准。 - 06
套底并交付,
经由一家本地化公司。
六步里有五步靠人,而成本最高的两步,选角和录制配音,本来就是传统配音要花的钱。完整的人工配音,翻译加配音演员,每分钟成片 $70–150,所以即便是顶级制作也只配少数几种语言;辅助式的这一道工序还要另算。它也是制作流程中的一步:需要每位演员单独的台词音轨,也需要做这部作品的那些人。
片库里的一部成片,混音锁定多年之后,这两样都没有了。
完整方案怎么做
如今的一键式工具,快是快,其余的却都放弃了:译文改不了,音乐和现场环境音消失,声音跑偏;手挡在脸前、麦克风、虚焦、焦外虚化、侧脸,或者画面里有好几个人,口型就对不上,没有空间推理,也不理解真实世界。完整 AI 配音一气呵成,质量也到位。它从成片出发,连同混好的音轨一起;其余的由 Familiar 的多模态本地化决策模型(MLDM)来决定,它是首个多模态翻译基础模型,全新范式,业界首创:
Editing the translation means their old model.
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES
261%
ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE
+243.7%
FAMILIAR ON LAUGHTER AND REACTION SHAPE
完整 AI 配音交付的,正是后期需要的东西:
画面
最高 4K
目前。
混音
5.1 或立体声
完整混音为原生 5.1 环绕声或立体声。
母版
ProRes 或 mp4
Studio 交付提供 ProRes 母版,通过 API 交付 mp4。
对白
只含对白
只含对白的音轨。
字幕
srt 和 vtt
根据审核过的转写生成,按 Netflix《定时文本样式指南》的规范切分。
元数据
标题和简介
已翻译。
各自适合谁
辅助式视觉配音
- 旗舰级的院线作品,导演逐帧签字,母版是 8K。
- 已经有一版影视公司很满意的人工配音,只想让脸也跟上的作品。
- 最好的例证来自 Flawless 自己:《Watch the Skies》,从瑞典语变成英语,成为首部在影院上映的视觉配音电影。
- 每个项目需要一支视效团队忙上数周,而且每种语言都是一个新项目。
完整 AI 配音
- 事后为片库配音:手握成千上万部成片、身边没有制作团队待命的流媒体平台、发行方或电视网。
- 一切让真人面对观众的内容:剧集和短剧、教育、广告、企业视频、广播节目、创作者频道。
- 上传即配好每一种语言,每种语言都先等审核人员过目,过审就上线。
One shot today means giving up the rest.
54.7%
FEWER TRANSLATION ERRORS · FAMILIAR VS ELEVENLABS DUBBING V2
270%
ELEVENLABS MORE BACKGROUND-SOUND ERROR · THE LAUGHTER, THE MUSIC, THE AMBIENCE
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER
两者追求的提升
Flawless 公布了视觉配音作品的三项参与度数据,对比的是它自己选的参照:
流媒体观看时长相比同一作品的纯音频配音(《Vincent Must Die》,法语译成英语)。Flawless 的数据。
每部视觉配音作品的独立播放次数。Flawless 的数据。
完播率高于普通配音。Flawless 的数据。
Familiar 自己的成对实测,对比 ElevenLabs、YouTube 自动配音和专业译者:基准测试总览。
常见问题
什么是辅助式 AI 视觉配音?
一种工作流程:人来做配音(翻译、选角、为每位演员每种语言录制配音),AI 模型调整画面上的脸,让它对上新台词,最后再由人逐个镜头审核。Flawless TrueSync 就是这样描述自己的。
什么是 vubbing?
也就是视觉配音:让原演员在画面上的面部表演与新语言的台词同步,不生成也不替换面部。
辅助式视觉配音包含声音吗?
不包含。按它自己的描述,TrueSync 与音频无关,不生成、不修改、不合成音频。配音音轨来自你的配音演员或其他来源。
发行方没有原制作团队,也能用吗?
有制作团队在场时它效果最好:质检按导演的标准来,每个角色都选配音演员,审核逐个镜头进行。只握有母版和版权的发行方,得为每部作品重新组起这样一支团队。完整 AI 配音只需要母版。
能在成片上事后再做吗?
辅助式视觉配音要事先排进制作流程:每种语言都要录一版配音,还要制作团队的人来标注和审核。完整 AI 配音直接从发行时的成片出发,所以存量片库在混音锁定多年之后依然可以配音。
视觉配音和完整 AI 配音有什么区别?
视觉配音是让嘴型对上你已经做好的配音。完整 AI 配音是把配音本身做出来:译文、演员自己的声音、场景音和面部,直接从成片出发,一次渲染完成。
完整 AI 配音能交付 8K 吗?
Familiar 目前最高渲染 4K:Studio 交付提供 ProRes 母版,通过 API 交付 mp4,配原生 5.1 环绕声或立体声混音。TrueSync 以 8K 审核和交付。
参考资料
多模态翻译
Familiar Labs 用多模态本地化决策模型(MLDM),让配音迎来代际飞跃。这是首个多模态翻译基础模型:一个模型决定本地化什么,覆盖文本、音频和画面,并把选择摆到你面前。你的声音与口型,带进新的语言。团队8人,汇聚多位博士;投资方包括 Samsung、RedBird、Gold House。 我们的使命

