关键词解读

辅助式 AI 视觉配音 vs 完整 AI 配音:作品如何完成本地化(2026)

FAMILIAR 研究更新于 全部文章

摘要

“用辅助式 AI 视觉配音为作品做本地化”,这是 Flawless 对 TrueSync 的描述。关键词是“辅助式”:AI 只做一步,让画面上的嘴型对上新台词,其余的都靠人来做。人要翻译,要为每位演员、每种语言选角并录制配音,要标注每句台词出自哪张脸,还要逐个镜头审核。如今业内用的辅助工具,每个项目都需要一支视效团队忙上数周,而且每种语言都是一个新项目。完整 AI 配音则一气呵成完成作品的本地化:成片进去,出来的就是译文、每位演员自己的声音、场景音和面部。

“辅助式”是什么意思:看供应商自己的页面

Flawless 把 TrueSync 分成四步,以下引自它的本地化页面:

放入母版。“提供你的母版,以及目标语言的配音音频。”逐段完成视觉配音。“TrueSync 把画面上的每一段表演与新台词同步。”以 8K 审核。“按你的标准,在无损色彩下质检,达到院线放映水准。”通过合作伙伴交付。“最终交付经由 Pixelogic、Deluxe 等合作伙伴完成。”
FLAWLESS · LOCALIZE TITLES WITH ASSISTIVE AI VISUAL DUBBING

同一页面上还有两句话划定了边界。TrueSync 是“与音频无关”的:它接收任何来源的配音音频,不“生成、修改或合成音频”。它也“不生成、不替换、不合成面部”:它调整的是原始表演的面部动画,让它对上新台词。视觉配音(vubbing)就是这一项调整。

辅助式流程里的人工活儿

每部作品、每种语言,在 AI 那一步之前和之后:

  1. 01

    翻译并改编剧本,

    顾及每句台词的时长。
  2. 02

    为画面上的每位演员选一位配音演员并录音,

    每人一条干净的音轨,因为同步需要一张脸对应一个声音。两个人在同一条混音音轨上同时说话,得先分离开。
  3. 03

    标注每句台词出自哪张脸,

    每个镜头都要标,同步才能落在对的那张嘴上。
  4. 04

    运行同步,

    也就是 AI 那一步。
  5. 05

    以 8K 逐个镜头审核,

    对照制作方的标准。
  6. 06

    套底并交付,

    经由一家本地化公司。

六步里有五步靠人,而成本最高的两步,选角和录制配音,本来就是传统配音要花的钱。完整的人工配音,翻译加配音演员,每分钟成片 $70–150,所以即便是顶级制作也只配少数几种语言;辅助式的这一道工序还要另算。它也是制作流程中的一步:需要每位演员单独的台词音轨,也需要做这部作品的那些人。

片库里的一部成片,混音锁定多年之后,这两样都没有了。

完整方案怎么做

如今的一键式工具,快是快,其余的却都放弃了:译文改不了,音乐和现场环境音消失,声音跑偏;手挡在脸前、麦克风、虚焦、焦外虚化、侧脸,或者画面里有好几个人,口型就对不上,没有空间推理,也不理解真实世界。完整 AI 配音一气呵成,质量也到位。它从成片出发,连同混好的音轨一起;其余的由 Familiar 的多模态本地化决策模型(MLDM)来决定,它是首个多模态翻译基础模型,全新范式,业界首创:

首个多模态翻译基础模型
场景音
完整 AI 配音保留场景音,压在新台词之下:音乐、人群声、笑声。
翻译
完整 AI 配音翻译,一个笑点或一句话里有话的台词会给出几版译文,在任何渲染开始前,由你的审核人员按语言挑选。
声音
完整 AI 配音用演员自己的声音说话,克隆进新的语言;在同一批片段上,Familiar 的音色还原度比 ElevenLabs Dubbing v1 高出 27.8%,更接近说话人本人。
面部
完整 AI 配音面部对上新台词:说话人的嘴、下巴、眼神、眉毛、脸颊和头部,画面里有好几个人、手或麦克风挡在嘴前也一样;为某句台词换一张脸,正在研发中。
语言
完整 AI 配音所有语言一次渲染,支持 99 种源语言的素材,输出 30 种语言。
ElevenLabsElevenLabsElevenLabsTHEIR DOCS, READ OCTOBER 30, 2026

Editing the translation means their old model.

On ElevenLabs' current Dubbing v2, in alpha, editing the translation and regenerating the audio through the API is for their Enterprise plans only. Their full editor, Dubbing Studio, is "only available via the v1 model" and "in maintenance mode", in their words. Dubbing v1 is the model our 418-pair study measured, and its output is mono.

+27.8%

FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES

261%

ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE

+243.7%

FAMILIAR ON LAUGHTER AND REACTION SHAPE

ELEVENLABS DUBBING V1 · 418 PAIRED OUTPUTS · 11 LANGUAGES · AUGUST 5, 2026Read the study Their docs

完整 AI 配音交付的,正是后期需要的东西:

画面

最高 4K

目前。

混音

5.1 或立体声

完整混音为原生 5.1 环绕声或立体声。

母版

ProRes 或 mp4

Studio 交付提供 ProRes 母版,通过 API 交付 mp4。

对白

只含对白

只含对白的音轨。

字幕

srt 和 vtt

根据审核过的转写生成,按 Netflix《定时文本样式指南》的规范切分。

元数据

标题和简介

已翻译。

各自适合谁

辅助式视觉配音

  • 旗舰级的院线作品,导演逐帧签字,母版是 8K。
  • 已经有一版影视公司很满意的人工配音,只想让脸也跟上的作品。
  • 最好的例证来自 Flawless 自己:《Watch the Skies》,从瑞典语变成英语,成为首部在影院上映的视觉配音电影。
  • 每个项目需要一支视效团队忙上数周,而且每种语言都是一个新项目。

完整 AI 配音

  • 事后为片库配音:手握成千上万部成片、身边没有制作团队待命的流媒体平台、发行方或电视网。
  • 一切让真人面对观众的内容:剧集和短剧、教育、广告、企业视频、广播节目、创作者频道。
  • 上传即配好每一种语言,每种语言都先等审核人员过目,过审就上线。
HeyGenHeyGenElevenLabsElevenLabsHeyGen + ElevenLabsONE-SHOT TOOLS · NO CONTROL

One shot today means giving up the rest.

The one-shot tools today give up the rest: the translation cannot be edited, the music and the room drop out, the voice drifts, and the lips fail on a hand over the face, a microphone, blur, bokeh, a side view or several people in frame. No spatial reasoning, no understanding of the world, no control. ElevenLabs' current Dubbing v2 edits only through an Enterprise API, and its full editor is the older model, in maintenance mode; HeyGen stitches a lip-sync over a dub like that, and the lip-sync breaks on the ordinary shots of any episode. Familiar is one shot and the quality: translation first, reviewed; then the voice, the lips and the scene together, through the hard shots.

54.7%

FEWER TRANSLATION ERRORS · FAMILIAR VS ELEVENLABS DUBBING V2

270%

ELEVENLABS MORE BACKGROUND-SOUND ERROR · THE LAUGHTER, THE MUSIC, THE AMBIENCE

+27.8%

FAMILIAR CLOSER TO THE REAL SPEAKER

两者追求的提升

Flawless 公布了视觉配音作品的三项参与度数据,对比的是它自己选的参照:

23×

流媒体观看时长相比同一作品的纯音频配音(《Vincent Must Die》,法语译成英语)。Flawless 的数据。

9×

每部视觉配音作品的独立播放次数。Flawless 的数据。

+260%

完播率高于普通配音。Flawless 的数据。

Familiar 自己的成对实测,对比 ElevenLabs、YouTube 自动配音和专业译者:基准测试总览。

常见问题

什么是辅助式 AI 视觉配音?

一种工作流程:人来做配音(翻译、选角、为每位演员每种语言录制配音),AI 模型调整画面上的脸,让它对上新台词,最后再由人逐个镜头审核。Flawless TrueSync 就是这样描述自己的。

什么是 vubbing?

也就是视觉配音:让原演员在画面上的面部表演与新语言的台词同步,不生成也不替换面部。

辅助式视觉配音包含声音吗?

不包含。按它自己的描述,TrueSync 与音频无关,不生成、不修改、不合成音频。配音音轨来自你的配音演员或其他来源。

发行方没有原制作团队,也能用吗?

有制作团队在场时它效果最好:质检按导演的标准来,每个角色都选配音演员,审核逐个镜头进行。只握有母版和版权的发行方,得为每部作品重新组起这样一支团队。完整 AI 配音只需要母版。

能在成片上事后再做吗?

辅助式视觉配音要事先排进制作流程:每种语言都要录一版配音,还要制作团队的人来标注和审核。完整 AI 配音直接从发行时的成片出发,所以存量片库在混音锁定多年之后依然可以配音。

视觉配音和完整 AI 配音有什么区别?

视觉配音是让嘴型对上你已经做好的配音。完整 AI 配音是把配音本身做出来:译文、演员自己的声音、场景音和面部,直接从成片出发,一次渲染完成。

完整 AI 配音能交付 8K 吗?

Familiar 目前最高渲染 4K:Studio 交付提供 ProRes 母版,通过 API 交付 mp4,配原生 5.1 环绕声或立体声混音。TrueSync 以 8K 审核和交付。

参考资料

  1. [1]Netflix《定时文本样式指南:字幕模板》,2026 年 10 月 30 日查阅
  2. [2]Flawless《Localize Titles with Assistive AI Visual Dubbing》(TrueSync),2026 年 9 月 18 日查阅
  3. [3]Familiar vs Flawless TrueSync:完整 AI 配音 vs 辅助式视觉配音(2026)
  4. [4]AI 口型同步:是什么、缺什么、什么更好(2026)
  5. [5]Familiar vs ElevenLabs 配音:两项成对研究
  6. [6]2026 年配音要花多少钱?

多模态翻译

Familiar Labs 用多模态本地化决策模型(MLDM),让配音迎来代际飞跃。这是首个多模态翻译基础模型:一个模型决定本地化什么,覆盖文本、音频和画面,并把选择摆到你面前。你的声音与口型,带进新的语言。团队8人,汇聚多位博士;投资方包括 Samsung、RedBird、Gold House。 我们的使命