關鍵詞解說

輔助式 AI 視覺配音 vs 完整 AI 配音:作品如何本地化(2026)

FAMILIAR 研究更新於 全部文章

摘要

「以輔助式 AI 視覺配音為作品做本地化」,是 Flawless 對 TrueSync 的描述。關鍵在「輔助」二字:AI 只負責一個步驟,把畫面上的嘴形改成配合新的對白,其餘都由人來做。他們要翻譯、為每位演員每種語言選角和錄音、標明每句對白由哪張臉說出,再逐個鏡頭審閱。業界現時用的輔助工具,每個項目都要一隊 VFX 特效師花上幾個星期,而每多一種語言,就是一個新項目。完整 AI 配音則一次過為作品做本地化:放進製作完成的作品,交出翻譯、每位演員自己的聲音、場景聲音和臉孔。

「輔助」是甚麼意思:看供應商自己怎樣說

Flawless 把 TrueSync 分為四個步驟,以下引自它的本地化頁面:

放進母帶。「提供你的母帶,以及目標語言的配音音訊。」為每段演出做視覺配音。「TrueSync 把畫面上每一段演出同步到新的對白。」以 8K 審閱。「以無損色彩、按你的標準進行質檢,達到院線水平。」經合作夥伴交付。「最終交付經由 Pixelogic、Deluxe 等夥伴完成。」
FLAWLESS · LOCALIZE TITLES WITH ASSISTIVE AI VISUAL DUBBING

同一頁面上還有兩句話劃清了界線。TrueSync「不限音訊來源」:它接受任何來源的配音音訊,不會「生成、修改或合成音訊」。它亦「不會生成、替換或合成臉孔」:它只調整原有演出的面部動態,去配合新的台詞。視覺配音(vubbing)就是這一項調整。

輔助式流程裡的人手工作

每部作品、每種語言,在 AI 步驟之前和之後都要經過:

  1. 01

    翻譯和改編劇本,

    同時顧及每句對白的時間。
  2. 02

    為畫面上每位演員選角,並錄製一位配音員,

    每人一條乾淨的音軌,因為同步需要一把聲音對一張臉。兩個人在同一條混音音軌上對話,就要先分離出來。
  3. 03

    標明每句對白由哪張臉說出,

    逐個鏡頭標記,同步才會落在正確的嘴上。
  4. 04

    執行同步,

    也就是 AI 那一步。
  5. 05

    以 8K 逐個鏡頭審閱,

    對照製作團隊的標準。
  6. 06

    調整並交付,

    經由本地化公司完成。

六個步驟中有五個靠人,而最花錢的兩步,選角和錄製配音,本來就是傳統配音要付的錢。完整人工配音,翻譯加聲音,每分鐘成片要 $70–150,所以即使頂級製作也只配幾種語言;輔助式的處理還要另外加上去。它亦是製作過程中的一個步驟:需要每位演員各自的對白,以及當初製作這部作品的人。

一部早已完成、混音鎖定多年、放在片庫裡的作品,兩樣都沒有。

完整的做法改為怎樣做

現時一次過完成的工具速度快,代價是其餘一切:譯文不能修改,音樂和現場環境聲消失,聲音走樣;遇上手擋在臉前、咪高峰、畫面模糊、散景、側面鏡頭,或者畫面裡有幾個人,唇形就會失準;沒有空間推理,不理解真實世界。完整 AI 配音是一次過,同時保住質素。它從製作完成的作品開始,連混好的音軌在內;其餘的由 Familiar 的多模態本地化決策模型(MLDM)決定,它是首個多模態翻譯基礎模型,屬全新範式,業界首創:

首個多模態翻譯基礎模型
場景聲音
完整 AI 配音保留新對白底下的場景聲音:音樂、人群、笑聲。
翻譯
完整 AI 配音翻譯,一個笑位或一句話中有話的對白會有幾個譯本,讓你的審閱人員在每種語言渲染之前揀選。
聲音
完整 AI 配音用演員自己的聲音說話,複製到新的語言;以相同片段量度,Familiar 與真人說話者的相似度比 ElevenLabs Dubbing v1 高 27.8%。
臉孔
完整 AI 配音配合臉孔:說話者的嘴、下顎、眼睛、眉毛、面頰和頭部,鏡頭裡有多個人、手或咪高峰擋在嘴前也一樣;為某句對白選用另一張臉,正在開發中。
語言
完整 AI 配音所有語言一併渲染,從 99 種來源語言中任何一種的影片,配成 30 種輸出語言。
ElevenLabsElevenLabsElevenLabsTHEIR DOCS, READ OCTOBER 30, 2026

Editing the translation means their old model.

On ElevenLabs' current Dubbing v2, in alpha, editing the translation and regenerating the audio through the API is for their Enterprise plans only. Their full editor, Dubbing Studio, is "only available via the v1 model" and "in maintenance mode", in their words. Dubbing v1 is the model our 418-pair study measured, and its output is mono.

+27.8%

FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES

261%

ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE

+243.7%

FAMILIAR ON LAUGHTER AND REACTION SHAPE

ELEVENLABS DUBBING V1 · 418 PAIRED OUTPUTS · 11 LANGUAGES · AUGUST 5, 2026Read the study Their docs

完整 AI 配音交付後期製作需要的東西:

畫面

最高 4K

現時。

混音

5.1 或立體聲

完整混音,真正的 5.1 環繞聲或立體聲。

母帶

ProRes 或 mp4

Studio 交付提供 ProRes 母帶,API 提供 mp4。

對白

只有對白

只有對白的音軌。

字幕

srt 和 vtt

按審閱過的文字稿製作,依 Netflix Timed Text Style Guide 規範切分。

元數據

標題和描述

已翻譯。

兩者各自為誰而設

輔助式視覺配音

  • 旗艦院線作品,每一格都要導演簽核,並有 8K 母帶。
  • 已經有一個製作公司滿意的人工配音、想把臉孔改成配合它的作品。
  • Flawless 自己的實證:《Watch the Skies》由瑞典語配成英語,是首部在戲院上映的視覺配音電影。
  • 每個項目要一隊 VFX 特效師花上幾個星期,而每多一種語言就是一個新項目。

完整 AI 配音

  • 事後處理的內容庫:手上有成千上萬部已完成作品、卻沒有製作團隊隨時候命的串流平台、發行商或電視網絡。
  • 任何讓真人面對觀眾的內容:劇集和微短劇、教育、廣告、企業影片、廣播節目、創作者頻道。
  • 所有語言一併處理,上載即配音,每種語言留待審閱人員確認,審批通過就推出。
HeyGenHeyGenElevenLabsElevenLabsHeyGen + ElevenLabsONE-SHOT TOOLS · NO CONTROL

One shot today means giving up the rest.

The one-shot tools today give up the rest: the translation cannot be edited, the music and the room drop out, the voice drifts, and the lips fail on a hand over the face, a microphone, blur, bokeh, a side view or several people in frame. No spatial reasoning, no understanding of the world, no control. ElevenLabs' current Dubbing v2 edits only through an Enterprise API, and its full editor is the older model, in maintenance mode; HeyGen stitches a lip-sync over a dub like that, and the lip-sync breaks on the ordinary shots of any episode. Familiar is one shot and the quality: translation first, reviewed; then the voice, the lips and the scene together, through the hard shots.

54.7%

FEWER TRANSLATION ERRORS · FAMILIAR VS ELEVENLABS DUBBING V2

270%

ELEVENLABS MORE BACKGROUND-SOUND ERROR · THE LAUGHTER, THE MUSIC, THE AMBIENCE

+27.8%

FAMILIAR CLOSER TO THE REAL SPEAKER

兩者追求的同一個提升

Flawless 為視覺配音作品公布了三個參與度數字,各自對照它自己的比較對象:

23×

串流播放分鐘數,對比同一作品只配聲音的版本(《Vincent Must Die》,法語配成英語)。Flawless 的數字。

9×

每部視覺配音作品的獨立串流次數。Flawless 的數字。

+260%

完成率高於一般配音。Flawless 的數字。

Familiar 自己對比 ElevenLabs、YouTube 自動配音和人工譯者的配對量度:基準測試總覽。

常見問題

輔助式 AI 視覺配音是甚麼?

一種工作流程:由人製作配音(翻譯、選角、為每位演員每種語言錄音),再由 AI 模型調整畫面上的臉孔去配合新的對白,之後由人逐個鏡頭審閱。Flawless TrueSync 正是這樣形容自己。

Vubbing 是甚麼?

即視覺配音:把原來演員在畫面上的面部演出,同步到新語言的對白,不會生成或替換臉孔。

輔助式視覺配音包括聲音嗎?

不包括。按 TrueSync 自己的描述,它不限音訊來源,不會生成、修改或合成音訊。配音聲軌來自你的配音員或其他來源。

發行商可以在沒有原製作團隊的情況下使用嗎?

有製作團隊在場時效果最好:導演的標準決定質檢,每個角色都要選配音員,審閱逐個鏡頭進行。只持有母帶和版權的發行商,每部作品都要另外組織這樣的團隊。完整 AI 配音只需要母帶。

可以在作品完成之後才做嗎?

輔助式視覺配音要預先規劃進製作流程:每種語言都要錄好配音,標記和審閱亦需要製作團隊的人。完整 AI 配音從作品發行時的成品開始,所以混音鎖定多年後,舊片庫仍然可以配音。

視覺配音和完整 AI 配音有甚麼分別?

視覺配音是把嘴形配合你已經做好的配音。完整 AI 配音則是製作配音本身:從製作完成的作品出發,一次渲染交出翻譯、演員自己的聲音、場景聲音和臉孔。

完整 AI 配音可以交付 8K 嗎?

Familiar 現時渲染最高 4K,Studio 交付提供 ProRes 母帶,API 提供 mp4,混音是真正的 5.1 環繞聲或立體聲。TrueSync 以 8K 審閱和交付。

參考資料

  1. [1]Netflix, Timed Text Style Guide: Subtitle Templates,2026 年 10 月 30 日查閱
  2. [2]Flawless, Localize Titles with Assistive AI Visual Dubbing (TrueSync),2026 年 9 月 18 日查閱
  3. [3]Familiar vs Flawless TrueSync:完整 AI 配音 vs 輔助式視覺配音(2026)
  4. [4]AI 唇形同步:是甚麼、欠甚麼、甚麼更好(2026)
  5. [5]Familiar vs ElevenLabs Dubbing:兩項配對研究
  6. [6]2026 年配音要多少錢?

多模態翻譯

Familiar Labs 以多模態本地化決策模型(MLDM),打造高出一個世代的配音。這是首個多模態翻譯基礎模型:一個模型橫跨文字、聲音和畫面,決定本地化甚麼,並把選擇交給你過目。你的聲音和唇形,帶進新的語言。團隊 8 人,當中有博士,獲 Samsung、RedBird、Gold House 支持。 我們的使命