研究ノート

動画翻訳で本当に大切なこと

FAMILIAR 研究更新日 記事一覧

要旨

吹き替えが成り立つかどうかは、4つで決まります。翻訳が最初からその言語で書かれたように読めること、音声が話し手本人のままに聞こえること、画面上の文字が引き継がれること、そして口の動きが合っていること。最初の2つが、残りすべての前提です。そして4つとも、突き詰めれば同じ課題に行き着きます。同じパフォーマンスを、別の言語で。

4つの課題

良い吹き替えの条件を挙げていくと、長いリストになります。それを絞り込むと、4つに収まります:

自然な翻訳
良い状態とは対象言語で動画の内容をしっかり伝える、新しい台本。1文ずつの置き換えではありません。
自然な音声
良い状態とは同じ人が、同じ感情、同じ強調で、新しい言語を話すこと。
画面上の文字
良い状態とはその言語と、文字が現れる瞬間に合わせて調整し、映像を損なわないこと。
リップシンク
良い状態とは目に見えないこと。視聴者が、手が加わったことに気づかない状態。

最初の2つでつまずけば、その先は意味を持ちません。誤訳が1文あるだけで、あるいは声が明らかに違うだけで、吹き替えはそこで終わります。残りの2つは、仕上がりがオリジナルのように感じられるか、それとも吹き替えに感じられるかを左右します。

自然な翻訳:置き換えではなく、新しい台本

言語にはそれぞれの表し方があります。語彙、慣用句、文の構造、呼びかけ方、そもそも何を口にするか。モデルに「翻訳して」と頼むと、言語Aの文を言語Bの文へ1対1で置き換えます。人も同じで、翻訳者という役割を与えられると、仕事は文を変換する作業に縮んでしまいます。

そうして訳された吹き替えは、意味は通じても、どこか間違っています。

視聴者に必要なのは、対象言語で書かれ、動画の内容をしっかり伝える新しい台本です。
  • 日本語は直接的すぎる言い方を避ける傾向があり、自然な台詞にするには、1語ずつ和らげるのではなく、遠回しな形に組み立て直す必要があることがよくあります。
  • 韓国語は主語を頻繁に省略します。英語の代名詞を英語と同じ頻度で韓国語に持ち込むと、単語がすべて正しくても、どこか外国語のように聞こえます。
  • 語順、言葉づかい、敬語、そしてその文化が口にしないことは、言語ごとに変わります。字義どおりの意味が残っているからといって、良い翻訳とは限りません。

「しっかり」はチェックリストにしにくいので、目標を1文に絞ります。対象言語で、動画の内容をしっかり伝えること。これなら測れます:

100.3%

熟練プロ翻訳者の翻訳品質に対するFamiliarの品質。専門家が修正した参照訳を基準に、ブラインドで採点

フランス語、中国語、ヒンディー語、インドネシア語(熟練プロ翻訳者の一次翻訳)
54.7%

同じクリップで、Familiarのほうが少なかった重要な翻訳ミス(29 vs 64)

ELEVENLABS DUBBING V2 (ALPHA)との比較 · 111ペアの吹き替え · 3言語

自然な音声:同じ人が、新しい言語で

発音はほぼ解決済みです。興味深い失敗は、その先にあります:

  • 本人らしさ:同じ人が、どの言語でも同じ人に聞こえ続けること。
  • 感情:話し手が感じていたことが、言語が変わっても残ること。
  • 強調、テンポ、意図:文のどこに重心があるか、どの速さで進むか、何をしようとしているか。

目標は、翻訳と同じように絞り込めます。音声が映像に合っていること。「言語Aの声で言語Bを作る」ことではありません。同じパフォーマンスを、新しい言語で。そしてシーンも音声の一部です。笑い声、音楽、部屋の響き。

270%

ElevenLabsで多かった背景音の損傷(11.92 vs 3.22 dB):音楽、効果音、空気感

DUBBING V2 (ALPHA)の研究 · 同じクリップ
+27.8%

Familiarの声のほうが本人に近い(0.461 vs 0.360)。全11言語で上回りました

ELEVENLABSとの比較 · DUBBING V1の研究 · 418ペアの吹き替え
ElevenLabsElevenLabsElevenLabsTHEIR DOCS, READ OCTOBER 30, 2026

Editing the translation means their old model.

On ElevenLabs' current Dubbing v2, in alpha, editing the translation and regenerating the audio through the API is for their Enterprise plans only. Their full editor, Dubbing Studio, is "only available via the v1 model" and "in maintenance mode", in their words. Dubbing v1 is the model our 418-pair study measured, and its output is mono.

+27.8%

FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES

261%

ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE

+243.7%

FAMILIAR ON LAUGHTER AND REACTION SHAPE

ELEVENLABS DUBBING V1 · 418 PAIRED OUTPUTS · 11 LANGUAGES · AUGUST 5, 2026Read the study Their docs

画面上の文字も、映像の一部

今の動画は、画面上の文字に大きく頼っています。キャプション、ジョーク、ミーム、ビートに合わせて出るひと言。どれも元の言語で起きる視覚的な出来事です。これを調整するには、2つの条件があります:

  • 映像を決して損なわないこと。アーティファクトや視覚的なノイズがあれば、仕上がりはオリジナルより悪くなります。
  • 決して字義どおりに訳さないこと。その文字がなぜこの瞬間、この場所に現れるのかを理解してはじめて、調整できます。

現在、マルチモーダル翻訳のための初の基盤モデルであり、新たなパラダイム、これまでにない、初めてのモデルであるFamiliarのマルチモーダル・ローカライゼーション意思決定モデル(MLDM)は、吹き替えとあわせてタイトル、説明文、字幕を翻訳します。映像の中の文字への対応は開発中です。スマホの画面や道路標識を、すでに選んだ訳語で書き換え、ブランドや名前は撮影したまま残すかをその場で判断します。Tostitosの袋は、Tostitosのまま。どの文字を訳すかは、あなたが選べます。原則は変わりません。手を加えたことに気づかれるなら、まだ十分ではありません。

初のマルチモーダル翻訳基盤モデル

リップシンク:気づかれないことが成功

リップシンクにも、同じ厳しい条件があります。映像を決して損なわないこと。吹き替えのリップシンクが受けられる最高の褒め言葉は、「何が変わったの?」という問いです。

4つの中で最も重要度が低いように見えますが、仕上がった体験の中では、ほぼ逆です。人は目で聞いています。同じ音声でも、口の動きが違えば別の音に聞こえる。これがマガーク効果です。口が合っていないことは、吹き替え動画が、視聴者にも言葉にできない居心地の悪さを生む理由のひとつです。
McGURK & MacDONALD, “HEARING LIPS AND SEEING VOICES,” NATURE 264 (1976)

この効果は、吹き替えの味方にもなります。口が合えば、脳はあいまいさを一致する方向に解釈します。発音はよりはっきり聞こえ、声色もより同じ人らしく聞こえます。

難しいのは、画面の外から聞こえる声、重なる話し声、見た目や声が似ている人、そして顔を崩さずに口を編集することです。画面に2人を映すと、今のツールは2人の口を同時に動かしてしまいます。

唇は出発点にすぎません。人は顔全体で台詞を演じます。目、眉、頬、頭。そして体でも。身ぶり、うなずき、聞いているときの半拍の間。

4つではなく、ひとつの課題

どの条件も、絞り込むたびに同じ1文に行き着きました。自然な翻訳:この動画が言っていることを、対象言語で書くこと。自然な音声:新しい言葉の中で、同じパフォーマンスを保つこと。画面上の文字:手を加える前に、なぜそこにあるのかを知ること。リップシンク:人を壊さずに、人を編集すること。

同じパフォーマンスを、別の言語で。

それこそがMLDMの判断することです。同じクリップで測定し、/benchmarkで公開しています。すべての判断はジョブとともに記録され、上書きできます。現在は、クリエイティブディレクターが訳の選択肢から選べます。

参考資料

  1. [1]Familiar vs ElevenLabsベンチマーク:全結果、信頼区間、試聴サンプル
  2. [2]AI翻訳 vs 人間の翻訳:プロと比較検証(2026年)
  3. [3]AIリップシンクとは:できること、足りないもの、その先にあるもの(2026年)
  4. [4]海外で吹き替えが「合わない」理由と、スタジオの解決策(この議論のスタジオ版)
  5. [5]McGurk & MacDonald, “Hearing lips and seeing voices,” Nature 264 (1976)

マルチモーダル翻訳

Familiar Labsは、マルチモーダル・ローカライゼーション意思決定モデル(MLDM)で次世代の吹き替えを手がけています。MLDMは、マルチモーダル翻訳のための初の基盤モデルです。テキスト、音声、映像のすべてにわたって何をローカライズするかをひとつのモデルが判断し、選択肢をあなたに示します。あなたの声と口元を、新しい言語へ。博士を擁する8人のチームを、Samsung、RedBird、Gold Houseが支援しています。 私たちのミッション