要旨
4つの課題
良い吹き替えの条件を挙げていくと、長いリストになります。それを絞り込むと、4つに収まります:
最初の2つでつまずけば、その先は意味を持ちません。誤訳が1文あるだけで、あるいは声が明らかに違うだけで、吹き替えはそこで終わります。残りの2つは、仕上がりがオリジナルのように感じられるか、それとも吹き替えに感じられるかを左右します。
自然な翻訳:置き換えではなく、新しい台本
言語にはそれぞれの表し方があります。語彙、慣用句、文の構造、呼びかけ方、そもそも何を口にするか。モデルに「翻訳して」と頼むと、言語Aの文を言語Bの文へ1対1で置き換えます。人も同じで、翻訳者という役割を与えられると、仕事は文を変換する作業に縮んでしまいます。
そうして訳された吹き替えは、意味は通じても、どこか間違っています。
- 日本語は直接的すぎる言い方を避ける傾向があり、自然な台詞にするには、1語ずつ和らげるのではなく、遠回しな形に組み立て直す必要があることがよくあります。
- 韓国語は主語を頻繁に省略します。英語の代名詞を英語と同じ頻度で韓国語に持ち込むと、単語がすべて正しくても、どこか外国語のように聞こえます。
- 語順、言葉づかい、敬語、そしてその文化が口にしないことは、言語ごとに変わります。字義どおりの意味が残っているからといって、良い翻訳とは限りません。
「しっかり」はチェックリストにしにくいので、目標を1文に絞ります。対象言語で、動画の内容をしっかり伝えること。これなら測れます:
熟練プロ翻訳者の翻訳品質に対するFamiliarの品質。専門家が修正した参照訳を基準に、ブラインドで採点
フランス語、中国語、ヒンディー語、インドネシア語(熟練プロ翻訳者の一次翻訳)同じクリップで、Familiarのほうが少なかった重要な翻訳ミス(29 vs 64)
ELEVENLABS DUBBING V2 (ALPHA)との比較 · 111ペアの吹き替え · 3言語自然な音声:同じ人が、新しい言語で
発音はほぼ解決済みです。興味深い失敗は、その先にあります:
- 本人らしさ:同じ人が、どの言語でも同じ人に聞こえ続けること。
- 感情:話し手が感じていたことが、言語が変わっても残ること。
- 強調、テンポ、意図:文のどこに重心があるか、どの速さで進むか、何をしようとしているか。
目標は、翻訳と同じように絞り込めます。音声が映像に合っていること。「言語Aの声で言語Bを作る」ことではありません。同じパフォーマンスを、新しい言語で。そしてシーンも音声の一部です。笑い声、音楽、部屋の響き。
ElevenLabsで多かった背景音の損傷(11.92 vs 3.22 dB):音楽、効果音、空気感
DUBBING V2 (ALPHA)の研究 · 同じクリップFamiliarの声のほうが本人に近い(0.461 vs 0.360)。全11言語で上回りました
ELEVENLABSとの比較 · DUBBING V1の研究 · 418ペアの吹き替えEditing the translation means their old model.
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES
261%
ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE
+243.7%
FAMILIAR ON LAUGHTER AND REACTION SHAPE
画面上の文字も、映像の一部
今の動画は、画面上の文字に大きく頼っています。キャプション、ジョーク、ミーム、ビートに合わせて出るひと言。どれも元の言語で起きる視覚的な出来事です。これを調整するには、2つの条件があります:
- 映像を決して損なわないこと。アーティファクトや視覚的なノイズがあれば、仕上がりはオリジナルより悪くなります。
- 決して字義どおりに訳さないこと。その文字がなぜこの瞬間、この場所に現れるのかを理解してはじめて、調整できます。
現在、マルチモーダル翻訳のための初の基盤モデルであり、新たなパラダイム、これまでにない、初めてのモデルであるFamiliarのマルチモーダル・ローカライゼーション意思決定モデル(MLDM)は、吹き替えとあわせてタイトル、説明文、字幕を翻訳します。映像の中の文字への対応は開発中です。スマホの画面や道路標識を、すでに選んだ訳語で書き換え、ブランドや名前は撮影したまま残すかをその場で判断します。Tostitosの袋は、Tostitosのまま。どの文字を訳すかは、あなたが選べます。原則は変わりません。手を加えたことに気づかれるなら、まだ十分ではありません。
リップシンク:気づかれないことが成功
リップシンクにも、同じ厳しい条件があります。映像を決して損なわないこと。吹き替えのリップシンクが受けられる最高の褒め言葉は、「何が変わったの?」という問いです。
この効果は、吹き替えの味方にもなります。口が合えば、脳はあいまいさを一致する方向に解釈します。発音はよりはっきり聞こえ、声色もより同じ人らしく聞こえます。
難しいのは、画面の外から聞こえる声、重なる話し声、見た目や声が似ている人、そして顔を崩さずに口を編集することです。画面に2人を映すと、今のツールは2人の口を同時に動かしてしまいます。
唇は出発点にすぎません。人は顔全体で台詞を演じます。目、眉、頬、頭。そして体でも。身ぶり、うなずき、聞いているときの半拍の間。
4つではなく、ひとつの課題
どの条件も、絞り込むたびに同じ1文に行き着きました。自然な翻訳:この動画が言っていることを、対象言語で書くこと。自然な音声:新しい言葉の中で、同じパフォーマンスを保つこと。画面上の文字:手を加える前に、なぜそこにあるのかを知ること。リップシンク:人を壊さずに、人を編集すること。
同じパフォーマンスを、別の言語で。
それこそがMLDMの判断することです。同じクリップで測定し、/benchmarkで公開しています。すべての判断はジョブとともに記録され、上書きできます。現在は、クリエイティブディレクターが訳の選択肢から選べます。
参考資料
マルチモーダル翻訳
Familiar Labsは、マルチモーダル・ローカライゼーション意思決定モデル(MLDM)で次世代の吹き替えを手がけています。MLDMは、マルチモーダル翻訳のための初の基盤モデルです。テキスト、音声、映像のすべてにわたって何をローカライズするかをひとつのモデルが判断し、選択肢をあなたに示します。あなたの声と口元を、新しい言語へ。博士を擁する8人のチームを、Samsung、RedBird、Gold Houseが支援しています。 私たちのミッション
