FORSCHUNGSNOTIZ

Worauf es bei der Videoübersetzung ankommt

FAMILIAR FORSCHUNGAKTUALISIERT ALLE ARTIKEL

ZUSAMMENFASSUNG

Ob eine Synchro trägt, entscheiden vier Dinge: Die Übersetzung liest sich, als wäre sie in der Zielsprache geschrieben, der Ton klingt weiter nach dem Sprecher, der Text im Bild kommt mit, und die Lippen passen. Die ersten beiden entscheiden über alles Weitere. Am Ende sind alle vier dasselbe Problem: dieselbe Performance in einer anderen Sprache.

Die vier Probleme

Fragt man, was ein gut synchronisiertes Video ausmacht, bekommt man eine lange Liste. Sie lässt sich auf vier Punkte verdichten:

NATÜRLICHE ÜBERSETZUNG
WAS GUT HEISSTEin neues Skript in der Zielsprache, das das Video gut vermittelt, keine Satz-für-Satz-Abbildung.
NATÜRLICHER TON
WAS GUT HEISSTDieselbe Person, dieselbe Emotion, dieselbe Betonung, in der neuen Sprache.
TEXT IM BILD
WAS GUT HEISSTAngepasst an die Sprache und an den Moment, in dem er erscheint, ohne das Video zu beschädigen.
LIPSYNC
WAS GUT HEISSTUnsichtbar. Das Publikum merkt nie, dass er stattgefunden hat.

Scheitern die ersten beiden, ist alles Weitere egal: Ein falsch übersetzter Satz oder eine hörbar falsche Stimme beendet die Synchro schon für sich allein. Die letzten beiden entscheiden, ob sich das Ergebnis wie das Original anfühlt oder wie eine Synchro.

Natürliche Übersetzung: ein neues Skript statt einer Abbildung

Jede Sprache drückt die Dinge auf ihre eigene Art aus: Wörter, Redewendungen, Satzbau, Anredeformen, was überhaupt ausgesprochen wird. Bittet man ein Modell zu „übersetzen“, bildet es Sätze eins zu eins von Sprache A auf Sprache B ab. Menschen machen es genauso: Wer sich als Übersetzer versteht, reduziert die Aufgabe darauf, Sätze umzuwandeln.

Eine so übersetzte Synchro ist verständlich und trotzdem falsch.

Was das Publikum braucht, ist ein neues Skript, in der Zielsprache geschrieben, das den Inhalt des Videos gut vermittelt.
  • Japanisch meidet allzu direkte Formulierungen; eine natürliche Zeile muss oft indirekt neu gebaut werden, statt Wort für Wort abgeschwächt zu werden.
  • Koreanisch lässt ständig das Subjekt weg; wer englische Pronomen in englischer Häufigkeit ins Koreanische trägt, klingt fremd, selbst wenn jedes Wort stimmt.
  • Wortstellung, Register, Höflichkeitsformen und das, was eine Kultur unausgesprochen lässt, verschieben sich mit jeder Sprache; eine Übersetzung ist nicht gut, nur weil die wörtliche Bedeutung überlebt hat.

„Gut“ lässt sich schlecht abhaken, also verdichten wir das Ziel auf einen Satz: den Inhalt des Videos in der Zielsprache gut vermitteln. Das ist messbar:

100.3%

der Qualität professioneller menschlicher Übersetzung erreicht Familiar, blind bewertet gegen von Experten redigierte Referenzen

FRANZÖSISCH, CHINESISCH, HINDI, INDONESISCH (ERSTÜBERSETZUNG DURCH PROFESSIONELLE ÜBERSETZER)
54.7%

weniger schwerwiegende Übersetzungsfehler bei Familiar auf denselben Clips (29 vs 64)

VS ELEVENLABS DUBBING V2 (ALPHA) · 111 GEPAARTE SYNCHROS · 3 SPRACHEN

Natürlicher Ton: dieselbe Person in einer neuen Sprache

Die Aussprache ist so gut wie gelöst. Die interessanten Fehler liegen dahinter:

  • Identität: Dieselbe Person klingt in jeder Sprache weiter wie dieselbe Person.
  • Emotion: Was der Sprecher gefühlt hat, übersteht den Sprachwechsel.
  • Betonung, Tempo, Absicht: wohin sich der Satz neigt, wie schnell er läuft, was er erreichen will.

Das Ziel verdichtet sich wie bei der Übersetzung: Der Ton passt zum Video. Nicht „Sprache B mit der Stimme aus Sprache A erzeugen“. Dieselbe Performance in einer neuen Sprache. Und die Szene gehört zum Ton: das Lachen, die Musik, der Raum.

270%

mehr Fehler bei den Hintergrundgeräuschen bei ElevenLabs (11.92 vs 3.22 dB): Musik, Effekte, Atmosphäre

STUDIE ZU DUBBING V2 (ALPHA) · DIESELBEN CLIPS
+27.8%

höhere Sprecherähnlichkeit bei Familiar (0.461 vs 0.360), in allen 11 Sprachen näher dran

VS ELEVENLABS · STUDIE ZU DUBBING V1 · 418 GEPAARTE SYNCHROS
ElevenLabsElevenLabsElevenLabsTHEIR DOCS, READ OCTOBER 30, 2026

Editing the translation means their old model.

On ElevenLabs' current Dubbing v2, in alpha, editing the translation and regenerating the audio through the API is for their Enterprise plans only. Their full editor, Dubbing Studio, is "only available via the v1 model" and "in maintenance mode", in their words. Dubbing v1 is the model our 418-pair study measured, and its output is mono.

+27.8%

FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES

261%

ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE

+243.7%

FAMILIAR ON LAUGHTER AND REACTION SHAPE

ELEVENLABS DUBBING V1 · 418 PAIRED OUTPUTS · 11 LANGUAGES · AUGUST 5, 2026Read the study Their docs

Text im Bild gehört zum Video

Moderne Videos stützen sich auf Text im Bild: Einblendungen, Witze, Memes, ein einzelnes Wort genau auf dem Beat. Jedes davon ist ein visuelles Ereignis in der Ausgangssprache. Es anzupassen, stellt zwei Anforderungen:

  • Das Video nie beschädigen. Artefakte oder visuelle Ablenkung machen das Ergebnis schlechter als das Original.
  • Nie wörtlich übersetzen. Man muss verstehen, warum dieser Text in diesem Moment an dieser Stelle steht, bevor man ihn anpassen kann.

Heute übersetzt Familiars multimodales Entscheidungsmodell für die Lokalisierung (MLDM), das erste Foundation Model für multimodale Übersetzung, ein neues Paradigma und das erste seiner Art, Titel, Beschreibungen und Untertitel zusammen mit der Synchro. Text im Bild ist in Arbeit: ein Handydisplay oder ein Straßenschild, geschrieben in den Begriffen, die Sie schon festgelegt haben, eine Marke oder ein Name, die das Modell von selbst so lässt, wie sie gedreht wurden, sodass eine Tüte Tostitos Tostitos bleibt, und Sie wählen, welcher Text übersetzt wird. Die Regel gilt weiter: Fällt der Eingriff auf, ist er nicht gut genug.

DAS ERSTE FOUNDATION MODEL FÜR MULTIMODALE ÜBERSETZUNG

Lipsync: gelungen, wenn er nicht auffällt

Für den Lipsync gilt dieselbe harte Anforderung: das Video nie beschädigen. Das größte Kompliment für den Lipsync einer Synchro ist die Frage: „Was wurde denn geändert?“

Er wirkt wie der unwichtigste der vier Punkte; im fertigen Erlebnis ist es fast umgekehrt. Menschen hören mit den Augen: Derselbe Ton wird bei unterschiedlichen Mundbewegungen als unterschiedliche Laute gehört, das ist der McGurk-Effekt. Ein unpassender Mund ist ein Grund, warum sich synchronisierte Videos auf eine Weise unangenehm anfühlen, die das Publikum nicht benennen kann.
McGURK & MacDONALD, “HEARING LIPS AND SEEING VOICES,” NATURE 264 (1976)

Der Effekt arbeitet auch für die Synchro. Sobald der Mund passt, löst das Gehirn Mehrdeutigkeiten in Richtung Übereinstimmung auf: Die Aussprache wirkt klarer, und die Klangfarbe wirkt eher wie dieselbe Person.

Die schwierigen Teile: Stimmen aus dem Off, Sprecher, die sich überlappen, Menschen, die ähnlich aussehen oder klingen, und den Mund zu bearbeiten, ohne das Gesicht zu zerstören. Stehen zwei Personen im Bild, synchronisieren die heutigen Tools beide Münder gleichzeitig.

Die Lippen sind nur der Anfang. Ein Mensch spielt einen Satz mit dem ganzen Gesicht, mit Augen, Brauen, Wangen und Kopf, und mit dem Körper: Gesten, Nicken, der halbe Takt des Zuhörens.

Ein Problem, nicht vier

Jede Anforderung lief auf denselben Satz hinaus. Natürliche Übersetzung: schreiben, was dieses Video sagt, in der Zielsprache. Natürlicher Ton: dieselbe Performance in den neuen Worten halten. Text im Bild: wissen, warum er da ist, bevor man ihn anfasst. Lipsync: die Person bearbeiten, ohne sie zu zerstören.

Dieselbe Performance in einer anderen Sprache.

Genau das entscheidet das MLDM, gemessen auf denselben Clips und veröffentlicht unter /benchmark. Jede Entscheidung wird mit dem Auftrag festgehalten und lässt sich überschreiben; heute wählen Ihre Creative Directors zwischen den Übersetzungsfassungen.

QUELLEN

  1. [1]Benchmark Familiar vs ElevenLabs: alle Ergebnisse, Intervalle und Hörbeispiele
  2. [2]KI vs menschliche Übersetzung: gegen Profis getestet
  3. [3]KI-Lippensynchronisation: was sie ist, was sie übersieht, was besser ist
  4. [4]Warum die Synchro im Ausland nicht stimmt und was Studios tun (die Studio-Fassung dieses Arguments)
  5. [5]McGurk & MacDonald, “Hearing lips and seeing voices,” Nature 264 (1976)

Multimodale Übersetzung

Familiar Labs entwickelt Synchronisation einer neuen Generation, mit einem multimodalen Entscheidungsmodell für die Lokalisierung (MLDM), dem ersten Foundation Model für multimodale Übersetzung: Ein Modell entscheidet, was über Text, Ton und Bild hinweg lokalisiert wird, und zeigt Ihnen die Optionen. Ihre Stimme und Ihre Lippen, übertragen in neue Sprachen. Ein Team von 8 mit PhDs, unterstützt von Samsung, RedBird und Gold House. Unsere Mission