ZUSAMMENFASSUNG
Die vier Probleme
Fragt man, was ein gut synchronisiertes Video ausmacht, bekommt man eine lange Liste. Sie lässt sich auf vier Punkte verdichten:
Scheitern die ersten beiden, ist alles Weitere egal: Ein falsch übersetzter Satz oder eine hörbar falsche Stimme beendet die Synchro schon für sich allein. Die letzten beiden entscheiden, ob sich das Ergebnis wie das Original anfühlt oder wie eine Synchro.
Natürliche Übersetzung: ein neues Skript statt einer Abbildung
Jede Sprache drückt die Dinge auf ihre eigene Art aus: Wörter, Redewendungen, Satzbau, Anredeformen, was überhaupt ausgesprochen wird. Bittet man ein Modell zu „übersetzen“, bildet es Sätze eins zu eins von Sprache A auf Sprache B ab. Menschen machen es genauso: Wer sich als Übersetzer versteht, reduziert die Aufgabe darauf, Sätze umzuwandeln.
Eine so übersetzte Synchro ist verständlich und trotzdem falsch.
- Japanisch meidet allzu direkte Formulierungen; eine natürliche Zeile muss oft indirekt neu gebaut werden, statt Wort für Wort abgeschwächt zu werden.
- Koreanisch lässt ständig das Subjekt weg; wer englische Pronomen in englischer Häufigkeit ins Koreanische trägt, klingt fremd, selbst wenn jedes Wort stimmt.
- Wortstellung, Register, Höflichkeitsformen und das, was eine Kultur unausgesprochen lässt, verschieben sich mit jeder Sprache; eine Übersetzung ist nicht gut, nur weil die wörtliche Bedeutung überlebt hat.
„Gut“ lässt sich schlecht abhaken, also verdichten wir das Ziel auf einen Satz: den Inhalt des Videos in der Zielsprache gut vermitteln. Das ist messbar:
der Qualität professioneller menschlicher Übersetzung erreicht Familiar, blind bewertet gegen von Experten redigierte Referenzen
FRANZÖSISCH, CHINESISCH, HINDI, INDONESISCH (ERSTÜBERSETZUNG DURCH PROFESSIONELLE ÜBERSETZER)weniger schwerwiegende Übersetzungsfehler bei Familiar auf denselben Clips (29 vs 64)
VS ELEVENLABS DUBBING V2 (ALPHA) · 111 GEPAARTE SYNCHROS · 3 SPRACHENNatürlicher Ton: dieselbe Person in einer neuen Sprache
Die Aussprache ist so gut wie gelöst. Die interessanten Fehler liegen dahinter:
- Identität: Dieselbe Person klingt in jeder Sprache weiter wie dieselbe Person.
- Emotion: Was der Sprecher gefühlt hat, übersteht den Sprachwechsel.
- Betonung, Tempo, Absicht: wohin sich der Satz neigt, wie schnell er läuft, was er erreichen will.
Das Ziel verdichtet sich wie bei der Übersetzung: Der Ton passt zum Video. Nicht „Sprache B mit der Stimme aus Sprache A erzeugen“. Dieselbe Performance in einer neuen Sprache. Und die Szene gehört zum Ton: das Lachen, die Musik, der Raum.
mehr Fehler bei den Hintergrundgeräuschen bei ElevenLabs (11.92 vs 3.22 dB): Musik, Effekte, Atmosphäre
STUDIE ZU DUBBING V2 (ALPHA) · DIESELBEN CLIPShöhere Sprecherähnlichkeit bei Familiar (0.461 vs 0.360), in allen 11 Sprachen näher dran
VS ELEVENLABS · STUDIE ZU DUBBING V1 · 418 GEPAARTE SYNCHROSEditing the translation means their old model.
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES
261%
ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE
+243.7%
FAMILIAR ON LAUGHTER AND REACTION SHAPE
Text im Bild gehört zum Video
Moderne Videos stützen sich auf Text im Bild: Einblendungen, Witze, Memes, ein einzelnes Wort genau auf dem Beat. Jedes davon ist ein visuelles Ereignis in der Ausgangssprache. Es anzupassen, stellt zwei Anforderungen:
- Das Video nie beschädigen. Artefakte oder visuelle Ablenkung machen das Ergebnis schlechter als das Original.
- Nie wörtlich übersetzen. Man muss verstehen, warum dieser Text in diesem Moment an dieser Stelle steht, bevor man ihn anpassen kann.
Heute übersetzt Familiars multimodales Entscheidungsmodell für die Lokalisierung (MLDM), das erste Foundation Model für multimodale Übersetzung, ein neues Paradigma und das erste seiner Art, Titel, Beschreibungen und Untertitel zusammen mit der Synchro. Text im Bild ist in Arbeit: ein Handydisplay oder ein Straßenschild, geschrieben in den Begriffen, die Sie schon festgelegt haben, eine Marke oder ein Name, die das Modell von selbst so lässt, wie sie gedreht wurden, sodass eine Tüte Tostitos Tostitos bleibt, und Sie wählen, welcher Text übersetzt wird. Die Regel gilt weiter: Fällt der Eingriff auf, ist er nicht gut genug.
Lipsync: gelungen, wenn er nicht auffällt
Für den Lipsync gilt dieselbe harte Anforderung: das Video nie beschädigen. Das größte Kompliment für den Lipsync einer Synchro ist die Frage: „Was wurde denn geändert?“
Der Effekt arbeitet auch für die Synchro. Sobald der Mund passt, löst das Gehirn Mehrdeutigkeiten in Richtung Übereinstimmung auf: Die Aussprache wirkt klarer, und die Klangfarbe wirkt eher wie dieselbe Person.
Die schwierigen Teile: Stimmen aus dem Off, Sprecher, die sich überlappen, Menschen, die ähnlich aussehen oder klingen, und den Mund zu bearbeiten, ohne das Gesicht zu zerstören. Stehen zwei Personen im Bild, synchronisieren die heutigen Tools beide Münder gleichzeitig.
Die Lippen sind nur der Anfang. Ein Mensch spielt einen Satz mit dem ganzen Gesicht, mit Augen, Brauen, Wangen und Kopf, und mit dem Körper: Gesten, Nicken, der halbe Takt des Zuhörens.
Ein Problem, nicht vier
Jede Anforderung lief auf denselben Satz hinaus. Natürliche Übersetzung: schreiben, was dieses Video sagt, in der Zielsprache. Natürlicher Ton: dieselbe Performance in den neuen Worten halten. Text im Bild: wissen, warum er da ist, bevor man ihn anfasst. Lipsync: die Person bearbeiten, ohne sie zu zerstören.
Dieselbe Performance in einer anderen Sprache.
Genau das entscheidet das MLDM, gemessen auf denselben Clips und veröffentlicht unter /benchmark. Jede Entscheidung wird mit dem Auftrag festgehalten und lässt sich überschreiben; heute wählen Ihre Creative Directors zwischen den Übersetzungsfassungen.
QUELLEN
- [1]Benchmark Familiar vs ElevenLabs: alle Ergebnisse, Intervalle und Hörbeispiele
- [2]KI vs menschliche Übersetzung: gegen Profis getestet
- [3]KI-Lippensynchronisation: was sie ist, was sie übersieht, was besser ist
- [4]Warum die Synchro im Ausland nicht stimmt und was Studios tun (die Studio-Fassung dieses Arguments)
- [5]McGurk & MacDonald, “Hearing lips and seeing voices,” Nature 264 (1976)
Multimodale Übersetzung
Familiar Labs entwickelt Synchronisation einer neuen Generation, mit einem multimodalen Entscheidungsmodell für die Lokalisierung (MLDM), dem ersten Foundation Model für multimodale Übersetzung: Ein Modell entscheidet, was über Text, Ton und Bild hinweg lokalisiert wird, und zeigt Ihnen die Optionen. Ihre Stimme und Ihre Lippen, übertragen in neue Sprachen. Ein Team von 8 mit PhDs, unterstützt von Samsung, RedBird und Gold House. Unsere Mission
