FORSKNINGSNOTAT

Det som avgjør i videooversettelse

FAMILIAR FORSKNINGOPPDATERT ALLE ARTIKLER

SAMMENDRAG

Fire ting avgjør om en dub holder: oversettelsen leses som om den var skrevet på målspråket, lyden høres fortsatt ut som taleren, teksten på skjermen blir med over, og leppene stemmer. De to første avgjør alt det andre. Alle fire viser seg å være det samme problemet: den samme fremføringen, på et annet språk.

De fire problemene

Spør hva som gjør en dubbet video god, og du får en lang liste. Den kan kokes ned til fire:

NATURLIG OVERSETTELSE
HVA GODT BETYREt nytt manus på målspråket som formidler videoen godt; ikke en overføring setning for setning.
NATURLIG LYD
HVA GODT BETYRDen samme personen, den samme følelsen, det samme trykket, på det nye språket.
TEKST PÅ SKJERMEN
HVA GODT BETYRTilpasset språket og øyeblikket den dukker opp i, uten å skade videoen.
LEPPESYNK
HVA GODT BETYRUsynlig. Seeren merker aldri at noe ble gjort.

Svikter de to første, betyr ingenting etter dem noe: en feiloversatt setning eller en stemme som hørbart er feil, velter dubben alene. De to siste avgjør om resultatet føles som originalen eller som en dub.

Naturlig oversettelse: et nytt manus, ikke en overføring

Hvert språk uttrykker ting på sin egen måte: ord, idiomer, setningsbygning, tiltaleformer, hva som i det hele tatt blir sagt. Be en modell om å «oversette», og den overfører setninger én til én fra språk A til språk B. Mennesker gjør det samme: får de rollen som oversetter, krymper oppgaven til å konvertere setninger.

En dub som er oversatt slik, er forståelig og feil.

Det seeren trenger, er et nytt manus, skrevet på målspråket, som formidler innholdet i videoen godt.
  • Japansk unngår gjerne altfor direkte formuleringer; en naturlig replikk må ofte bygges opp indirekte på nytt, ikke dempes ord for ord.
  • Koreansk utelater subjektet hele tiden; fører du engelske pronomen inn i koreansk like ofte som på engelsk, leses det fremmed selv når hvert ord er riktig.
  • Ordstilling, stilnivå, høflighetsformer og det en kultur lar være usagt, endrer seg fra språk til språk; en oversettelse er ikke god fordi den bokstavelige meningen overlevde.

«Godt» lar seg ikke krysse av på en sjekkliste, så vi koker målet ned til én setning: formidle innholdet i videoen godt på målspråket. Det kan måles:

100.3%

av kvaliteten til menneskelige ekspertoversettere for Familiar, skåret blindt mot ekspertenes referanseredigeringer

FRANSK, KINESISK, HINDI, INDONESISK (FØRSTEUTKAST FRA PROFESJONELLE EKSPERTOVERSETTERE)
54.7%

færre viktige oversettelsesfeil fra Familiar på de samme klippene (29 mot 64)

MOT ELEVENLABS DUBBING V2 (ALPHA) · 111 PARVISE RESULTATER · 3 SPRÅK

Naturlig lyd: den samme personen, på et nytt språk

Uttalen er nesten løst. De interessante feilene ligger forbi den:

  • Identitet: den samme personen høres fortsatt ut som den samme personen, på alle språk.
  • Følelse: det taleren følte, overlever språkskiftet.
  • Trykk, tempo, hensikt: hvor setningen lener seg, hvor fort den går, hva den prøver å oppnå.

Målet kokes ned på samme måte som oversettelsesmålet: lyden stemmer med videoen. Ikke «lag språk B med stemmen fra språk A». Den samme fremføringen, på et nytt språk. Og scenen hører med til lyden: latteren, musikken, rommet.

270%

mer skade på bakgrunnslyden fra ElevenLabs (11.92 mot 3.22 dB): musikk, effekter, atmosfære

STUDIEN MOT DUBBING V2 (ALPHA) · SAMME KLIPP
+27.8%

nærmere den ekte taleren for Familiar (0.461 mot 0.360), nærmere på alle 11 språk

MOT ELEVENLABS · STUDIEN MOT DUBBING V1 · 418 PARVISE RESULTATER
ElevenLabsElevenLabsElevenLabsTHEIR DOCS, READ OCTOBER 30, 2026

Editing the translation means their old model.

On ElevenLabs' current Dubbing v2, in alpha, editing the translation and regenerating the audio through the API is for their Enterprise plans only. Their full editor, Dubbing Studio, is "only available via the v1 model" and "in maintenance mode", in their words. Dubbing v1 is the model our 418-pair study measured, and its output is mono.

+27.8%

FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES

261%

ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE

+243.7%

FAMILIAR ON LAUGHTER AND REACTION SHAPE

ELEVENLABS DUBBING V1 · 418 PAIRED OUTPUTS · 11 LANGUAGES · AUGUST 5, 2026Read the study Their docs

Teksten på skjermen er en del av videoen

Moderne video lener seg på tekst på skjermen: bildetekster, vitser, memer, ett enkelt ord lagt på et taktslag. Hver av dem er en visuell hendelse på kildespråket. Å tilpasse den stiller to krav:

  • Skad aldri videoen. Artefakter eller visuell distraksjon gjør resultatet dårligere enn originalen.
  • Oversett den aldri bokstavelig. Du må forstå hvorfor denne teksten dukker opp akkurat nå, akkurat her, før du kan tilpasse den.

I dag oversetter Familiars multimodale beslutningsmodell for lokalisering (MLDM), den første grunnmodellen for multimodal oversettelse, et nytt paradigme og det første i sitt slag, titler, beskrivelser og undertekster sammen med dubben. Teksten i bildet er under utvikling: en mobilskjerm eller et gateskilt, skrevet med begrepene du allerede har valgt, mens modellen underveis avgjør at et merkenavn eller et navn får stå slik det ble filmet, så en pose Tostitos forblir Tostitos, og du velger hvilken tekst som skal oversettes. Regelen står fast: kan endringen merkes, er den ikke god nok.

DEN FØRSTE GRUNNMODELLEN FOR MULTIMODAL OVERSETTELSE

Leppesynk: vellykket når ingen merker den

Leppesynk har det samme harde kravet: skad aldri videoen. Det største komplimentet leppesynken i en dub kan få, er spørsmålet «hva ble endret?»

Den ser ut som den minst viktige av de fire; i den ferdige opplevelsen er den nærmest det motsatte. Mennesker lytter med øynene: den samme lyden høres som ulike lyder over ulike munnbevegelser, McGurk-effekten. En munn som ikke stemmer, er én grunn til at dubbet video føles ubehagelig på en måte seerne ikke klarer å sette ord på.
McGURK & MacDONALD, «HEARING LIPS AND SEEING VOICES», NATURE 264 (1976)

Effekten virker også i dubbens favør. Når munnen stemmer, løser hjernen tvetydigheter i retning av samsvar: uttalen oppfattes tydeligere, og klangen oppfattes mer som den samme personen.

De vanskelige delene: stemmer utenfor bildet, talere som snakker i munnen på hverandre, folk som ser eller høres like ut, og å redigere munnen uten å ødelegge ansiktet. Sett to personer i bildet, og dagens verktøy leppesynker begge munnene samtidig.

Leppene er bare begynnelsen. Et menneske fremfører en setning med hele ansiktet (øyne, bryn, kinn, hode) og med kroppen: gester, nikk, det lille halve taktslaget med lytting.

Ett problem, ikke fire

Hvert krav ble kokt ned til den samme setningen. Naturlig oversettelse: skriv det denne videoen sier, på målspråket. Naturlig lyd: behold den samme fremføringen i de nye ordene. Tekst på skjermen: vit hvorfor den er der før du rører den. Leppesynk: rediger personen uten å ødelegge den.

Den samme fremføringen, på et annet språk.

Det er det MLDM avgjør, målt på de samme klippene og publisert på /benchmark. Hver beslutning lagres sammen med jobben og kan overstyres; i dag velger de kreative lederne dine blant oversettelsesgjengivelsene.

KILDER

  1. [1]Familiar mot ElevenLabs, benchmark: alle resultater, intervaller og lytteeksempler
  2. [2]KI mot menneskelig oversettelse: testet mot profesjonelle
  3. [3]KI-leppesynk: hva det er, hva det mangler, hva som slår det
  4. [4]Hvorfor dubben skurrer i utlandet, og hva studioer gjør (studioets versjon av dette resonnementet)
  5. [5]McGurk & MacDonald, «Hearing lips and seeing voices», Nature 264 (1976)

Multimodal oversettelse

Familiar Labs lager en ny generasjon dubbing med en multimodal beslutningsmodell for lokalisering (MLDM), den første grunnmodellen for multimodal oversettelse: én modell avgjør hva som skal lokaliseres på tvers av tekst, lyd og bilde, og viser deg valgene. Stemmen og leppene dine, båret over i nye språk. De er et team på 8 med PhD-er, støttet av Samsung, RedBird og Gold House. Vår misjon