FORSKNINGSNOTIS

Vad som spelar roll i videoöversättning

FAMILIAR FORSKNINGUPPDATERAD ALLA ARTIKLAR

SAMMANFATTNING

Fyra saker avgör om en dubbning håller: översättningen läses som om den skrivits på målspråket, ljudet låter fortfarande som talaren, texten i bild följer med, och läpparna stämmer. De två första avgör allt annat. Alla fyra visar sig vara samma problem: samma framförande, på ett annat språk.

De fyra problemen

Fråga vad som gör en dubbad video bra och du får en lång lista. Den kokar ned till fyra punkter:

NATURLIG ÖVERSÄTTNING
VAD BRA BETYDEREtt nytt manus på målspråket som förmedlar videon väl; inte en överföring mening för mening.
NATURLIGT LJUD
VAD BRA BETYDERSamma person, samma känsla, samma betoning, på det nya språket.
TEXT I BILD
VAD BRA BETYDERAnpassad till språket och till ögonblicket den dyker upp i, utan att skada videon.
LÄPPSYNK
VAD BRA BETYDEROsynlig. Tittaren märker aldrig att den har gjorts.

Om de två första fallerar spelar inget efter dem någon roll: en felöversatt mening eller en röst som hörbart är fel sänker dubbningen på egen hand. De två sista avgör om resultatet känns som originalet eller som en dubbning.

Naturlig översättning: ett nytt manus, inte en överföring

Varje språk uttrycker saker på sitt eget sätt: ord, idiom, meningsbyggnad, tilltal, vad som över huvud taget sägs. Be en modell att ”översätta” så för den över meningar en till en från språk A till språk B. Människor gör likadant: i rollen som översättare krymper uppgiften till att omvandla meningar.

En dubbning som översatts så är begriplig och fel.

Det tittaren behöver är ett nytt manus, skrivet på målspråket, som förmedlar videons innehåll väl.
  • Japanska undviker gärna alltför direkta formuleringar; en naturlig replik måste ofta byggas om indirekt, inte mildras ord för ord.
  • Koreanska utelämnar ständigt subjektet; att föra över engelska pronomen till koreanska lika ofta som på engelska låter främmande även när varje ord är rätt.
  • Ordföljd, stilnivå, artighetsformer och det en kultur lämnar osagt skiftar med varje språk; en översättning är inte bra bara för att den bokstavliga betydelsen överlevde.

”Väl” låter sig inte fångas i en checklista, så vi kokar ned målet till en mening: förmedla videons innehåll väl på målspråket. Det går att mäta:

100.3%

av kvaliteten i mänsklig expertöversättning, från Familiar, blindbedömt mot expertgranskade referensversioner

FRANSKA, KINESISKA, HINDI, INDONESISKA (PROFESSIONELLA EXPERTÖVERSÄTTARES FÖRSTA UTKAST)
54.7%

färre viktiga översättningsfel från Familiar på samma klipp (29 mot 64)

MOT ELEVENLABS DUBBING V2 (ALPHA) · 111 PARADE DUBBNINGAR · 3 SPRÅK

Naturligt ljud: samma person, på ett nytt språk

Uttalet är nästan löst. De intressanta misslyckandena ligger bortom det:

  • Identitet: samma person fortsätter att låta som samma person, på varje språk.
  • Känsla: det talaren kände överlever språkbytet.
  • Betoning, tempo, avsikt: var meningen lutar, hur fort den går, vad den försöker åstadkomma.

Målet kokar ned på samma sätt som översättningsmålet: ljudet stämmer med videon. Inte ”generera språk B med rösten från språk A”. Samma framförande, på ett nytt språk. Och scenen är en del av ljudet: skratten, musiken, rummet.

270%

mer skada på bakgrundsljudet från ElevenLabs (11.92 mot 3.22 dB): musik, ljudeffekter, atmosfär

STUDIEN AV DUBBING V2 (ALPHA) · SAMMA KLIPP
+27.8%

större likhet med talaren från Familiar (0.461 mot 0.360), närmare i alla 11 språk

MOT ELEVENLABS · STUDIEN AV DUBBING V1 · 418 PARADE DUBBNINGAR
ElevenLabsElevenLabsElevenLabsTHEIR DOCS, READ OCTOBER 30, 2026

Editing the translation means their old model.

On ElevenLabs' current Dubbing v2, in alpha, editing the translation and regenerating the audio through the API is for their Enterprise plans only. Their full editor, Dubbing Studio, is "only available via the v1 model" and "in maintenance mode", in their words. Dubbing v1 is the model our 418-pair study measured, and its output is mono.

+27.8%

FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES

261%

ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE

+243.7%

FAMILIAR ON LAUGHTER AND REACTION SHAPE

ELEVENLABS DUBBING V1 · 418 PAIRED OUTPUTS · 11 LANGUAGES · AUGUST 5, 2026Read the study Their docs

Text i bild är en del av videon

Dagens video lutar sig mot text i bild: textremsor, skämt, memes, ett enda ord tajmat till ett taktslag. Var och en är en visuell händelse på källspråket. Att anpassa den ställer två krav:

  • Skada aldrig videon. Artefakter eller visuella störningar gör resultatet sämre än originalet.
  • Översätt den aldrig ordagrant. Du måste förstå varför den här texten dyker upp i just det här ögonblicket, på just den här platsen, innan du kan anpassa den.

I dag översätter Familiars multimodala beslutsmodell för lokalisering (MLDM), den första grundmodellen för multimodal översättning, ett nytt paradigm och det första i sitt slag, titlar, beskrivningar och undertexter tillsammans med dubbningen. Text inne i bilden är under utveckling: en mobilskärm eller en gatuskylt, skriven med de termer du redan har valt, ett varumärke eller ett namn som i stunden får stå kvar som det filmades, så att en påse Tostitos förblir Tostitos, och du väljer vilken text som ska översättas. Regeln gäller: om ändringen märks är den inte tillräckligt bra.

DEN FÖRSTA GRUNDMODELLEN FÖR MULTIMODAL ÖVERSÄTTNING

Läppsynk: lyckas genom att inte märkas

Läppsynk har samma hårda krav: skada aldrig videon. Den högsta komplimang en dubbnings läppsynk kan få är frågan ”vad var det som ändrades?”

Den ser ut som den minst viktiga av de fyra; i den färdiga upplevelsen är det nästan tvärtom. Människor lyssnar med ögonen: samma ljud uppfattas som olika ljud över olika munrörelser, McGurk-effekten. En mun som inte stämmer är ett skäl till att dubbad video känns obekväm på ett sätt som tittarna inte kan sätta ord på.
McGURK & MacDONALD, ”HEARING LIPS AND SEEING VOICES”, NATURE 264 (1976)

Effekten verkar också till dubbningens fördel. När munnen väl stämmer löser hjärnan tvetydigheter i riktning mot samstämmighet: uttalet uppfattas som tydligare, och klangfärgen låter mer som samma person.

De svåra delarna: röster utanför bild, talare som pratar i munnen på varandra, personer som ser eller låter lika, och att redigera munnen utan att förstöra ansiktet. Sätt två personer i bild så läppsynkar dagens verktyg båda munnarna samtidigt.

Läpparna är bara början. En människa framför en mening med hela ansiktet, ögonen, ögonbrynen, kinderna, huvudet, och med kroppen: gester, nickar, det halva taktslaget när man lyssnar.

Ett problem, inte fyra

Varje krav kokade hela tiden ned till samma mening. Naturlig översättning: skriv det den här videon säger, på målspråket. Naturligt ljud: behåll samma framförande med de nya orden. Text i bild: vet varför den finns där innan du rör den. Läppsynk: redigera människan utan att förstöra henne.

Samma framförande, på ett annat språk.

Det är vad MLDM avgör, uppmätt på samma klipp och publicerat på /benchmark. Varje beslut sparas med dubbningsjobbet och kan köras över; i dag väljer dina creative directors bland översättningens återgivningar.

KÄLLOR

  1. [1]Familiar mot ElevenLabs, benchmark: alla resultat, intervall och lyssningsexempel
  2. [2]AI mot mänsklig översättning: testad mot professionella
  3. [3]AI-läppsynk: vad det är, vad det missar, vad som slår det
  4. [4]Varför dubbningen känns fel utomlands, och hur studior löser det (studions version av det här resonemanget)
  5. [5]McGurk & MacDonald, ”Hearing lips and seeing voices”, Nature 264 (1976)

Multimodal översättning

Familiar Labs gör en generation bättre dubbning med en multimodal beslutsmodell för lokalisering (MLDM), den första grundmodellen för multimodal översättning: en enda modell avgör vad som ska lokaliseras i text, ljud och bild, och visar dig valen. Din röst och dina läppar, vidare till nya språk. Ett team på 8 med doktorsexamina och Samsung, RedBird och Gold House i ryggen. Vår mission