SAMMENDRAG
De fire problemene
Spør hva som gjør en dubbet video god, og du får en lang liste. Den kan kokes ned til fire:
Svikter de to første, betyr ingenting etter dem noe: en feiloversatt setning eller en stemme som hørbart er feil, velter dubben alene. De to siste avgjør om resultatet føles som originalen eller som en dub.
Naturlig oversettelse: et nytt manus, ikke en overføring
Hvert språk uttrykker ting på sin egen måte: ord, idiomer, setningsbygning, tiltaleformer, hva som i det hele tatt blir sagt. Be en modell om å «oversette», og den overfører setninger én til én fra språk A til språk B. Mennesker gjør det samme: får de rollen som oversetter, krymper oppgaven til å konvertere setninger.
En dub som er oversatt slik, er forståelig og feil.
- Japansk unngår gjerne altfor direkte formuleringer; en naturlig replikk må ofte bygges opp indirekte på nytt, ikke dempes ord for ord.
- Koreansk utelater subjektet hele tiden; fører du engelske pronomen inn i koreansk like ofte som på engelsk, leses det fremmed selv når hvert ord er riktig.
- Ordstilling, stilnivå, høflighetsformer og det en kultur lar være usagt, endrer seg fra språk til språk; en oversettelse er ikke god fordi den bokstavelige meningen overlevde.
«Godt» lar seg ikke krysse av på en sjekkliste, så vi koker målet ned til én setning: formidle innholdet i videoen godt på målspråket. Det kan måles:
av kvaliteten til menneskelige ekspertoversettere for Familiar, skåret blindt mot ekspertenes referanseredigeringer
FRANSK, KINESISK, HINDI, INDONESISK (FØRSTEUTKAST FRA PROFESJONELLE EKSPERTOVERSETTERE)færre viktige oversettelsesfeil fra Familiar på de samme klippene (29 mot 64)
MOT ELEVENLABS DUBBING V2 (ALPHA) · 111 PARVISE RESULTATER · 3 SPRÅKNaturlig lyd: den samme personen, på et nytt språk
Uttalen er nesten løst. De interessante feilene ligger forbi den:
- Identitet: den samme personen høres fortsatt ut som den samme personen, på alle språk.
- Følelse: det taleren følte, overlever språkskiftet.
- Trykk, tempo, hensikt: hvor setningen lener seg, hvor fort den går, hva den prøver å oppnå.
Målet kokes ned på samme måte som oversettelsesmålet: lyden stemmer med videoen. Ikke «lag språk B med stemmen fra språk A». Den samme fremføringen, på et nytt språk. Og scenen hører med til lyden: latteren, musikken, rommet.
mer skade på bakgrunnslyden fra ElevenLabs (11.92 mot 3.22 dB): musikk, effekter, atmosfære
STUDIEN MOT DUBBING V2 (ALPHA) · SAMME KLIPPnærmere den ekte taleren for Familiar (0.461 mot 0.360), nærmere på alle 11 språk
MOT ELEVENLABS · STUDIEN MOT DUBBING V1 · 418 PARVISE RESULTATEREditing the translation means their old model.
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES
261%
ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE
+243.7%
FAMILIAR ON LAUGHTER AND REACTION SHAPE
Teksten på skjermen er en del av videoen
Moderne video lener seg på tekst på skjermen: bildetekster, vitser, memer, ett enkelt ord lagt på et taktslag. Hver av dem er en visuell hendelse på kildespråket. Å tilpasse den stiller to krav:
- Skad aldri videoen. Artefakter eller visuell distraksjon gjør resultatet dårligere enn originalen.
- Oversett den aldri bokstavelig. Du må forstå hvorfor denne teksten dukker opp akkurat nå, akkurat her, før du kan tilpasse den.
I dag oversetter Familiars multimodale beslutningsmodell for lokalisering (MLDM), den første grunnmodellen for multimodal oversettelse, et nytt paradigme og det første i sitt slag, titler, beskrivelser og undertekster sammen med dubben. Teksten i bildet er under utvikling: en mobilskjerm eller et gateskilt, skrevet med begrepene du allerede har valgt, mens modellen underveis avgjør at et merkenavn eller et navn får stå slik det ble filmet, så en pose Tostitos forblir Tostitos, og du velger hvilken tekst som skal oversettes. Regelen står fast: kan endringen merkes, er den ikke god nok.
Leppesynk: vellykket når ingen merker den
Leppesynk har det samme harde kravet: skad aldri videoen. Det største komplimentet leppesynken i en dub kan få, er spørsmålet «hva ble endret?»
Effekten virker også i dubbens favør. Når munnen stemmer, løser hjernen tvetydigheter i retning av samsvar: uttalen oppfattes tydeligere, og klangen oppfattes mer som den samme personen.
De vanskelige delene: stemmer utenfor bildet, talere som snakker i munnen på hverandre, folk som ser eller høres like ut, og å redigere munnen uten å ødelegge ansiktet. Sett to personer i bildet, og dagens verktøy leppesynker begge munnene samtidig.
Leppene er bare begynnelsen. Et menneske fremfører en setning med hele ansiktet (øyne, bryn, kinn, hode) og med kroppen: gester, nikk, det lille halve taktslaget med lytting.
Ett problem, ikke fire
Hvert krav ble kokt ned til den samme setningen. Naturlig oversettelse: skriv det denne videoen sier, på målspråket. Naturlig lyd: behold den samme fremføringen i de nye ordene. Tekst på skjermen: vit hvorfor den er der før du rører den. Leppesynk: rediger personen uten å ødelegge den.
Den samme fremføringen, på et annet språk.
Det er det MLDM avgjør, målt på de samme klippene og publisert på /benchmark. Hver beslutning lagres sammen med jobben og kan overstyres; i dag velger de kreative lederne dine blant oversettelsesgjengivelsene.
KILDER
- [1]Familiar mot ElevenLabs, benchmark: alle resultater, intervaller og lytteeksempler
- [2]KI mot menneskelig oversettelse: testet mot profesjonelle
- [3]KI-leppesynk: hva det er, hva det mangler, hva som slår det
- [4]Hvorfor dubben skurrer i utlandet, og hva studioer gjør (studioets versjon av dette resonnementet)
- [5]McGurk & MacDonald, «Hearing lips and seeing voices», Nature 264 (1976)
Multimodal oversettelse
Familiar Labs lager en ny generasjon dubbing med en multimodal beslutningsmodell for lokalisering (MLDM), den første grunnmodellen for multimodal oversettelse: én modell avgjør hva som skal lokaliseres på tvers av tekst, lyd og bilde, og viser deg valgene. Stemmen og leppene dine, båret over i nye språk. De er et team på 8 med PhD-er, støttet av Samsung, RedBird og Gold House. Vår misjon
