KONTROLL

Beslutningsprotokollen: slik styrer kreative ledere MLDM

FAMILIAR FORSKNINGOPPDATERT ALLE ARTIKLER

SAMMENDRAG

MLDM er den første grunnmodellen for multimodal oversettelse, et nytt paradigme, det første i sitt slag. Hver beslutning den tar, lagres sammen med dubben: du leser den, overstyrer den og tar vare på et valg til neste episode. Oversettelsesbeslutningene gjennomgås allerede i dag; lyd- og bildebeslutningene er under utvikling.
DEN FØRSTE GRUNNMODELLEN FOR MULTIMODAL OVERSETTELSE

Beslutningene du styrer i dag

  1. 01

    Oversettelsen kommer tilbake først.

  2. 02

    Der en replikk kan oppfattes på flere måter, gir gjennomgangen tilbake tre gjengivelser, hver med sin hensikt og følelse, og begrunnelsen bak hver av dem.

  3. 03

    De kreative lederne dine velger én eller skriver sin egen, og så rendres dubben.

Den samme gjennomgangen dekker lokaliseringsvalgene, med det som ikke skal oversettes, først: slangen som beholdes slik den ble sagt, navnet og merkenavnet som beholdes, en referanse byttet ut med en publikum kjenner, det den kulturen unngår, og banningen som tones ned for en yngre versjon.

Et ordspill, fra koreansk til engelsk

«사과하려고 사과 사 왔어.» bygger på at 사과 betyr både unnskyldning og eple. Tre engelske gjengivelser kommer tilbake:

  • «Apples. I'm sorry, right down to the core.» Ordspillet beholdt.
  • «I came to say sorry. I brought apples.» Bare meningen.
  • «An apple a day keeps the silent treatment away.» En ny vits.

Den kreative lederen valgte den første og redigerte den.

Et stikk, fra kinesisk til engelsk

«你可真行啊。» leses som ros eller som et stikk, alt etter scenen:

  • «Wow. You're incredible.» Oppriktig.
  • «Well, aren't you something.» Sarkastisk, den som ble valgt.
  • «Look at you, hotshot.» Ertende.

En podkast, en episode eller en film inneholder mange slike segmenter: vitsene, samtalene, historiene.

Lydbeslutningene

MLDM avgjør hva som i det hele tatt skal oversettes. Den finner hovedstemmen, bærer den over i det nye språket med talerens egen stemme og lar resten være som det var. Å vise teamet ditt alle de vanskelige avveiningene i lyden er under utvikling.

Hva som blir stående på originalspråket: et heiarop på stadion, beholdt på koreansk; et rop over et kjøkken; et slagord fansen kjenner. Taleren i bakgrunnen som ingen klarer å oppfatte, blir værende som den var, eller kommer tilbake som et valg om å oversette likevel.

Bildebeslutningene

UNDER UTVIKLING

HVEM SOM FAKTISK SIER DET
DET SOM LAGRESAnsiktet en replikk høres fra, fortelleren, stemmen utenfor bildet.
DET DU KAN GJØRENår modellen velger feil taler, velger du ansiktet blant kandidatene, og leppene beveger seg på riktig person.
TEKSTEN I BILDET
DET SOM LAGRESMobilskjermen der det står 내일 봐, et gateskilt, en butikkfasade, og det modellen underveis lot stå slik det ble filmet: merkenavnet på en pose Tostitos, et navn.
DET DU KAN GJØREHvert element skrives med begrepene du allerede har valgt, som «Vi ses i morgen», eller får stå slik det ble filmet.
ANSIKTSUTTRYKK OG GESTER
DET SOM LAGRESDe følger ettertrykket i den nye replikken eller kulturen.
DET DU KAN GJØREEt hevet øyenbryn som det nye publikummet leser annerledes, kan beholdes slik det ble filmet.

Lagret med dubben

Protokollen er det som gjør MLDM til et nytt paradigme, det første i sitt slag: en modell som viser beslutningene sine.

++
Beslutningsprotokollen, under utvikling, inneholder hver beslutning med alternativene, begrunnelsen, hva som ble valgt og av hvem: modellen, deg eller minnet.

Den er åpen under gjennomgangen og låses ved rendering. Endre en beslutning på en levert dub og render på nytt; bare språkene den berører, rendres på nytt. En dub som rendres med review=auto, skriver fortsatt protokollen, med modellens valg. Selve dubben lages i én omgang ut fra disse beslutningene: stemmen, leppene og scenen samlet. Verktøyene som dubber i én omgang i dag, fungerer motsatt: last opp én gang, og du får det som kommer ut. Veien til høy kvalitet beholder i stedet kontrollen for hånd, med et assisterende verktøy, et team av VFX-artister og uker per prosjekt. Familiar er én omgang og kvaliteten.

HeyGenHeyGenElevenLabsElevenLabsHeyGen + ElevenLabsONE-SHOT TOOLS · NO CONTROL

One shot today means giving up the rest.

The one-shot tools today give up the rest: the translation cannot be edited, the music and the room drop out, the voice drifts, and the lips fail on a hand over the face, a microphone, blur, bokeh, a side view or several people in frame. No spatial reasoning, no understanding of the world, no control. ElevenLabs' current Dubbing v2 edits only through an Enterprise API, and its full editor is the older model, in maintenance mode; HeyGen stitches a lip-sync over a dub like that, and the lip-sync breaks on the ordinary shots of any episode. Familiar is one shot and the quality: translation first, reviewed; then the voice, the lips and the scene together, through the hard shots.

54.7%

FEWER TRANSLATION ERRORS · FAMILIAR VS ELEVENLABS DUBBING V2

270%

ELEVENLABS MORE BACKGROUND-SOUND ERROR · THE LAUGHTER, THE MUSIC, THE AMBIENCE

+27.8%

FAMILIAR CLOSER TO THE REAL SPEAKER

Et valg som er tatt én gang, følger med til neste episode

  1. I DAG

    To faste beslutninger fungerer allerede i dag.

    Ikke oversett holder en frase slik den ble sagt, og Kontekst gir orienteringen på én setning; du angir begge før dubben. Protokollen inneholder beslutningene modellen tok underveis.
  2. UNDER UTVIKLING

    Beslutningsminne.

    Husk en overstyring for en skaper, ett program, én kanal eller én person, så bruker neste dub den først når den samme replikken, det samme begrepet, navnet, heiaropet, skiltet eller ansiktet dukker opp igjen. Slagordet som ble beholdt på originalspråket, følger med til episode 2 uten en ny gjennomgang.

I gjennomgangsvisningen og i API-et

Under utvikling: gjennomgangsvisningen får en egen stripe for beslutninger. En tidslinje over episoden har en markør per beslutning, filtrert på oversettelse, lyd eller bilde; hvert kort viser øyeblikket, alternativene med begrunnelsen og modellens valg uthevet. Ett trykk velger et annet alternativ, lar deg skrive ditt eget, beholder originalen eller husker valget for denne skaperen.

API-et returnerer den samme protokollen, så et valg som tas i visningen, vises i API-et, og omvendt. Den planlagte løsningen, alt under utvikling:

GET /v1/dubs/{dub_id}/decisions
HVA DET GJØRLeser protokollen.
PATCH /v1/dubs/{dub_id}/decisions/{decision_id}
HVA DET GJØROverstyrer én beslutning.
decisions.*
HVA DET GJØRInnstillingene på en ny dub bestemmer hvor mange gjengivelser som kommer tilbake, banningsnivået og hvilke avveininger som kommer tilbake til deg.
dub.decisions_ready
HVA DET GJØRWebhooken utløses når protokollen er åpen.
decisions.json
HVA DET GJØRInneholder hele protokollen med hver leverte dub.

Referansen finnes under Decisions; dagens gjennomgangssteg finnes under Transcript & review.

SPØRSMÅL

Hvilke beslutninger kan jeg endre i dag?

Oversettelsesbeslutningene. En replikk som kan oppfattes på flere måter, kommer tilbake som tre gjengivelser, hver med sin begrunnelse; de kreative lederne dine velger én eller skriver sin egen, og så rendres dubben. Lyd- og bildebeslutningene er under utvikling.

Kan jeg beholde et heiarop på originalspråket?

Det valget er under utvikling. Et heiarop på stadion, et rop eller et slagord vil komme tilbake som en lydbeslutning du kan beholde på kildespråket, og valget kan følge med til neste episode.

Hva om modellen valgte feil ansikt?

Å velge et annet ansikt er under utvikling. Replikken vil komme tilbake med kandidatansiktene; du velger riktig taler, og leppene beveger seg på den personen.

Følger et valg med til neste episode?

Beslutningsminne er under utvikling: en overstyring som huskes for en skaper, brukes først i neste dub. I dag følger Ikke oversett og Kontekst med på tvers av dubbene du angir dem for.

Lagrer review=auto fortsatt beslutningene?

Ja. I den planlagte protokollen skriver en dub som rendres uten gjennomgang, fortsatt hver beslutning med modellens valg, lesbar etter renderingen. Du kan endre én og rendre på nytt.

Er dette generativ KI?

Nei. MLDM er et nytt paradigme, det første i sitt slag. Det finnes ingen prompt, og ingenting nytt blir funnet på: den avgjør hvordan det som allerede finnes, skal lokaliseres, og viser deg de beslutningene.

KILDER

  1. [1]Hva er en multimodal beslutningsmodell for lokalisering (MLDM)?
  2. [2]API: Decisions
  3. [3]API: Transcript & review

Multimodal oversettelse

Familiar Labs lager en ny generasjon dubbing med en multimodal beslutningsmodell for lokalisering (MLDM), den første grunnmodellen for multimodal oversettelse: én modell avgjør hva som skal lokaliseres på tvers av tekst, lyd og bilde, og viser deg valgene. Stemmen og leppene dine, båret over i nye språk. De er et team på 8 med PhD-er, støttet av Samsung, RedBird og Gold House. Vår misjon