KONTROLA

Záznam rozhodnutí: ako kreatívni riaditelia vedú MLDM

FAMILIAR VÝSKUMAKTUALIZOVANÉ VŠETKY ČLÁNKY

ABSTRAKT

MLDM je prvý základný model pre multimodálny preklad, nová paradigma, prvý model svojho druhu. Každé rozhodnutie, ktoré urobí, sa zaznamená k dabingu: prečítate si ho, zmeníte ho a voľbu si ponecháte pre ďalšiu epizódu. Rozhodnutia o preklade sa kontrolujú už dnes; na rozhodnutiach o zvuku a obraze pracujeme.
PRVÝ ZÁKLADNÝ MODEL PRE MULTIMODÁLNY PREKLAD

Rozhodnutia, ktoré vediete už dnes

  1. 01

    Ako prvý sa vráti preklad.

  2. 02

    Kde sa dá replika vyznieť viacerými spôsobmi, krok kontroly vráti tri znenia, každé pre iný zámer a emóciu, s odôvodnením každého z nich.

  3. 03

    Vaši kreatívni riaditelia jedno vyberú alebo napíšu vlastné a potom sa renderuje.

Tá istá kontrola pokrýva aj lokalizačné rozhodnutia, na prvom mieste čo neprekladať: slang ponechaný tak, ako zaznel, ponechané meno aj značku, narážku nahradenú takou, ktorú publikum pozná, to, čomu sa daná kultúra vyhýba, a vulgarizmy stlmené pre mladšiu verziu.

Slovná hračka, z kórejčiny do angličtiny

„사과하려고 사과 사 왔어.“ stojí na tom, že 사과 znamená ospravedlnenie aj jablko. Vrátia sa tri znenia:

  • „Apples. I'm sorry, right down to the core.“ Slovná hračka zachovaná.
  • „I came to say sorry. I brought apples.“ Iba význam.
  • „An apple a day keeps the silent treatment away.“ Nový vtip.

Kreatívny riaditeľ vybral prvé a upravil ho.

Rýpnutie, z čínštiny do angličtiny

„你可真行啊。“ znie podľa scény ako pochvala alebo ako rýpnutie:

  • „Wow. You're incredible.“ Úprimne.
  • „Well, aren't you something.“ Sarkasticky, a to bola voľba.
  • „Look at you, hotshot.“ Doberavo.

Podcast, epizóda či film obsahuje veľa takých úsekov: vtipy, rozhovory, príbehy.

Rozhodnutia o zvuku

MLDM rozhoduje, čo vôbec prekladať. Nájde hlavný hlas, prenesie ho do nového jazyka vlastným hlasom hovoriaceho a zvyšok nechá tak, ako bol. Na tom, aby váš tím videl každé tesné rozhodnutie vo zvuku, pracujeme.

Čo zostane v pôvodnom jazyku: skandovanie na štadióne ponechané v kórejčine; výkrik cez celú kuchyňu; hláška, ktorú fanúšikovia poznajú. Rečník v pozadí, ktorému nikto nerozumie, zostane tak, ako bol, alebo sa vráti ako voľba, či ho predsa len preložiť.

Rozhodnutia o obraze

PRIPRAVUJEME

KTO TO NAOZAJ HOVORÍ
ČO SA ZAZNAMENÁTvár, z ktorej replika zaznie, rozprávač, hlas mimo záberu.
ČO MÔŽETE UROBIŤKeď model určí nesprávneho hovoriaceho, vyberiete tvár spomedzi kandidátov a pery sa pohnú správnemu človeku.
TEXT V ZÁBERE
ČO SA ZAZNAMENÁDisplej telefónu s nápisom 내일 봐, pouličná tabuľa, výklad obchodu a to, čo model priebežne ponechal tak, ako bolo natočené: značka na balíčku Tostitos, meno.
ČO MÔŽETE UROBIŤKaždá položka sa napíše v pojmoch, ktoré ste si už zvolili, ako „See you tomorrow“, alebo zostane tak, ako bola natočená.
MIMIKA A GESTÁ
ČO SA ZAZNAMENÁNasledujú dôraz novej repliky alebo kultúru.
ČO MÔŽETE UROBIŤZdvihnuté obočie, ktoré nové publikum číta inak, môže zostať tak, ako bolo natočené.

Zaznamenané k dabingu

Práve záznam robí z MLDM novú paradigmu, prvú svojho druhu: model, ktorý ukazuje svoje rozhodnutia.

++
Záznam rozhodnutí, ktorý pripravujeme, uchováva každé rozhodnutie s jeho možnosťami, odôvodnením, tým, čo bolo zvolené, a kým: modelom, vami alebo pamäťou.

Počas kontroly je otvorený a pri renderovaní sa uzamkne. Zmeňte rozhodnutie pri dodanom dabingu a renderujte znova; znova sa renderujú len jazyky, ktorých sa týka. Dabing renderovaný s review=auto záznam aj tak zapíše, s voľbami modelu. Samotný dabing vznikne z týchto rozhodnutí v jednom kroku: hlas, pery aj scéna naraz. Dnešné nástroje na jeden krok fungujú opačne: raz nahráte a vezmete, čo vyjde. Cesta kvality si kontrolu udrží radšej ručne, s asistenčným nástrojom, tímom VFX umelcov a týždňami práce na projekt. Familiar je jeden krok aj kvalita.

HeyGenHeyGenElevenLabsElevenLabsHeyGen + ElevenLabsONE-SHOT TOOLS · NO CONTROL

One shot today means giving up the rest.

The one-shot tools today give up the rest: the translation cannot be edited, the music and the room drop out, the voice drifts, and the lips fail on a hand over the face, a microphone, blur, bokeh, a side view or several people in frame. No spatial reasoning, no understanding of the world, no control. ElevenLabs' current Dubbing v2 edits only through an Enterprise API, and its full editor is the older model, in maintenance mode; HeyGen stitches a lip-sync over a dub like that, and the lip-sync breaks on the ordinary shots of any episode. Familiar is one shot and the quality: translation first, reviewed; then the voice, the lips and the scene together, through the hard shots.

54.7%

FEWER TRANSLATION ERRORS · FAMILIAR VS ELEVENLABS DUBBING V2

270%

ELEVENLABS MORE BACKGROUND-SOUND ERROR · THE LAUGHTER, THE MUSIC, THE AMBIENCE

+27.8%

FAMILIAR CLOSER TO THE REAL SPEAKER

Čo raz zvolíte, prejde aj do ďalšej epizódy

  1. DNES

    Už dnes fungujú dve trvalé rozhodnutia.

    Neprekladať ponechá frázu tak, ako zaznela, a Kontext dodá zadanie v jednej vete; obe nastavíte pred dabingom. Záznam uchováva rozhodnutia, ktoré model počas neho urobil.
  2. PRIPRAVUJEME

    Pamäť rozhodnutí.

    Zapamätajte si zmenu pre tvorcu, jeden seriál, kanál či osobu, a ďalší dabing ju uplatní ako prvú, keď sa vráti tá istá replika, pojem, meno, skandovanie, nápis alebo tvár. Hláška ponechaná v origináli prejde do 2. epizódy bez druhej kontroly.

Na obrazovke kontroly a v API

Pripravujeme: obrazovka kontroly dostane panel rozhodnutí. Časová os epizódy nesie značku pre každé rozhodnutie, filtrovateľnú podľa prekladu, zvuku alebo obrazu; každá karta ukazuje okamih, možnosti s odôvodnením a zvýraznenú voľbu modelu. Jedným ťuknutím vyberiete inú možnosť, napíšete vlastnú, ponecháte originál alebo si voľbu zapamätáte pre tohto tvorcu.

API vracia ten istý záznam, takže voľba urobená na obrazovke sa ukáže v API a naopak. Plánované rozhranie, všetko vo vývoji:

GET /v1/dubs/{dub_id}/decisions
ČO ROBÍNačíta záznam.
PATCH /v1/dubs/{dub_id}/decisions/{decision_id}
ČO ROBÍZmení jedno rozhodnutie.
decisions.*
ČO ROBÍNastavenia nového dabingu určujú, koľko znení sa vráti, mieru vulgarizmov a ktoré rozhodnutia sa vrátia k vám.
dub.decisions_ready
ČO ROBÍWebhook sa spustí, keď je záznam otvorený.
decisions.json
ČO ROBÍNesie celý záznam s každým dodaným dabingom.

Referencia je v časti Rozhodnutia; dnešný krok kontroly v časti Prepis a kontrola.

OTÁZKY

Ktoré rozhodnutia môžem zmeniť už dnes?

Rozhodnutia o preklade. Replika, ktorá môže vyznieť viacerými spôsobmi, sa vráti v troch zneniach, každé s odôvodnením; vaši kreatívni riaditelia jedno vyberú alebo napíšu vlastné a potom sa renderuje. Na rozhodnutiach o zvuku a obraze pracujeme.

Môžem ponechať skandovanie v pôvodnom jazyku?

Na tejto voľbe pracujeme. Skandovanie na štadióne, výkrik či hláška sa vrátia ako rozhodnutie o zvuku, ktoré môžete ponechať vo zdrojovom jazyku, a voľba môže prejsť aj do ďalšej epizódy.

Čo ak model vybral nesprávnu tvár?

Na výbere inej tváre pracujeme. Replika sa vráti s kandidátskymi tvárami; vyberiete správneho hovoriaceho a pery sa pohnú tomu človeku.

Prejde voľba aj do ďalšej epizódy?

Na pamäti rozhodnutí pracujeme: zmena zapamätaná pre tvorcu sa pri ďalšom dabingu uplatní ako prvá. Dnes Neprekladať a Kontext platia pre všetky dabingy, pre ktoré ich nastavíte.

Zaznamenáva review=auto rozhodnutia aj tak?

Áno. V plánovanom zázname dabing renderovaný bez kontroly aj tak zapíše každé rozhodnutie s voľbou modelu, čitateľné po renderovaní. Jedno môžete zmeniť a renderovať znova.

Je to generatívna AI?

Nie. MLDM je nová paradigma, prvý model svojho druhu. Nie je tu žiadny prompt a nič nové sa nevymýšľa: rozhoduje, ako lokalizovať to, čo už existuje, a tieto rozhodnutia vám ukáže.

ZDROJE

  1. [1]Čo je multimodálny rozhodovací model pre lokalizáciu (MLDM)?
  2. [2]API: Rozhodnutia
  3. [3]API: Prepis a kontrola

MULTIMODÁLNY PREKLAD

Familiar Labs prináša o generáciu lepší dabing vďaka multimodálnemu rozhodovaciemu modelu pre lokalizáciu (MLDM), prvému základnému modelu pre multimodálny preklad: jeden model rozhoduje, čo lokalizovať v texte, zvuku aj obraze, a ukáže vám možnosti. Váš hlas a vaše pery, prenesené do nových jazykov. Tím 8 ľudí s PhD, s podporou Samsungu, RedBird a Gold House. Naša misia