ABSTRAKT
O čom MLDM rozhoduje?
MOŽNOSTI, KTORÉ VIDÍTE
Prečo jeden model?
REŤAZ NÁSTROJOV
- Prevod reči na text, potom preklad, potom hlas, potom synchronizácia pier, každá fáza ladená zvlášť.
- Táto reťaz umožnila strojový dabing.
- Každá fáza však stále háda bez ostatných, takže chyby sa z fázy na fázu sčítavajú.
JEDEN ZÁKLADNÝ MODEL, PRVÝ SVOJHO DRUHU
- MLDM robí rozhodnutia spoločne.
- Preklad pozná ústa, do ktorých sa musí zmestiť.
- Hlas pozná scénu, v ktorej znie.
- Človek sa nikdy nezmení.
Audiovizuálny preklad naraz, nie kaskádovo: prvý svojho druhu. Práve preto je MLDM prvý základný model pre multimodálny preklad: jeden model, ktorý prenesie slová, hlas, pery aj scénu do nového jazyka naraz. Cesta kvality je dnes asistenčná: tím VFX umelcov a týždne práce na projekt, pričom každý jazyk je nový projekt. Dnešné nástroje na jeden krok sú rýchle a obetujú všetko ostatné. Familiar je jeden krok aj kvalita.
One shot today means giving up the rest.
54.7%
FEWER TRANSLATION ERRORS · FAMILIAR VS ELEVENLABS DUBBING V2
270%
ELEVENLABS MORE BACKGROUND-SOUND ERROR · THE LAUGHTER, THE MUSIC, THE AMBIENCE
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER
Aký je rozdiel medzi lokalizáciou a prekladom?
Preklad sú slová. Lokalizácia je to, čo z nich potrebuje daná kultúra.
Je MLDM generatívna AI?
Nie. IBM ju definuje takto:
Generatívna AI, niekedy nazývaná gen AI, je umelá inteligencia (AI), ktorá dokáže na základe promptu alebo požiadavky používateľa vytvárať pôvodný obsah, napríklad text, obrázky, video, zvuk či softvérový kód.
Je to silný nástroj na tvorbu nových vecí. MLDM nemá žiadny prompt a nič nové sa nevymýšľa: rozhoduje, ako lokalizovať to, čo už existuje. Celý postoj nájdete v článkoch Prečo Familiar nie je tradičná generatívna AI a Preklad nie je generovanie.
Komu patria tie rozhodnutia?
Vám. Každé rozhodnutie, ktoré MLDM urobí, sa zaznamená k dabingu, v zázname rozhodnutí.
- DNES
Vaši kreatívni riaditelia kontrolujú rozhodnutia o preklade.
Znenia s odôvodnením každého z nich; jedno vyberú skôr, než čokoľvek odíde. - DNES
Zoznam Neprekladať a kontext v jednej vete idú spolu s úlohou.
- PRIPRAVUJEME
Rozhodnutia o zvuku a obraze na tej istej kontrole.
- PRIPRAVUJEME
Pamäť rozhodnutí.
Zmena zapamätaná pre tvorcu sa pri ďalšom dabingu uplatní ako prvá, takže čo raz zvolíte, prejde aj do ďalšej epizódy.
Celý príbeh je v článku Záznam rozhodnutí: ako kreatívni riaditelia vedú MLDM; plánované API v dokumentácii k rozhodnutiam.
OTÁZKY
Čo znamená skratka MLDM?
MLDM znamená Multimodal Localization Decision Model, po slovensky multimodálny rozhodovací model pre lokalizáciu, nová paradigma, prvý model svojho druhu: jeden model, ktorý rozhoduje, čo lokalizovať a ako, v texte, zvuku aj obraze. Vyberá znenie repliky, čo preložiť vo zvuku, kto na obrazovke hovorí a ako pery, mimika a gestá nasledujú.
Je MLDM videomodel?
Nie v bežnom zmysle. MLDM pracuje so zábermi, ktoré už existujú, a rozhoduje, ako ich lokalizovať: slová, hlas, pery a mimiku. Človek na obrazovke zostáva presne taký, aký je, v každom jazyku.
Vytvára MLDM nové zábery?
Nie. Nie je tu žiadny prompt a nič nové sa nevymýšľa. MLDM rozhoduje, ako lokalizovať to, čo už existuje: herec, načasovanie aj scéna zostávajú, zatiaľ čo slová, hlasová stopa a pery sa prispôsobia novému jazyku.
O čom MLDM rozhoduje vo zvuku?
Čo vôbec prekladať. Nájde hlavný hlas a prenesie ho do nového jazyka vlastným hlasom hovoriaceho. Smiech, dav, výkrik aj rečník v pozadí, ktorému nikto nerozumie, zostanú tak, ako boli.
Mení MLDM mimiku?
Keď si to vyžaduje dôraz alebo kultúra. Pery nasledujú nové slová v každej replike; mimika a gestá nasledujú vtedy, keď replika v novom jazyku vyznie inak. Človek zostáva presne taký, aký je.
Prekladá MLDM text na obrazovke?
Zatiaľ nie. Na texte v zábere, napríklad na displeji telefónu, obálke knihy, pouličnej tabuli či výklade obchodu, práve pracujeme; bude napísaný v pojmoch, ktoré ste si už zvolili, a model priebežne rozhodne, čo zostane tak, ako bolo natočené, značka, meno, slang: balíček Tostitos zostane Tostitos. Dnes sa lokalizujú slová, hlas, pery, mimika a gestá.
Môžem zmeniť rozhodnutie, ktoré model urobil?
Áno. Každé rozhodnutie sa zaznamená k úlohe a môžete ho zmeniť. Vaši kreatívni riaditelia dnes vyberajú spomedzi znení prekladu, každé s odôvodnením, a čo raz zvolíte, prejde aj do ďalšej epizódy.
Ukazuje model svoje rozhodnutia aj vo zvuku a obraze?
Možnosti prekladu vidíte už dnes. Na možnostiach vo zvuku, napríklad čo zostane v pôvodnom jazyku, a v obraze, napríklad výber inej tváre či textu v zábere na preklad, pracujeme.
ZDROJE
MULTIMODÁLNY PREKLAD
Familiar Labs prináša o generáciu lepší dabing vďaka multimodálnemu rozhodovaciemu modelu pre lokalizáciu (MLDM), prvému základnému modelu pre multimodálny preklad: jeden model rozhoduje, čo lokalizovať v texte, zvuku aj obraze, a ukáže vám možnosti. Váš hlas a vaše pery, prenesené do nových jazykov. Tím 8 ľudí s PhD, s podporou Samsungu, RedBird a Gold House. Naša misia
