ABSTRAKT
O čom MLFM rozhoduje?
MOŽNOSTI, KTORÉ VIDÍTE
Prečo jeden model?
REŤAZ NÁSTROJOV
- Prevod reči na text, potom preklad, potom hlas, potom synchronizácia pier, každá fáza ladená zvlášť.
- Táto reťaz umožnila strojový dabing.
- Každá fáza však stále háda bez ostatných, takže chyby sa z fázy na fázu sčítavajú.
JEDEN ZÁKLADNÝ MODEL, PRVÝ SVOJHO DRUHU
- MLFM robí rozhodnutia spoločne.
- Preklad pozná ústa, do ktorých sa musí zmestiť.
- Hlas pozná scénu, v ktorej znie.
- Človek sa nikdy nezmení.
Audiovizuálny preklad naraz, nie kaskádovo: prvý svojho druhu. Práve preto je MLFM prvý základný model pre multimodálny preklad: jeden model, ktorý prenesie slová, hlas, pery aj scénu do nového jazyka naraz. Cesta kvality je dnes asistenčná: tím VFX umelcov a týždne práce na projekt, pričom každý jazyk je nový projekt. Dnešné nástroje na jeden krok sú rýchle a obetujú všetko ostatné. Familiar Labs je jeden krok aj kvalita.
One shot today means giving up the rest.
54.7%
FEWER TRANSLATION ERRORS · FAMILIAR LABS VS ELEVENLABS DUBBING V2
270%
ELEVENLABS MORE BACKGROUND-SOUND ERROR · THE LAUGHTER, THE MUSIC, THE AMBIENCE
+27.8%
FAMILIAR LABS CLOSER TO THE REAL SPEAKER
Aký je rozdiel medzi lokalizáciou a prekladom?
Preklad sú slová. Lokalizácia je to, čo z nich potrebuje daná kultúra.
Je MLFM generatívna AI?
Nie. IBM ju definuje takto:
Generatívna AI, niekedy nazývaná gen AI, je umelá inteligencia (AI), ktorá dokáže na základe promptu alebo požiadavky používateľa vytvárať pôvodný obsah, napríklad text, obrázky, video, zvuk či softvérový kód.
Je to silný nástroj na tvorbu nových vecí. MLFM nemá žiadny prompt a nič nové sa nevymýšľa: rozhoduje, ako lokalizovať to, čo už existuje. Celý postoj nájdete v článkoch Prečo Familiar Labs nie je tradičná generatívna AI a Preklad nie je generovanie.
Komu patria tie rozhodnutia?
Vám. Každé rozhodnutie, ktoré MLFM urobí, sa zaznamená k dabingu, v zázname rozhodnutí.
- DNES
Vaši kreatívni riaditelia kontrolujú rozhodnutia o preklade.
Znenia s odôvodnením každého z nich; jedno vyberú skôr, než čokoľvek odíde. - DNES
Zoznam Neprekladať a kontext v jednej vete idú spolu s úlohou.
- PRIPRAVUJEME
Rozhodnutia o zvuku a obraze na tej istej kontrole.
- PRIPRAVUJEME
Pamäť rozhodnutí.
Zmena zapamätaná pre tvorcu sa pri ďalšom dabingu uplatní ako prvá, takže čo raz zvolíte, prejde aj do ďalšej epizódy.
Celý príbeh je v článku Záznam rozhodnutí: ako kreatívni riaditelia vedú MLFM; plánované API v dokumentácii k rozhodnutiam.
OTÁZKY
Čo znamená skratka MLFM?
MLFM znamená Multimodal Localization Foundation Model, po slovensky multimodálny základný model pre lokalizáciu, nová paradigma, prvý model svojho druhu: jeden model, ktorý rozhoduje, čo lokalizovať a ako, v texte, zvuku aj obraze. Vyberá znenie repliky, čo preložiť vo zvuku, kto na obrazovke hovorí a ako pery, mimika a gestá nasledujú.
Je MLFM videomodel?
Nie v bežnom zmysle. MLFM pracuje so zábermi, ktoré už existujú, a rozhoduje, ako ich lokalizovať: slová, hlas, pery a mimiku. Človek na obrazovke zostáva presne taký, aký je, v každom jazyku.
Vytvára MLFM nové zábery?
Nie. Nie je tu žiadny prompt a nič nové sa nevymýšľa. MLFM rozhoduje, ako lokalizovať to, čo už existuje: herec, načasovanie aj scéna zostávajú, zatiaľ čo slová, hlasová stopa a pery sa prispôsobia novému jazyku.
O čom MLFM rozhoduje vo zvuku?
Čo vôbec prekladať. Nájde hlavný hlas a prenesie ho do nového jazyka vlastným hlasom hovoriaceho. Smiech, dav, výkrik aj rečník v pozadí, ktorému nikto nerozumie, zostanú tak, ako boli.
Mení MLFM mimiku?
Keď si to vyžaduje dôraz alebo kultúra. Pery nasledujú nové slová v každej replike; mimika a gestá nasledujú vtedy, keď replika v novom jazyku vyznie inak. Človek zostáva presne taký, aký je.
Prekladá MLFM text na obrazovke?
Zatiaľ nie. Na texte v zábere, napríklad na displeji telefónu, obálke knihy, pouličnej tabuli či výklade obchodu, práve pracujeme; bude napísaný v pojmoch, ktoré ste si už zvolili, a model priebežne rozhodne, čo zostane tak, ako bolo natočené, značka, meno, slang: balíček Tostitos zostane Tostitos. Dnes sa lokalizujú slová, hlas, pery, mimika a gestá.
Môžem zmeniť rozhodnutie, ktoré model urobil?
Áno. Každé rozhodnutie sa zaznamená k úlohe a môžete ho zmeniť. Vaši kreatívni riaditelia dnes vyberajú spomedzi znení prekladu, každé s odôvodnením, a čo raz zvolíte, prejde aj do ďalšej epizódy.
Ukazuje model svoje rozhodnutia aj vo zvuku a obraze?
Možnosti prekladu vidíte už dnes. Na možnostiach vo zvuku, napríklad čo zostane v pôvodnom jazyku, a v obraze, napríklad výber inej tváre či textu v zábere na preklad, pracujeme.
ZDROJE
MULTIMODÁLNY PREKLAD
Familiar Labs prináša o generáciu lepší dabing vďaka multimodálnemu základnému modelu pre lokalizáciu (MLFM), prvému základnému modelu pre multimodálny preklad: jeden model rozhoduje, čo lokalizovať v texte, zvuku aj obraze, a ukáže vám možnosti. Váš hlas a vaše pery, prenesené do nových jazykov. Tím 7 ľudí s PhD, s podporou Samsungu, RedBird a Gold House. Naša misia
