ABSTRAKT
Čo bola éra kaskád v strojovom dabingu?
Strojový dabing začínal ako kaskáda: štyri nástroje za sebou, každý postavený a ladený samostatne, každý odovzdával svoj výsledok ďalšiemu.
- 01
Prepis.
Prevod reči na text zapíše, čo zaznelo. - 02
Preklad.
Textový model prevedie prepis do nového jazyka bez toho, aby počul hlas alebo videl tvár. - 03
Hlas.
Prevod textu na reč prečíta preklad nahlas, často cudzím hlasom. - 04
Synchronizácia pier.
Samostatný nástroj pohne ústami podľa nového zvuku, až keď je každé slovo hotové.
Táto reťaz umožnila strojový dabing. Jej hranica je v samotnom tvare: každá fáza háda bez ostatných. Preklad nemôže vedieť, že replika sa musí zmestiť do zavretých úst. Hlas nemôže poznať miestnosť, v ktorej znie. Zle počuté slovo alebo príliš dlhá replika sa posúvajú ďalej a chyba sa v každej ďalšej fáze sčítava.
Každý nástroj sa za tie roky zlepšil: čistejší prepis, presnejší preklad, prirodzenejší hlas. Hotový dabing sa zlepšoval pomalšie, pretože švy medzi nástrojmi zostali tam, kde boli.
S čím sa kupujúci stretne dnes?
V praxi prichádza kaskáda ako balík nástrojov: prepis z jedného, preklad z druhého, hlas z tretieho, synchronizácia pier a titulky zo štvrtého. Oprava jednej repliky znamená znova spustiť každú fázu po nej a niekto vo vašom tíme drží súbory pokope. Nástroje, ktoré balík obchádzajú, vymieňajú kvalitu za čas. Asistenčné nástroje dosiahnu kvalitu s tímom VFX umelcov na ťažkých záberoch: týždne práce na projekt a každý jazyk je nový projekt. Nástroje na jeden krok sú rýchle a obetujú všetko ostatné: hlas sa odchyľuje, priestor zmizne a pery zlyhajú pri ruke pred tvárou, mikrofóne, rozmazaní, bokehu, pohľade z boku či viacerých ľuďoch v zábere, bez priestorového uvažovania a bez porozumenia svetu. Familiar je jeden krok aj kvalita.
Druhou cestou je kompletný ľudský dabing, preklad aj hlas, za 70 až 150 $ za hotovú minútu. Náklady, ľudská sila a čas ho robia pre väčšinu sveta nedosiahnuteľným: aj veľké produkcie dabujú len do niekoľkých jazykov a menšie produkcie, seriály a vertikálne drámy väčšinou nedabujú vôbec.
One shot today means giving up the rest.
54.7%
FEWER TRANSLATION ERRORS · FAMILIAR VS ELEVENLABS DUBBING V2
270%
ELEVENLABS MORE BACKGROUND-SOUND ERROR · THE LAUGHTER, THE MUSIC, THE AMBIENCE
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER
Ak zvažujete ElevenLabs Dubbing, tu je ich dokumentácia, citovaná, vedľa našej štúdie:
Editing the translation means their old model.
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES
261%
ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE
+243.7%
FAMILIAR ON LAUGHTER AND REACTION SHAPE
Čo sa zmení, keď o všetkom rozhoduje jeden model?
Familiar dabuje s multimodálnym rozhodovacím modelom pre lokalizáciu (MLDM). MLDM rozhoduje, čo lokalizovať a ako, v texte, zvuku aj obraze, a rozhodnutia k sebe sedia, pretože ich robí jeden model. Definícia je v článku Prvý základný model pre multimodálny preklad.
KASKÁDOVO
- Štyri nástroje, každý ladený zvlášť.
- Preklad je hotový skôr, než niekto začuje hlas.
- Každá fáza háda bez ostatných, takže chyby sa sčítavajú.
- Cudzí hlas môže skončiť na tvári, ktorá k nemu nesedí.
NARAZ, PRVÉ SVOJHO DRUHU
- Jeden model robí všetky rozhodnutia spoločne.
- Preklad pozná ústa, do ktorých sa musí zmestiť.
- Hlas pozná scénu, v ktorej znie.
- Človek sa nikdy nezmení.
Späť dostanete vlastný výkon herca v inom jazyku: jeho hlas, pery, mimiku aj zvuk scény, prenesené spoločne. Jedno nahratie vyjde vo všetkých jazykoch naraz: dabing do 30 jazykov zo záberov v ktoromkoľvek z 99 zdrojových jazykov.
Spoločné rozhodovanie mení aj to, čo sa môže pokaziť. Replika, ktorá by bola príliš dlhá, sa preloží tak, aby sedela do času aj do úst, ešte predtým, než vznikne akýkoľvek hlas. Smiech uprostred vety zostane smiechom. Keď si dvaja ľudia skáču do reči, model vie, kto hovorí ktorú repliku, takže sa pohnú správne pery.
Čo to zmení v hotovom dabingu?
Rovnaké klipy pošleme oboma systémami a hodnotíme ich rovnako. Každý údaj pochádza z vlastnej štúdie, zverejnenej v benchmarku.
kvality expertného ľudského prekladu dosiahol Familiar: zhoda
FRANCÚZŠTINA, ČÍNŠTINA, HINDČINA, INDONÉZŠTINA (PRVÁ VERZIA OD EXPERTNÝCH PROFESIONÁLNYCH PREKLADATEĽOV)menej dôležitých chýb v preklade urobil Familiar (29 vs 64)
VS ELEVENLABS DUBBING V2 (ALPHA) · 3 JAZYKYviac chýb vo zvuku v pozadí pri ElevenLabs (11.92 vs 3.22 dB)
VS ICH NAJNOVŠÍ DUBBING V2 (ALPHA) · 111 PÁROVÝCH DABINGOV · HUDBA, EFEKTY A ATMOSFÉRA PRIESTORUMeria sa aj hlas: Familiar znie o 27.8% viac ako skutočný hovoriaci než ElevenLabs Dubbing v1, bližšie vo všetkých 11 jazykoch, v štúdii citovanej vyššie.
Automatický dabing YouTube mal vo vlastnej štúdii o 232.6% viac chýb vo zvuku v pozadí. Scéna prežije, pretože MLDM počuje všetko, čo je v stope, smiech, dav, hudbu, nájde hlavný hlas, prenesie ho do nového jazyka vlastným hlasom hovoriaceho a zvyšok nechá tak, ako bol.
Čo znamená „najprv preklad, potom dabing v jednom kroku“?
Na poradí záleží. Preklad prichádza prvý a vaši kreatívni riaditelia ho skontrolujú: kde sa dá replika vyznieť viacerými spôsobmi, vidia znenia s odôvodnením každého z nich a jedno vyberú. Až potom vznikne dabing, raz. Nič nové sa nevymýšľa. Nie „generatívna AI“, ale preklad v službách tvorcov. MLDM na mravčiu prácu.
OBRAZ
Až 4K
ZVUK
Skutočné 5.1 alebo stereo
24-BITOVÝ PCM WAV · PODĽA VAŠEJ VOĽBY
TITULKY
.srt a .vtt
KONVENCIE NETFLIX TIMED TEXT
SPRACOVANIE
Toronto, Kanada
NÁŠ VLASTNÝ KLASTER NVIDIA B300
Titulky sa strihajú podľa konvencií Timed Text Style Guide od Netflixu, šablónového štandardu titulkov, podľa ktorého pracuje celé odvetvie. Každý dabing sa spracúva na vlastnom klastri spoločnosti Familiar v osemcifernej hodnote z GPU NVIDIA B300 v kanadskom Toronte, nikdy vo verejnom cloude, ako je Google Cloud alebo AWS, a nikdy u externého poskytovateľa inferencie. Súbory sú opísané v dokumentácii k výstupom, spracovanie v privátnej inferencii a čo to znamená pre katalóg v článku Čo znamená základný model pre multimodálny preklad pre štúdiá a platformy.
Kto má posledné slovo?
Každé rozhodnutie sa zaznamená k úlohe. Ktorékoľvek z nich môžete zmeniť.
- DNES
Vaši kreatívni riaditelia kontrolujú rozhodnutia o preklade.
Znenia s odôvodnením každého z nich; jedno vyberú skôr, než čokoľvek odíde. - DNES
Zoznam Neprekladať a kontext v jednej vete idú spolu s úlohou.
- PRIPRAVUJEME
Rozhodnutia o zvuku a obraze na tej istej kontrole.
Čo zostane v pôvodnom jazyku, iná tvár, keď model určil nesprávneho hovoriaceho, a text v zábere.
Pre katalóg sa mení dosah. Seriál, ktorý by zostal v jednom jazyku, môže vyjsť v 30 naraz, s vlastnými výkonmi hercov, zatiaľ čo váš tím stále robí každé rozhodnutie, na ktorom záleží.
To je záznam rozhodnutí; celý príbeh je v článku Záznam rozhodnutí: ako kreatívni riaditelia vedú MLDM a o čom model rozhoduje, v článku Čo je MLDM. Výskum za ním je v článku Priekopníci multimodálneho prekladu: od spoločného audiovizuálneho výskumu k prvému základnému modelu. Od človeka k človeku, k širšiemu publiku.
OTÁZKY
Čo v dabingu znamená „nie kaskádovo“?
Strojový dabing kedysi prechádzal samostatnými nástrojmi za sebou: prepis, preklad, hlas, synchronizácia pier. Každý bol ladený zvlášť a hádal bez ostatných. Nie kaskádovo znamená, že o všetkom rozhoduje jeden model spoločne, takže preklad, hlas, pery aj scéna k sebe sedia.
Kontroluje sa preklad skôr, než vznikne dabing?
Áno. Preklad prichádza prvý. Kde sa dá replika vyznieť viacerými spôsobmi, vaši kreatívni riaditelia vidia znenia s odôvodnením každého z nich a jedno vyberú. Potom vznikne dabing v jednom kroku: hlas, pery aj scéna naraz.
Je to generatívna AI?
Nie „generatívna AI“, ale preklad v službách tvorcov. Nie je tu žiadny prompt a nič nové sa nevymýšľa. Herec, načasovanie aj scéna zostávajú; slová, hlasová stopa a pery sa prispôsobia novému jazyku.
Môžem vyberať aj rozhodnutia o zvuku a obraze?
Voľby prekladu sú vaše už dnes. Na voľbách vo zvuku, napríklad čo zostane v pôvodnom jazyku, a v obraze, napríklad iná tvár, keď model určil nesprávneho hovoriaceho, alebo text v zábere, pracujeme.
Kde sa moje zábery spracúvajú?
Na vlastnom klastri spoločnosti Familiar v osemcifernej hodnote z GPU NVIDIA B300 v kanadskom Toronte. Nikdy vo verejnom cloude, ako je Google Cloud alebo AWS, a nikdy u externého poskytovateľa inferencie.
Kto stojí za Familiar?
Ľudia s PhD, ktorí založili odbor spoločných audiovizuálnych modelov človeka: 22 publikácií a vyše 10,000 citácií, s prof. Xu Zhengom a prof. Youngjungom Uhom ako poradcami. Familiar podporujú Samsung, RedBird a Gold House.
ZDROJE
MULTIMODÁLNY PREKLAD
Familiar Labs prináša o generáciu lepší dabing vďaka multimodálnemu rozhodovaciemu modelu pre lokalizáciu (MLDM), prvému základnému modelu pre multimodálny preklad: jeden model rozhoduje, čo lokalizovať v texte, zvuku aj obraze, a ukáže vám možnosti. Váš hlas a vaše pery, prenesené do nových jazykov. Tím 8 ľudí s PhD, s podporou Samsungu, RedBird a Gold House. Naša misia
