KOPSAVILKUMS
Kas bija mašīnas dublāžas kaskādes laikmets?
Mašīnas dublāža sākās kā kaskāde: četri rīki rindā, katrs uzbūvēts un pieskaņots atsevišķi, katrs nodod savu rezultātu nākamajam.
- 01
Transkripcija.
Runas pārveide tekstā pieraksta, kas tika teikts. - 02
Tulkojums.
Teksta modelis pārtulko transkriptu jaunajā valodā, nedzirdot balsi un neredzot seju. - 03
Balss.
Teksta pārveide runā nolasa tulkojumu, bieži svešinieka balsī. - 04
Lūpu sinhronizācija.
Atsevišķs rīks pieskaņo mutes kustības jaunajam audio, kad katrs vārds jau ir fiksēts.
Šī ķēde padarīja mašīnas dublāžu iespējamu. Tās robeža slēpjas pašā uzbūvē: katrs posms min, nezinot par pārējiem. Tulkojums nevar zināt, ka replikai jāiekļaujas aizvērtā mutē. Balss nevar zināt, kurā telpā tā skan. Pārklausīts vārds vai pārāk gara replika tiek nodota tālāk, un kļūda krājas katrā nākamajā posmā.
Gadu gaitā katrs rīks uzlabojās: tīrāks transkripts, precīzāks tulkojums, dabiskāka balss. Gatavais dublējums uzlabojās lēnāk, jo šuves starp rīkiem palika, kur bija.
Ar ko pircējs saskaras šodien?
Praksē kaskāde ierodas kā rīku kaudze: transkripts no viena, tulkojums no cita, balss no trešā, lūpu sinhronizācija un subtitri no ceturtā. Vienas replikas labojums nozīmē no jauna palaist visus nākamos posmus, un kāds jūsu komandā tur failus kopā. Rīki, kas kaudzi apiet, maina kvalitāti pret laiku. Asistējošie rīki kvalitāti sasniedz ar VFX mākslinieku komandu sarežģītajos kadros: nedēļas katram projektam, un katra valoda ir jauns projekts. Rīki, kas dublē vienā piegājienā, ir ātri un upurē visu pārējo: balss zaudē līdzību, telpas skaņa pazūd, un lūpas neizdodas, ja sejas priekšā ir roka vai mikrofons, ja kadrs ir izplūdis, ar bokeh, sānskatā vai tajā ir vairāki cilvēki, jo nav telpiskās domāšanas un nav pasaules izpratnes. Familiar ir viens piegājiens un kvalitāte.
Otrs ceļš ir pilna cilvēku dublāža, tulkojums un balss, par $70–150 par gatavu minūti. Izmaksas, cilvēkresursi un laiks to padara nepieejamu lielākajai daļai pasaules: pat lielākie iestudējumi dublē tikai dažās valodās, bet mazāki iestudējumi, šovi un vertikālās drāmas lielākoties nedublē vispār.
One shot today means giving up the rest.
54.7%
FEWER TRANSLATION ERRORS · FAMILIAR VS ELEVENLABS DUBBING V2
270%
ELEVENLABS MORE BACKGROUND-SOUND ERROR · THE LAUGHTER, THE MUSIC, THE AMBIENCE
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER
Ja apsverat ElevenLabs Dubbing, lūk, viņu dokumentācija citātos blakus mūsu pētījumam:
Editing the translation means their old model.
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES
261%
ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE
+243.7%
FAMILIAR ON LAUGHTER AND REACTION SHAPE
Kas mainās, kad visus lēmumus pieņem viens modelis?
Familiar dublē ar multimodālu lokalizācijas lēmumu modeli (MLDM). MLDM izlemj, ko lokalizēt un kā, tekstā, audio un attēlā, un lēmumi saskan, jo tos pieņem viens modelis. Definīcija: Pirmais multimodālās tulkošanas pamatmodelis.
KASKĀDĒ
- Četri rīki, katrs pieskaņots atsevišķi.
- Tulkojums ir fiksēts, pirms kāds dzirdējis balsi.
- Katrs posms min, nezinot par pārējiem, tāpēc kļūdas krājas.
- Svešinieka balss var nonākt uz nesaskanīgas sejas.
VIENLAICĪGI, PIRMAIS SAVĀ VEIDĀ
- Viens modelis pieņem visus lēmumus kopā.
- Tulkojums zina, kurai mutei tam jāatbilst.
- Balss zina, kurā ainā tā skan.
- Cilvēks nemainās.
Atpakaļ jūs saņemat aktiera paša sniegumu citā valodā: viņa balsi, lūpas, sejas izteiksmes un ainas skaņu, pārnestas kopā. Viena augšupielāde nonāk visās valodās reizē: dublējumi 30 valodās no materiāla jebkurā no 99 avota valodām.
Kopīgi lēmumi maina arī to, kas var noiet greizi. Replika, kas būtu par garu, tiek atveidota tā, lai iekļautos laikā un mutē, pirms top jebkāda balss. Smiekli teikuma vidū paliek smiekli. Kad divi cilvēki runā cits citam pāri, modelis zina, kurš saka kuru repliku, tāpēc kustas pareizās lūpas.
Ko tas maina gatavajā dublējumā?
Mēs laižam tos pašus klipus caur abām sistēmām un vērtējam tos vienādi. Katrs skaitlis nāk no sava pētījuma, publicēts lapā salīdzinājumi.
no pieredzējuša profesionāla tulkotāja kvalitātes sasniedz Familiar: līdzvērtīgi
FRANČU, ĶĪNIEŠU, HINDI, INDONĒZIEŠU (PIEREDZĒJUŠU PROFESIONĀLU TULKOTĀJU PIRMAIS MELNRAKSTS)Familiar pieļāva mazāk svarīgu tulkojuma kļūdu (29 pret 64)
PRET ELEVENLABS DUBBING V2 (ALPHA) · 3 VALODASElevenLabs radīja vairāk fona skaņas kļūdu (11.92 pret 3.22 dB)
PRET VIŅU JAUNĀKO DUBBING V2 (ALPHA) · 111 PĀRU DUBLĒJUMI · MŪZIKA, EFEKTI UN TELPAS ATMOSFĒRAMērīta tiek arī balss: Familiar skan par 27.8% līdzīgāk īstajam runātājam nekā ElevenLabs Dubbing v1, tuvāk visās 11 valodās, augstāk citētajā pētījumā.
YouTube automātiskās dublēšanas fona skaņas kļūda tās pētījumā bija par 232.6% lielāka. Aina saglabājas, jo MLDM dzird visu celiņā (smieklus, pūli, mūziku), atrod galveno balsi, pārnes to jaunajā valodā runātāja paša balsī un pārējo atstāj, kā bija.
Ko nozīmē „vispirms tulkojums, tad dublāža vienā piegājienā”?
Secībai ir nozīme. Vispirms nāk tulkojums, un jūsu radošie direktori to pārskata: ja repliku var uztvert dažādi, viņi redz atveidojumus ar pamatojumu katram un izvēlas vienu. Tikai tad dublējums top, vienreiz. Nekas jauns netiek izdomāts. Nevis „ģeneratīvais MI”, bet tulkošana, kas dod iespējas radošajiem. MLDM vienmuļajam darbam.
ATTĒLS
Līdz 4K
SKAŅA
Īsts 5.1 vai stereo
24 BITU PCM WAV · PĒC JŪSU IZVĒLES
SUBTITRI
.srt un .vtt
NETFLIX TIMED TEXT KONVENCIJAS
APSTRĀDE
Toronto, Kanāda
MŪSU PAŠU NVIDIA B300 KLASTERIS
Subtitri ir sagriezti pēc Netflix Timed Text Style Guide konvencijām, subtitru šablonu standarta, pēc kura strādā nozare. Katrs dublējums tiek apstrādāts Familiar pašu desmitiem miljonu dolāru vērtā NVIDIA B300 GPU klasterī Toronto, Kanādā, nekad publiskā mākonī, piemēram, Google Cloud vai AWS, un nekad pie trešās puses secināšanas pakalpojumu sniedzēja. Faili aprakstīti izvades dokumentācijā, apstrāde privātajā secināšanā, bet ko tas nozīmē katalogam: Ko multimodālās tulkošanas pamatmodelis nozīmē studijām un platformām.
Kurš pieņem galīgo lēmumu?
Katrs lēmums tiek saglabāts kopā ar darbu. Jebkuru no tiem varat mainīt.
- ŠODIEN
Jūsu radošie direktori pārskata tulkojuma lēmumus.
Atveidojumi ar pamatojumu katram; viņi izvēlas vienu, pirms kaut kas tiek publicēts. - ŠODIEN
Saraksts „Netulkot” un viena teikuma konteksts ceļo kopā ar darbu.
- IZSTRĀDĒ
Audio un attēla lēmumi tajā pašā pārskatīšanā.
Kas paliek oriģinālvalodā, cita seja, ja modelis izvēlējies nepareizo runātāju, un teksts kadrā.
Katalogam mainās sasniedzamība. Šovs, kas būtu palicis vienā valodā, var iznākt 30 valodās reizē, ar aktieru pašu sniegumu, bet jūsu komanda joprojām pieņem visus svarīgos lēmumus.
Tie ir saglabātie lēmumi; viss stāsts: Saglabātie lēmumi: kā radošie direktori vada MLDM, bet ko modelis izlemj: Kas ir MLDM. Pētījumi, kas stāv aiz tā: Multimodālās tulkošanas aizsācēji. No cilvēka cilvēkam, sasniedzot arvien plašāku auditoriju.
JAUTĀJUMI
Ko dublāžā nozīmē „nevis kaskādē”?
Agrāk mašīnas dublāža gāja caur atsevišķiem rīkiem rindā: transkripcija, tulkojums, balss, lūpu sinhronizācija. Katrs bija pieskaņots atsevišķi un mināja, nezinot par pārējiem. „Nevis kaskādē” nozīmē, ka visus lēmumus kopā pieņem viens modelis, tāpēc tulkojums, balss, lūpas un aina saskan.
Vai tulkojumu pārskata, pirms top dublējums?
Jā. Vispirms nāk tulkojums. Ja repliku var uztvert dažādi, jūsu radošie direktori redz atveidojumus ar pamatojumu katram un izvēlas vienu. Tad dublējums top vienā piegājienā: balss, lūpas un aina kopā.
Vai tas ir ģeneratīvais MI?
Nevis „ģeneratīvais MI”, bet tulkošana, kas dod iespējas radošajiem. Nav uzvednes, un nekas jauns netiek izdomāts. Aktieris, ritms un aina paliek; vārdi, balss celiņš un lūpas mainās, lai atbilstu jaunajai valodai.
Vai varu izvēlēties audio un attēla lēmumus?
Tulkojuma izvēles ir jūsu jau šodien. Audio izvēles, piemēram, ko atstāt oriģinālvalodā, un attēla izvēles, piemēram, cita seja, ja modelis izvēlējies nepareizo runātāju, vai teksts kadrā, ir izstrādē.
Kur tiek apstrādāts mans materiāls?
Familiar pašu desmitiem miljonu dolāru vērtā NVIDIA B300 GPU klasterī Toronto, Kanādā. Nekad publiskā mākonī, piemēram, Google Cloud vai AWS, un nekad pie trešās puses secināšanas pakalpojumu sniedzēja.
Kas veido Familiar?
PhD, kas aizsāka kopīgu audiovizuālu cilvēka modeļu jomu: 22 publikācijas un vairāk nekā 10 000 citējumu, padomnieki Prof. Xu Zheng un Prof. Youngjung Uh. Familiar atbalsta Samsung, RedBird un Gold House.
ATSAUCES
Multimodālā tulkošana
Familiar Labs veido par paaudzi labāku dublāžu ar multimodālu lokalizācijas lēmumu modeli (MLDM), pirmo multimodālās tulkošanas pamatmodeli: viens modelis izlemj, ko lokalizēt tekstā, audio un attēlā, un parāda jums izvēles. Jūsu balss un lūpas, pārnestas jaunās valodās. 8 cilvēku komanda ar PhD, ko atbalsta Samsung, RedBird un Gold House. Mūsu misija
