РЕЗЮМЕ
Каква беше ерата на поетапния машинен дублаж?
Машинният дублаж започна като верига: четири инструмента един след друг, всеки създаден и настроен поотделно, всеки предаващ резултата си на следващия.
- 01
Транскрипция.
Разпознаването на реч записва казаното. - 02
Превод.
Текстов модел предава транскрипцията на новия език, без да чуе гласа или да види лицето. - 03
Глас.
Синтезът на реч прочита превода на глас, често с чужд глас. - 04
Липсинк.
Отделен инструмент движи устата според новото аудио, след като всяка дума вече е фиксирана.
Тази верига направи машинния дублаж възможен. Ограничението ѝ е в самата ѝ форма: всеки етап гадае без останалите. Преводът не може да знае, че репликата трябва да пасне на затворена уста. Гласът не може да знае в какво помещение звучи. Погрешно чута дума или твърде дълга реплика се предава надолу и грешката се натрупва на всеки следващ етап.
С годините всеки инструмент ставаше по-добър: по-чиста транскрипция, по-точен превод, по-естествен глас. Готовият дублаж се подобряваше по-бавно, защото шевовете между инструментите си оставаха на мястото.
С какво се сблъсква купувачът днес?
На практика веригата пристига като набор от инструменти: транскрипцията от един, преводът от друг, гласът от трети, липсинкът и субтитрите от четвърти. Поправка на една реплика означава всички следващи етапи да минат отново, а някой от екипа ви държи файловете заедно. Инструментите, които прескачат този набор, разменят качество срещу време. Помощните инструменти стигат до качеството с екип от VFX артисти върху трудните кадри: седмици за всеки проект, а всеки език е нов проект. Инструментите, които дублират с един замах, са бързи и жертват всичко останало: гласът се отдалечава, звукът на помещението изчезва, а устните се провалят при ръка пред лицето, микрофон, размазване, боке, кадър в профил или няколко души в кадър, без пространствено мислене и без разбиране на света. Familiar е и с един замах, и с качеството.
Другият път е пълният човешки дублаж, превод и глас, за $70–150 на готова минута. Цената, хората и времето го правят недостъпен за по-голямата част от света: дори най-големите продукции дублират само на няколко езика, а по-малките продукции, предаванията и вертикалните драми в повечето случаи изобщо не се дублират.
One shot today means giving up the rest.
54.7%
FEWER TRANSLATION ERRORS · FAMILIAR VS ELEVENLABS DUBBING V2
270%
ELEVENLABS MORE BACKGROUND-SOUND ERROR · THE LAUGHTER, THE MUSIC, THE AMBIENCE
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER
Ако обмисляте ElevenLabs Dubbing, ето тяхната документация, цитирана, до нашето изследване:
Editing the translation means their old model.
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES
261%
ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE
+243.7%
FAMILIAR ON LAUGHTER AND REACTION SHAPE
Какво се променя, когато един модел взима всяко решение?
Familiar дублира с мултимодален модел за вземане на решения при локализация (MLDM). MLDM решава какво да се локализира и как в текста, звука и картината, а решенията са съгласувани, защото ги взима един модел. Определението е в Първият фундаментален модел за мултимодален превод.
ПОЕТАПНО
- Четири инструмента, всеки настроен поотделно.
- Преводът е фиксиран, преди някой да е чул гласа.
- Всеки етап гадае без останалите, затова грешките се натрупват.
- Чужд глас може да легне върху лице, което не съвпада.
НАВЕДНЪЖ, ПЪРВИЯТ ПО РОДА СИ
- Един модел взима всички решения заедно.
- Преводът знае на коя уста трябва да пасне.
- Гласът знае в каква сцена звучи.
- Човекът никога не се променя.
Получавате собственото изпълнение на актьора на друг език: гласа му, устните му, мимиката му и звука на сцената, пренесени заедно. Едно качване излиза на всички езици наведнъж: дублажи на 30 езика, от материал на всеки от 99 изходни езика.
Общите решения променят и това какво може да се обърка. Реплика, която би излязла твърде дълга, се предава така, че да пасне на времето и на устата, преди да бъде създаден какъвто и да е глас. Смях по средата на изречението си остава смях. Когато двама души говорят един през друг, моделът знае кой коя реплика казва, затова се движат правилните устни.
Какво променя това в готовия дублаж?
Пускаме едни и същи клипове през двете системи и ги оценяваме по един и същ начин. Всяка цифра идва от собственото си изследване, публикувано в бенчмарка.
от качеството на експертен човешки превод при Familiar: равностойно
ФРЕНСКИ, КИТАЙСКИ, ХИНДИ, ИНДОНЕЗИЙСКИ (ПЪРВА ВЕРСИЯ НА ЕКСПЕРТНИ ПРОФЕСИОНАЛНИ ПРЕВОДАЧИ)по-малко съществени грешки в превода при Familiar (29 срещу 64)
СПРЯМО ELEVENLABS DUBBING V2 (ALPHA) · 3 ЕЗИКАповече грешки във фоновия звук при ElevenLabs (11.92 срещу 3.22 dB)
СПРЯМО НАЙ-НОВИЯ ИМ DUBBING V2 (ALPHA) · 111 СДВОЕНИ ДУБЛАЖА · МУЗИКА, ЕФЕКТИ И АТМОСФЕРА НА ПОМЕЩЕНИЕТОГласът също е измерен: Familiar звучи с 27.8% повече като истинския говорещ от ElevenLabs Dubbing v1, по-близо и на 11-те езика, в изследването, цитирано по-горе.
Автоматичното дублиране на YouTube показа с 232.6% повече грешки във фоновия звук в собственото си изследване. Сцената оцелява, защото MLDM чува всичко в пътечката, смеха, тълпата, музиката, намира основния глас, пренася го в новия език със собствения глас на говорещия и оставя останалото, както си е било.
Какво означава „първо преводът, после дублажът с един замах“?
Редът има значение. Преводът идва първи и творческите ви директори го преглеждат: където една реплика може да прозвучи по повече от един начин, те виждат вариантите с обосновката зад всеки и избират един. Едва тогава дублажът се прави, веднъж. Нищо ново не се измисля. Не е „генеративен изкуствен интелект“, а превод в помощ на творците. MLDM за досадната част.
КАРТИНА
До 4K
ЗВУК
Истински 5.1 или стерео
24-БИТОВ PCM WAV · ПО ВАШ ИЗБОР
СУБТИТРИ
.srt и .vtt
ПРАВИЛАТА НА NETFLIX ЗА TIMED TEXT
ОБРАБОТКА
Торонто, Канада
НАШИЯТ СОБСТВЕН КЛЪСТЕР NVIDIA B300
Субтитрите се нарязват по правилата на Timed Text Style Guide на Netflix, стандарта за шаблони на субтитри, по който работи индустрията. Всеки дублаж се обработва на собствения клъстер на Familiar за осемцифрена сума от графични процесори NVIDIA B300 в Торонто, Канада, никога в публичен облак като Google Cloud или AWS и никога при външен доставчик на AI изчисления. Файловете са описани в документацията за изходните файлове, обработката в частната обработка, а какво означава това за един каталог, в Какво означава фундаменталният модел за мултимодален превод за студиата и платформите.
Кой взима последното решение?
Всяко решение се записва към задачата. Можете да промените всяко от тях.
- ДНЕС
Творческите ви директори преглеждат решенията за превода.
Вариантите с обосновката зад всеки; те избират един, преди нещо да излезе. - ДНЕС
Списък „Не превеждай“ и контекст от едно изречение пътуват със задачата.
- В РАЗРАБОТКА
Решенията за звука и картината, в същия преглед.
Какво да остане на оригиналния език, друго лице, когато моделът е избрал грешния говорещ, и текстът в кадъра.
За един каталог се променя обхватът. Предаване, което би останало на един език, може да излезе на 30 наведнъж, с изпълненията на самите актьори, а екипът ви продължава да взима всяко решение, което има значение.
Това е записът на решенията; цялата история е в Записът на решенията: как творческите директори насочват MLDM, а какво решава моделът, в Какво е MLDM. Изследванията зад него са в Пионери в мултимодалния превод. От човек към човек, до още повече хора.
ВЪПРОСИ
Какво означава „не поетапно“ при дублажа?
Машинният дублаж минаваше през отделни инструменти един след друг: транскрипция, превод, глас, липсинк. Всеки беше настроен поотделно и гадаеше без останалите. „Не поетапно“ означава, че един модел взима всички решения заедно, така че преводът, гласът, устните и сцената са съгласувани.
Преглежда ли се преводът, преди да бъде направен дублажът?
Да. Преводът идва първи. Където една реплика може да прозвучи по повече от един начин, творческите ви директори виждат вариантите с обосновката зад всеки и избират един. После дублажът се прави с един замах: гласът, устните и сцената заедно.
Генеративен изкуствен интелект ли е това?
Не е „генеративен изкуствен интелект“, а превод в помощ на творците. Няма промпт и нищо ново не се измисля. Актьорът, ритъмът и сцената остават; думите, гласовата пътечка и устните се променят, за да паснат на новия език.
Мога ли да избирам решенията за звука и картината?
Изборите в превода са ваши още днес. Изборите в звука, например какво да остане на оригиналния език, и в картината, например друго лице, когато моделът е избрал грешния говорещ, или текстът в кадъра, са в разработка.
Къде се обработва материалът ми?
На собствения клъстер на Familiar за осемцифрена сума от графични процесори NVIDIA B300 в Торонто, Канада. Никога в публичен облак като Google Cloud или AWS и никога при външен доставчик на AI изчисления.
Кой създава Familiar?
Доктори на науките, които поставиха началото на областта на съвместните аудиовизуални модели на човека: 22 публикации и над 10,000 цитирания, с проф. Xu Zheng и проф. Youngjung Uh като съветници. Familiar е с подкрепата на Samsung, RedBird и Gold House.
ИЗТОЧНИЦИ
Мултимодален превод
Familiar Labs създава дублаж от ново поколение с мултимодален модел за вземане на решения при локализация (MLDM), първия фундаментален модел за мултимодален превод: един модел решава какво да се локализира в текста, звука и картината и ви показва вариантите. Вашият глас и устни, пренесени на нови езици. Екип от 8 души с PhD, с подкрепата на Samsung, RedBird и Gold House. Нашата мисия
