РЪКОВОДСТВО

Аудиовизуален превод наведнъж, а не поетапно

FAMILIAR ИЗСЛЕДВАНИЯВСИЧКИ СТАТИИ

РЕЗЮМЕ

Аудиовизуален превод наведнъж, а не поетапно: първият по рода си. Familiar е първият фундаментален модел за мултимодален превод: един модел, който пренася думите, гласа, устните и сцената в нов език, всичко наведнъж. Досега машинният дублаж прекарваше видеото през отделни инструменти, всеки настроен поотделно. Когато един модел взима всички решения заедно, преводът знае на коя уста трябва да пасне, гласът знае в каква сцена звучи, а човекът никога не се променя. Преводът достига 100.3% от качеството на експертен човешки превод, т.е. равностоен е.
ПЪРВИЯТ ФУНДАМЕНТАЛЕН МОДЕЛ ЗА МУЛТИМОДАЛЕН ПРЕВОД

Каква беше ерата на поетапния машинен дублаж?

Машинният дублаж започна като верига: четири инструмента един след друг, всеки създаден и настроен поотделно, всеки предаващ резултата си на следващия.

  1. 01

    Транскрипция.

    Разпознаването на реч записва казаното.
  2. 02

    Превод.

    Текстов модел предава транскрипцията на новия език, без да чуе гласа или да види лицето.
  3. 03

    Глас.

    Синтезът на реч прочита превода на глас, често с чужд глас.
  4. 04

    Липсинк.

    Отделен инструмент движи устата според новото аудио, след като всяка дума вече е фиксирана.

Тази верига направи машинния дублаж възможен. Ограничението ѝ е в самата ѝ форма: всеки етап гадае без останалите. Преводът не може да знае, че репликата трябва да пасне на затворена уста. Гласът не може да знае в какво помещение звучи. Погрешно чута дума или твърде дълга реплика се предава надолу и грешката се натрупва на всеки следващ етап.

С годините всеки инструмент ставаше по-добър: по-чиста транскрипция, по-точен превод, по-естествен глас. Готовият дублаж се подобряваше по-бавно, защото шевовете между инструментите си оставаха на мястото.

С какво се сблъсква купувачът днес?

На практика веригата пристига като набор от инструменти: транскрипцията от един, преводът от друг, гласът от трети, липсинкът и субтитрите от четвърти. Поправка на една реплика означава всички следващи етапи да минат отново, а някой от екипа ви държи файловете заедно. Инструментите, които прескачат този набор, разменят качество срещу време. Помощните инструменти стигат до качеството с екип от VFX артисти върху трудните кадри: седмици за всеки проект, а всеки език е нов проект. Инструментите, които дублират с един замах, са бързи и жертват всичко останало: гласът се отдалечава, звукът на помещението изчезва, а устните се провалят при ръка пред лицето, микрофон, размазване, боке, кадър в профил или няколко души в кадър, без пространствено мислене и без разбиране на света. Familiar е и с един замах, и с качеството.

Другият път е пълният човешки дублаж, превод и глас, за $70–150 на готова минута. Цената, хората и времето го правят недостъпен за по-голямата част от света: дори най-големите продукции дублират само на няколко езика, а по-малките продукции, предаванията и вертикалните драми в повечето случаи изобщо не се дублират.

HeyGenHeyGenElevenLabsElevenLabsHeyGen + ElevenLabsONE-SHOT TOOLS · NO CONTROL

One shot today means giving up the rest.

The one-shot tools today give up the rest: the translation cannot be edited, the music and the room drop out, the voice drifts, and the lips fail on a hand over the face, a microphone, blur, bokeh, a side view or several people in frame. No spatial reasoning, no understanding of the world, no control. ElevenLabs' current Dubbing v2 edits only through an Enterprise API, and its full editor is the older model, in maintenance mode; HeyGen stitches a lip-sync over a dub like that, and the lip-sync breaks on the ordinary shots of any episode. Familiar is one shot and the quality: translation first, reviewed; then the voice, the lips and the scene together, through the hard shots.

54.7%

FEWER TRANSLATION ERRORS · FAMILIAR VS ELEVENLABS DUBBING V2

270%

ELEVENLABS MORE BACKGROUND-SOUND ERROR · THE LAUGHTER, THE MUSIC, THE AMBIENCE

+27.8%

FAMILIAR CLOSER TO THE REAL SPEAKER

Ако обмисляте ElevenLabs Dubbing, ето тяхната документация, цитирана, до нашето изследване:

ElevenLabsElevenLabsElevenLabsTHEIR DOCS, READ OCTOBER 30, 2026

Editing the translation means their old model.

On ElevenLabs' current Dubbing v2, in alpha, editing the translation and regenerating the audio through the API is for their Enterprise plans only. Their full editor, Dubbing Studio, is "only available via the v1 model" and "in maintenance mode", in their words. Dubbing v1 is the model our 418-pair study measured, and its output is mono.

+27.8%

FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES

261%

ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE

+243.7%

FAMILIAR ON LAUGHTER AND REACTION SHAPE

ELEVENLABS DUBBING V1 · 418 PAIRED OUTPUTS · 11 LANGUAGES · AUGUST 5, 2026Read the study Their docs

Какво се променя, когато един модел взима всяко решение?

Familiar дублира с мултимодален модел за вземане на решения при локализация (MLDM). MLDM решава какво да се локализира и как в текста, звука и картината, а решенията са съгласувани, защото ги взима един модел. Определението е в Първият фундаментален модел за мултимодален превод.

ПОЕТАПНО

  • Четири инструмента, всеки настроен поотделно.
  • Преводът е фиксиран, преди някой да е чул гласа.
  • Всеки етап гадае без останалите, затова грешките се натрупват.
  • Чужд глас може да легне върху лице, което не съвпада.

НАВЕДНЪЖ, ПЪРВИЯТ ПО РОДА СИ

  • Един модел взима всички решения заедно.
  • Преводът знае на коя уста трябва да пасне.
  • Гласът знае в каква сцена звучи.
  • Човекът никога не се променя.

Получавате собственото изпълнение на актьора на друг език: гласа му, устните му, мимиката му и звука на сцената, пренесени заедно. Едно качване излиза на всички езици наведнъж: дублажи на 30 езика, от материал на всеки от 99 изходни езика.

Общите решения променят и това какво може да се обърка. Реплика, която би излязла твърде дълга, се предава така, че да пасне на времето и на устата, преди да бъде създаден какъвто и да е глас. Смях по средата на изречението си остава смях. Когато двама души говорят един през друг, моделът знае кой коя реплика казва, затова се движат правилните устни.

Какво променя това в готовия дублаж?

Пускаме едни и същи клипове през двете системи и ги оценяваме по един и същ начин. Всяка цифра идва от собственото си изследване, публикувано в бенчмарка.

100.3%

от качеството на експертен човешки превод при Familiar: равностойно

ФРЕНСКИ, КИТАЙСКИ, ХИНДИ, ИНДОНЕЗИЙСКИ (ПЪРВА ВЕРСИЯ НА ЕКСПЕРТНИ ПРОФЕСИОНАЛНИ ПРЕВОДАЧИ)
54.7%

по-малко съществени грешки в превода при Familiar (29 срещу 64)

СПРЯМО ELEVENLABS DUBBING V2 (ALPHA) · 3 ЕЗИКА
270%

повече грешки във фоновия звук при ElevenLabs (11.92 срещу 3.22 dB)

СПРЯМО НАЙ-НОВИЯ ИМ DUBBING V2 (ALPHA) · 111 СДВОЕНИ ДУБЛАЖА · МУЗИКА, ЕФЕКТИ И АТМОСФЕРА НА ПОМЕЩЕНИЕТО

Гласът също е измерен: Familiar звучи с 27.8% повече като истинския говорещ от ElevenLabs Dubbing v1, по-близо и на 11-те езика, в изследването, цитирано по-горе.

Автоматичното дублиране на YouTube показа с 232.6% повече грешки във фоновия звук в собственото си изследване. Сцената оцелява, защото MLDM чува всичко в пътечката, смеха, тълпата, музиката, намира основния глас, пренася го в новия език със собствения глас на говорещия и оставя останалото, както си е било.

Какво означава „първо преводът, после дублажът с един замах“?

++
Първо преводът, после дублажът с един замах: гласът, устните и сцената заедно.

Редът има значение. Преводът идва първи и творческите ви директори го преглеждат: където една реплика може да прозвучи по повече от един начин, те виждат вариантите с обосновката зад всеки и избират един. Едва тогава дублажът се прави, веднъж. Нищо ново не се измисля. Не е „генеративен изкуствен интелект“, а превод в помощ на творците. MLDM за досадната част.

КАРТИНА

До 4K

ЗВУК

Истински 5.1 или стерео

24-БИТОВ PCM WAV · ПО ВАШ ИЗБОР

СУБТИТРИ

.srt и .vtt

ПРАВИЛАТА НА NETFLIX ЗА TIMED TEXT

ОБРАБОТКА

Торонто, Канада

НАШИЯТ СОБСТВЕН КЛЪСТЕР NVIDIA B300

Субтитрите се нарязват по правилата на Timed Text Style Guide на Netflix, стандарта за шаблони на субтитри, по който работи индустрията. Всеки дублаж се обработва на собствения клъстер на Familiar за осемцифрена сума от графични процесори NVIDIA B300 в Торонто, Канада, никога в публичен облак като Google Cloud или AWS и никога при външен доставчик на AI изчисления. Файловете са описани в документацията за изходните файлове, обработката в частната обработка, а какво означава това за един каталог, в Какво означава фундаменталният модел за мултимодален превод за студиата и платформите.

Кой взима последното решение?

Всяко решение се записва към задачата. Можете да промените всяко от тях.

  1. ДНЕС

    Творческите ви директори преглеждат решенията за превода.

    Вариантите с обосновката зад всеки; те избират един, преди нещо да излезе.
  2. ДНЕС

    Списък „Не превеждай“ и контекст от едно изречение пътуват със задачата.

  3. В РАЗРАБОТКА

    Решенията за звука и картината, в същия преглед.

    Какво да остане на оригиналния език, друго лице, когато моделът е избрал грешния говорещ, и текстът в кадъра.

За един каталог се променя обхватът. Предаване, което би останало на един език, може да излезе на 30 наведнъж, с изпълненията на самите актьори, а екипът ви продължава да взима всяко решение, което има значение.

Това е записът на решенията; цялата история е в Записът на решенията: как творческите директори насочват MLDM, а какво решава моделът, в Какво е MLDM. Изследванията зад него са в Пионери в мултимодалния превод. От човек към човек, до още повече хора.

ВЪПРОСИ

Какво означава „не поетапно“ при дублажа?

Машинният дублаж минаваше през отделни инструменти един след друг: транскрипция, превод, глас, липсинк. Всеки беше настроен поотделно и гадаеше без останалите. „Не поетапно“ означава, че един модел взима всички решения заедно, така че преводът, гласът, устните и сцената са съгласувани.

Преглежда ли се преводът, преди да бъде направен дублажът?

Да. Преводът идва първи. Където една реплика може да прозвучи по повече от един начин, творческите ви директори виждат вариантите с обосновката зад всеки и избират един. После дублажът се прави с един замах: гласът, устните и сцената заедно.

Генеративен изкуствен интелект ли е това?

Не е „генеративен изкуствен интелект“, а превод в помощ на творците. Няма промпт и нищо ново не се измисля. Актьорът, ритъмът и сцената остават; думите, гласовата пътечка и устните се променят, за да паснат на новия език.

Мога ли да избирам решенията за звука и картината?

Изборите в превода са ваши още днес. Изборите в звука, например какво да остане на оригиналния език, и в картината, например друго лице, когато моделът е избрал грешния говорещ, или текстът в кадъра, са в разработка.

Къде се обработва материалът ми?

На собствения клъстер на Familiar за осемцифрена сума от графични процесори NVIDIA B300 в Торонто, Канада. Никога в публичен облак като Google Cloud или AWS и никога при външен доставчик на AI изчисления.

Кой създава Familiar?

Доктори на науките, които поставиха началото на областта на съвместните аудиовизуални модели на човека: 22 публикации и над 10,000 цитирания, с проф. Xu Zheng и проф. Youngjung Uh като съветници. Familiar е с подкрепата на Samsung, RedBird и Gold House.

ИЗТОЧНИЦИ

  1. [1]Бенчмарк изследванията на Familiar
  2. [2]ElevenLabs, документация за Dubbing, прочетена на 30 октомври 2026
  3. [3]Netflix, Timed Text Style Guide: Subtitle Templates, прочетено на 30 октомври 2026
  4. [4]Научните публикации на Familiar
  5. [5]Частна обработка
  6. [6]Нашата мисия

Мултимодален превод

Familiar Labs създава дублаж от ново поколение с мултимодален модел за вземане на решения при локализация (MLDM), първия фундаментален модел за мултимодален превод: един модел решава какво да се локализира в текста, звука и картината и ви показва вариантите. Вашият глас и устни, пренесени на нови езици. Екип от 8 души с PhD, с подкрепата на Samsung, RedBird и Gold House. Нашата мисия