RESUM
Els quatre problemes
Pregunta què fa bo un vídeo doblat i et sortirà una llista llarga. Es redueix a quatre punts:
Si fallen les dues primeres, la resta ja no compta: una frase mal traduïda o una veu que se sent clarament equivocada liquiden el doblatge per si soles. Les dues últimes decideixen si el resultat es percep com l'original o com un doblatge.
Traducció natural: un guió nou, no una correspondència
Cada llengua diu les coses a la seva manera: les paraules, les frases fetes, l'estructura de la frase, les formes de tractament, fins i tot què es diu i què no. Demana a un model que «tradueixi» i farà correspondre les frases una per una de la llengua A a la llengua B. Les persones fem el mateix: quan l'encàrrec és fer de traductor, la feina es redueix a convertir frases.
Un doblatge traduït així s'entén, però no és correcte.
- El japonès sol evitar les formulacions massa directes; sovint cal reconstruir una frase natural de manera indirecta, no suavitzar-la paraula per paraula.
- El coreà omet el subjecte constantment; si s'hi traslladen els pronoms anglesos amb la freqüència de l'anglès, sona estranger encara que cada paraula sigui correcta.
- L'ordre de les paraules, el registre, els honorífics i el que una cultura deixa sense dir canvien amb cada llengua; una traducció no és bona només perquè n'hagi sobreviscut el sentit literal.
«Bé» no cap en una llista de comprovació, així que reduïm l'objectiu a una sola frase: transmetre bé el contingut del vídeo en la llengua de destinació. I això es pot mesurar:
de la qualitat de la traducció humana experta per a Familiar, puntuada a cegues amb edicions de referència d'experts
FRANCÈS, XINÈS, HINDI, INDONESI (PRIMERA VERSIÓ DE TRADUCTORS PROFESSIONALS EXPERTS)menys errors de traducció importants per a Familiar amb els mateixos clips (29 vs 64)
VS ELEVENLABS DUBBING V2 (ALPHA) · 111 DOBLATGES APARELLATS · 3 LLENGÜESÀudio natural: la mateixa persona, en una llengua nova
La pronunciació està gairebé resolta. Els errors interessants són més enllà:
- Identitat: la mateixa persona continua sonant com la mateixa persona, en totes les llengües.
- Emoció: el que sentia qui parla sobreviu al canvi de llengua.
- Èmfasi, ritme, intenció: on carrega la frase, a quina velocitat avança, què intenta fer.
L'objectiu es redueix igual que el de la traducció: l'àudio encaixa amb el vídeo. No es tracta de «fer sonar la llengua B amb la veu de la llengua A». La mateixa interpretació, en una llengua nova. I l'escena forma part de l'àudio: les rialles, la música, l'ambient de la sala.
més dany al so de fons per part d'ElevenLabs (11.92 vs 3.22 dB): música, efectes, ambient
ESTUDI DE DUBBING V2 (ALPHA) · MATEIXOS CLIPSmés semblança amb el parlant per a Familiar (0.461 vs 0.360), més propera en les 11 llengües
VS ELEVENLABS · ESTUDI DE DUBBING V1 · 418 DOBLATGES APARELLATSEditing the translation means their old model.
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES
261%
ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE
+243.7%
FAMILIAR ON LAUGHTER AND REACTION SHAPE
El text en pantalla forma part del vídeo
El vídeo d'avui es recolza en el text en pantalla: rètols, acudits, mems, una sola paraula que cau just en un cop de ritme. Cadascun és un esdeveniment visual en la llengua d'origen. Adaptar-lo té dos requisits:
- No malmetre mai el vídeo. Els artefactes o les distraccions visuals fan que el resultat sigui pitjor que l'original.
- No traduir-lo mai literalment. Cal entendre per què aquest text apareix en aquest moment i en aquest lloc abans de poder-lo adaptar.
Avui el model multimodal de decisió de localització (MLDM) de Familiar, el primer model fundacional de traducció multimodal, un nou paradigma i el primer del seu gènere, tradueix els títols, les descripcions i els subtítols juntament amb el doblatge. El text dins de la imatge està en preparació: la pantalla d'un mòbil o una placa de carrer, escrits amb els termes que ja has triat, amb una marca o un nom que es queden tal com es van rodar, decidit sobre la marxa (una bossa de Tostitos continua sent Tostitos), i tu tries quin text cal traduir. La regla no canvia: si l'edició es nota, no és prou bona.
Sincronització labial: l'èxit és que no es noti
La sincronització labial té el mateix requisit inflexible: no malmetre mai el vídeo. El millor elogi que pot rebre la sincronització labial d'un doblatge és la pregunta «què ha canviat?».
L'efecte també juga a favor del doblatge. Quan la boca hi coincideix, el cervell resol l'ambigüitat cap a la coherència: la pronunciació sembla més clara i el timbre sembla més el de la mateixa persona.
Les parts difícils: les veus fora de camp, els parlants que se solapen, les persones que s'assemblen d'aspecte o de veu, i editar la boca sense trencar la cara. Posa dues persones en pantalla i les eines d'avui sincronitzen totes dues boques alhora.
Els llavis només són el principi. Una persona interpreta una frase amb tota la cara (els ulls, les celles, les galtes, el cap) i amb el cos: els gestos, els assentiments, aquell mig temps d'escoltar.
Un sol problema, no quatre
Cada requisit acabava reduint-se a la mateixa frase. Traducció natural: escriure el que diu aquest vídeo en la llengua de destinació. Àudio natural: mantenir la mateixa interpretació amb les paraules noves. Text en pantalla: saber per què hi és abans de tocar-lo. Sincronització labial: editar la persona sense trencar-la.
La mateixa interpretació, en una altra llengua.
Això és el que decideix l'MLDM, mesurat amb els mateixos clips i publicat a /benchmark. Cada decisió queda registrada en el doblatge i es pot modificar; avui els teus directors creatius trien entre les versions de la traducció.
REFERÈNCIES
- [1]Benchmark Familiar vs ElevenLabs: resultats complets, intervals i exemples per escoltar
- [2]Traducció amb IA vs traducció humana: a prova contra professionals
- [3]Sincronització labial amb IA: què és, què se li escapa, què la supera
- [4]Per què el doblatge grinyola a l'estranger i com ho arreglen els estudis (la versió d'aquest argument per als estudis)
- [5]McGurk i MacDonald, «Hearing lips and seeing voices», Nature 264 (1976)
Traducció multimodal
Familiar Labs fa un doblatge d'una altra generació amb un model multimodal de decisió de localització (MLDM), el primer model fundacional de traducció multimodal: un sol model decideix què cal localitzar en el text, l'àudio i la imatge, i et mostra les opcions. La teva veu i els teus llavis, portats a llengües noves. Un equip de 8 persones amb doctorats, amb el suport de Samsung, RedBird i Gold House. La nostra missió
