SOMMARIO
I quattro problemi
Chiedi cosa rende buono un video doppiato e arriva un lungo elenco. Che si riduce a quattro voci:
Se le prime due falliscono, il resto non conta più: una frase tradotta male o una voce palesemente sbagliata bastano da sole ad affossare il doppiaggio. Le ultime due decidono se il risultato sembra l'originale o un doppiaggio.
Traduzione naturale: un nuovo copione, non una corrispondenza
Ogni lingua dice le cose a modo suo: parole, modi di dire, struttura della frase, forme di cortesia, perfino cosa si dice e cosa no. Se si chiede a un modello di "tradurre", trasferisce le frasi una a una dalla lingua A alla lingua B. Le persone fanno lo stesso: messe nei panni del traduttore, riducono il compito a convertire frasi.
Un doppiaggio tradotto così si capisce, ma è sbagliato.
- Il giapponese tende a evitare le formulazioni troppo dirette; spesso una battuta naturale va ricostruita in modo indiretto, non ammorbidita parola per parola.
- Il coreano omette di continuo il soggetto; portare in coreano i pronomi dell'inglese con la stessa frequenza suona straniero anche quando ogni parola è corretta.
- Ordine delle parole, registro, forme onorifiche e ciò che una cultura lascia sottinteso cambiano da lingua a lingua; una traduzione non è buona solo perché il senso letterale è sopravvissuto.
"Bene" non si lascia ridurre a una checklist, quindi condensiamo l'obiettivo in una frase: restituire bene il contenuto del video nella lingua di destinazione. E questo si può misurare:
della qualità di una traduzione umana esperta per Familiar, con valutazione alla cieca contro revisioni di riferimento fatte da esperti
FRANCESE, CINESE, HINDI, INDONESIANO (PRIMA STESURA DEI TRADUTTORI PROFESSIONISTI ESPERTI)di errori importanti di traduzione in meno per Familiar sulle stesse clip (29 contro 64)
CONTRO ELEVENLABS DUBBING V2 (ALPHA) · 111 DOPPIAGGI ACCOPPIATI · 3 LINGUEAudio naturale: la stessa persona, in una nuova lingua
La pronuncia è un problema quasi risolto. Gli errori interessanti stanno oltre:
- Identità: la stessa persona continua a suonare come la stessa persona, in ogni lingua.
- Emozione: ciò che provava chi parla sopravvive al cambio di lingua.
- Enfasi, ritmo, intenzione: dove la frase pesa, quanto corre, cosa sta cercando di fare.
L'obiettivo si condensa come quello della traduzione: l'audio corrisponde al video. Non "generare la lingua B con la voce della lingua A". La stessa interpretazione, in una nuova lingua. E la scena fa parte dell'audio: le risate, la musica, l'ambiente.
di danni in più ai suoni di sottofondo con ElevenLabs (11.92 contro 3.22 dB): musica, effetti, atmosfera
STUDIO SU DUBBING V2 (ALPHA) · STESSE CLIPdi somiglianza in più con la voce di chi parla per Familiar (0.461 contro 0.360), più vicina in tutte e 11 le lingue
CONTRO ELEVENLABS · STUDIO SU DUBBING V1 · 418 DOPPIAGGI ACCOPPIATIEditing the translation means their old model.
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES
261%
ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE
+243.7%
FAMILIAR ON LAUGHTER AND REACTION SHAPE
Il testo sullo schermo fa parte del video
Il video di oggi si appoggia molto al testo sullo schermo: didascalie, battute, meme, una sola parola a tempo con il ritmo. Ognuno è un evento visivo nella lingua di partenza. Adattarlo richiede due cose:
- Non rovinare mai il video. Artefatti o distrazioni visive rendono il risultato peggiore dell'originale.
- Non tradurlo mai alla lettera. Prima di adattarlo bisogna capire perché quel testo compare in quel momento, in quel punto.
Oggi il modello decisionale multimodale per la localizzazione (MLDM) di Familiar, il primo modello di fondazione per la traduzione multimodale, un nuovo paradigma e il primo nel suo genere, traduce titoli, descrizioni e sottotitoli insieme al doppiaggio. Il testo nell'inquadratura è in lavorazione: lo schermo di un telefono o un cartello stradale, scritti con i termini che hai già scelto, un marchio o un nome lasciati così come sono stati girati, decisi al volo, così un sacchetto di Tostitos resta Tostitos, e sei tu a scegliere quale testo tradurre. La regola resta: se la modifica si nota, non è abbastanza buona.
Lip sync: riesce quando non si nota
Il lip sync ha lo stesso requisito inderogabile: non rovinare mai il video. Il complimento più grande che il lip sync di un doppiaggio possa ricevere è la domanda "cosa è cambiato?"
Lo stesso effetto lavora anche a favore del doppiaggio. Quando la bocca combacia, il cervello risolve le ambiguità verso la coerenza: la pronuncia sembra più chiara e il timbro più simile a quello della stessa persona.
Le parti difficili: voci fuori campo, persone che parlano una sopra l'altra, persone che si somigliano nell'aspetto o nella voce, e modificare la bocca senza rompere il volto. Con due persone in scena, gli strumenti di oggi sincronizzano le labbra di entrambe nello stesso momento.
E le labbra sono solo l'inizio. Una frase si recita con tutto il volto, occhi, sopracciglia, guance, testa, e con il corpo: i gesti, i cenni, quel mezzo tempo in cui si ascolta.
Un problema solo, non quattro
Ogni requisito continuava a ridursi alla stessa frase. Traduzione naturale: scrivere ciò che dice il video, nella lingua di destinazione. Audio naturale: mantenere la stessa interpretazione con le nuove parole. Testo sullo schermo: sapere perché è lì prima di toccarlo. Lip sync: modificare la persona senza romperla.
La stessa interpretazione, in un'altra lingua.
È questo che decide l'MLDM, misurato sulle stesse clip e pubblicato su /benchmark. Ogni decisione viene registrata insieme al lavoro e si può modificare; oggi i tuoi direttori creativi scelgono tra le traduzioni proposte.
RIFERIMENTI
- [1]Benchmark Familiar vs ElevenLabs: risultati completi, intervalli ed esempi di ascolto
- [2]Traduzione AI e traduzione umana: il confronto con i professionisti
- [3]Lip sync AI: cos'è, cosa gli sfugge, cosa lo batte
- [4]Doppiaggio che non convince all'estero: come lo risolvono gli studi (la versione di questo ragionamento per gli studi)
- [5]McGurk & MacDonald, “Hearing lips and seeing voices,” Nature 264 (1976)
Traduzione multimodale
Familiar Labs realizza un doppiaggio di nuova generazione con un modello decisionale multimodale per la localizzazione (MLDM), il primo modello di fondazione per la traduzione multimodale: un solo modello decide cosa localizzare tra testo, audio e video, e ti mostra le scelte. La tua voce e le tue labbra, portate in nuove lingue. Un team di 8 persone con dottorati di ricerca, sostenuto da Samsung, RedBird e Gold House. La nostra missione
