NOTA DI RICERCA

Cosa conta nella traduzione video

FAMILIAR RICERCAAGGIORNATO TUTTI GLI ARTICOLI

SOMMARIO

Quattro cose decidono se un doppiaggio regge: la traduzione sembra scritta nella lingua di destinazione, l'audio suona ancora come chi parla, il testo sullo schermo viene adattato e le labbra combaciano. Le prime due condizionano tutto il resto. Alla fine tutte e quattro si riducono allo stesso problema: la stessa interpretazione, in un'altra lingua.

I quattro problemi

Chiedi cosa rende buono un video doppiato e arriva un lungo elenco. Che si riduce a quattro voci:

TRADUZIONE NATURALE
COSA VUOL DIRE FARLO BENEUn nuovo copione nella lingua di destinazione che restituisce bene il video; non una corrispondenza frase per frase.
AUDIO NATURALE
COSA VUOL DIRE FARLO BENELa stessa persona, la stessa emozione, la stessa enfasi, nella nuova lingua.
TESTO SULLO SCHERMO
COSA VUOL DIRE FARLO BENEAdattato alla lingua e al momento in cui compare, senza rovinare il video.
LIP SYNC
COSA VUOL DIRE FARLO BENEInvisibile. Lo spettatore non si accorge mai che c'è stato.

Se le prime due falliscono, il resto non conta più: una frase tradotta male o una voce palesemente sbagliata bastano da sole ad affossare il doppiaggio. Le ultime due decidono se il risultato sembra l'originale o un doppiaggio.

Traduzione naturale: un nuovo copione, non una corrispondenza

Ogni lingua dice le cose a modo suo: parole, modi di dire, struttura della frase, forme di cortesia, perfino cosa si dice e cosa no. Se si chiede a un modello di "tradurre", trasferisce le frasi una a una dalla lingua A alla lingua B. Le persone fanno lo stesso: messe nei panni del traduttore, riducono il compito a convertire frasi.

Un doppiaggio tradotto così si capisce, ma è sbagliato.

Allo spettatore serve un nuovo copione, scritto nella lingua di destinazione, che restituisca bene il contenuto del video.
  • Il giapponese tende a evitare le formulazioni troppo dirette; spesso una battuta naturale va ricostruita in modo indiretto, non ammorbidita parola per parola.
  • Il coreano omette di continuo il soggetto; portare in coreano i pronomi dell'inglese con la stessa frequenza suona straniero anche quando ogni parola è corretta.
  • Ordine delle parole, registro, forme onorifiche e ciò che una cultura lascia sottinteso cambiano da lingua a lingua; una traduzione non è buona solo perché il senso letterale è sopravvissuto.

"Bene" non si lascia ridurre a una checklist, quindi condensiamo l'obiettivo in una frase: restituire bene il contenuto del video nella lingua di destinazione. E questo si può misurare:

100.3%

della qualità di una traduzione umana esperta per Familiar, con valutazione alla cieca contro revisioni di riferimento fatte da esperti

FRANCESE, CINESE, HINDI, INDONESIANO (PRIMA STESURA DEI TRADUTTORI PROFESSIONISTI ESPERTI)
54.7%

di errori importanti di traduzione in meno per Familiar sulle stesse clip (29 contro 64)

CONTRO ELEVENLABS DUBBING V2 (ALPHA) · 111 DOPPIAGGI ACCOPPIATI · 3 LINGUE

Audio naturale: la stessa persona, in una nuova lingua

La pronuncia è un problema quasi risolto. Gli errori interessanti stanno oltre:

  • Identità: la stessa persona continua a suonare come la stessa persona, in ogni lingua.
  • Emozione: ciò che provava chi parla sopravvive al cambio di lingua.
  • Enfasi, ritmo, intenzione: dove la frase pesa, quanto corre, cosa sta cercando di fare.

L'obiettivo si condensa come quello della traduzione: l'audio corrisponde al video. Non "generare la lingua B con la voce della lingua A". La stessa interpretazione, in una nuova lingua. E la scena fa parte dell'audio: le risate, la musica, l'ambiente.

270%

di danni in più ai suoni di sottofondo con ElevenLabs (11.92 contro 3.22 dB): musica, effetti, atmosfera

STUDIO SU DUBBING V2 (ALPHA) · STESSE CLIP
+27.8%

di somiglianza in più con la voce di chi parla per Familiar (0.461 contro 0.360), più vicina in tutte e 11 le lingue

CONTRO ELEVENLABS · STUDIO SU DUBBING V1 · 418 DOPPIAGGI ACCOPPIATI
ElevenLabsElevenLabsElevenLabsTHEIR DOCS, READ OCTOBER 30, 2026

Editing the translation means their old model.

On ElevenLabs' current Dubbing v2, in alpha, editing the translation and regenerating the audio through the API is for their Enterprise plans only. Their full editor, Dubbing Studio, is "only available via the v1 model" and "in maintenance mode", in their words. Dubbing v1 is the model our 418-pair study measured, and its output is mono.

+27.8%

FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES

261%

ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE

+243.7%

FAMILIAR ON LAUGHTER AND REACTION SHAPE

ELEVENLABS DUBBING V1 · 418 PAIRED OUTPUTS · 11 LANGUAGES · AUGUST 5, 2026Read the study Their docs

Il testo sullo schermo fa parte del video

Il video di oggi si appoggia molto al testo sullo schermo: didascalie, battute, meme, una sola parola a tempo con il ritmo. Ognuno è un evento visivo nella lingua di partenza. Adattarlo richiede due cose:

  • Non rovinare mai il video. Artefatti o distrazioni visive rendono il risultato peggiore dell'originale.
  • Non tradurlo mai alla lettera. Prima di adattarlo bisogna capire perché quel testo compare in quel momento, in quel punto.

Oggi il modello decisionale multimodale per la localizzazione (MLDM) di Familiar, il primo modello di fondazione per la traduzione multimodale, un nuovo paradigma e il primo nel suo genere, traduce titoli, descrizioni e sottotitoli insieme al doppiaggio. Il testo nell'inquadratura è in lavorazione: lo schermo di un telefono o un cartello stradale, scritti con i termini che hai già scelto, un marchio o un nome lasciati così come sono stati girati, decisi al volo, così un sacchetto di Tostitos resta Tostitos, e sei tu a scegliere quale testo tradurre. La regola resta: se la modifica si nota, non è abbastanza buona.

IL PRIMO MODELLO DI FONDAZIONE PER LA TRADUZIONE MULTIMODALE

Lip sync: riesce quando non si nota

Il lip sync ha lo stesso requisito inderogabile: non rovinare mai il video. Il complimento più grande che il lip sync di un doppiaggio possa ricevere è la domanda "cosa è cambiato?"

Sembra il meno importante dei quattro; nell'esperienza finale è quasi l'opposto. Ascoltiamo anche con gli occhi: lo stesso audio viene percepito come suoni diversi a seconda del movimento della bocca, è l'effetto McGurk. Una bocca che non combacia è uno dei motivi per cui un video doppiato mette a disagio in un modo che lo spettatore non sa spiegare.
McGURK & MacDONALD, “HEARING LIPS AND SEEING VOICES,” NATURE 264 (1976)

Lo stesso effetto lavora anche a favore del doppiaggio. Quando la bocca combacia, il cervello risolve le ambiguità verso la coerenza: la pronuncia sembra più chiara e il timbro più simile a quello della stessa persona.

Le parti difficili: voci fuori campo, persone che parlano una sopra l'altra, persone che si somigliano nell'aspetto o nella voce, e modificare la bocca senza rompere il volto. Con due persone in scena, gli strumenti di oggi sincronizzano le labbra di entrambe nello stesso momento.

E le labbra sono solo l'inizio. Una frase si recita con tutto il volto, occhi, sopracciglia, guance, testa, e con il corpo: i gesti, i cenni, quel mezzo tempo in cui si ascolta.

Un problema solo, non quattro

Ogni requisito continuava a ridursi alla stessa frase. Traduzione naturale: scrivere ciò che dice il video, nella lingua di destinazione. Audio naturale: mantenere la stessa interpretazione con le nuove parole. Testo sullo schermo: sapere perché è lì prima di toccarlo. Lip sync: modificare la persona senza romperla.

La stessa interpretazione, in un'altra lingua.

È questo che decide l'MLDM, misurato sulle stesse clip e pubblicato su /benchmark. Ogni decisione viene registrata insieme al lavoro e si può modificare; oggi i tuoi direttori creativi scelgono tra le traduzioni proposte.

RIFERIMENTI

  1. [1]Benchmark Familiar vs ElevenLabs: risultati completi, intervalli ed esempi di ascolto
  2. [2]Traduzione AI e traduzione umana: il confronto con i professionisti
  3. [3]Lip sync AI: cos'è, cosa gli sfugge, cosa lo batte
  4. [4]Doppiaggio che non convince all'estero: come lo risolvono gli studi (la versione di questo ragionamento per gli studi)
  5. [5]McGurk & MacDonald, “Hearing lips and seeing voices,” Nature 264 (1976)

Traduzione multimodale

Familiar Labs realizza un doppiaggio di nuova generazione con un modello decisionale multimodale per la localizzazione (MLDM), il primo modello di fondazione per la traduzione multimodale: un solo modello decide cosa localizzare tra testo, audio e video, e ti mostra le scelte. La tua voce e le tue labbra, portate in nuove lingue. Un team di 8 persone con dottorati di ricerca, sostenuto da Samsung, RedBird e Gold House. La nostra missione