RÉSUMÉ
Qu'est-ce que l'ère de la cascade, dans le doublage automatique ?
Le doublage automatique a commencé comme une cascade : quatre outils à la suite, chacun conçu et réglé de son côté, chacun transmettant son résultat au suivant.
- 01
La transcription.
La reconnaissance vocale écrit ce qui a été dit. - 02
La traduction.
Un modèle de texte rend la transcription dans la nouvelle langue, sans entendre la voix ni voir le visage. - 03
Une voix.
La synthèse vocale lit la traduction à voix haute, souvent avec une voix d'inconnu. - 04
Le lipsync.
Un outil distinct fait bouger la bouche sur le nouvel audio, une fois chaque mot figé.
Cette chaîne a rendu le doublage automatique possible. Sa limite tient à sa forme : chaque étape devine sans les autres. La traduction ne peut pas savoir que la réplique doit tenir sur une bouche fermée. La voix ne peut pas connaître la pièce où elle résonne. Un mot mal entendu ou une réplique trop longue se transmet, et l'erreur s'aggrave à chaque étape suivante.
Chaque outil s'est amélioré au fil des ans : une transcription plus propre, une traduction plus fine, une voix plus naturelle. Le doublage final, lui, a progressé plus lentement, parce que les coutures entre les outils sont restées à la même place.
À quoi un acheteur a-t-il affaire aujourd'hui ?
En pratique, la cascade se présente comme une pile d'outils : la transcription de l'un, la traduction d'un autre, une voix d'un troisième, le lipsync et les sous-titres d'un quatrième. Corriger une réplique oblige à relancer toutes les étapes suivantes, et quelqu'un dans votre équipe tient les fichiers ensemble. Les outils qui court-circuitent la pile arbitrent entre qualité et délai. Les outils d'assistance atteignent la qualité avec une équipe d'artistes VFX sur les plans difficiles : des semaines par projet, et chaque langue est un nouveau projet. Les outils en une seule passe sont rapides et sacrifient tout le reste : la voix dérive, l'ambiance disparaît, et les lèvres décrochent dès qu'il y a une main devant le visage, un micro, du flou, du bokeh, un plan de profil ou plusieurs personnes à l'image, sans aucun raisonnement spatial ni compréhension du monde. Familiar, c'est une seule passe, et la qualité.
L'autre voie, c'est le doublage humain complet, traduction et voix, à 70–150 $ la minute produite. Le coût, les effectifs et le temps le mettent hors de portée pour la plus grande partie du monde : même les grandes productions ne doublent qu'en quelques langues, et les petites productions, les séries et les dramas verticaux ne doublent le plus souvent pas du tout.
One shot today means giving up the rest.
54.7%
FEWER TRANSLATION ERRORS · FAMILIAR VS ELEVENLABS DUBBING V2
270%
ELEVENLABS MORE BACKGROUND-SOUND ERROR · THE LAUGHTER, THE MUSIC, THE AMBIENCE
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER
Si vous envisagez ElevenLabs Dubbing, voici leur documentation, citée, à côté de notre étude :
Editing the translation means their old model.
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES
261%
ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE
+243.7%
FAMILIAR ON LAUGHTER AND REACTION SHAPE
Qu'est-ce qui change quand un seul modèle prend toutes les décisions ?
Familiar double avec un modèle de décision multimodal pour la localisation (MLDM). Le MLDM décide quoi localiser et comment, dans le texte, le son et l'image, et les décisions s'accordent parce qu'un seul modèle les prend. La définition se trouve dans Le premier modèle de fondation pour la traduction multimodale.
EN CASCADE
- Quatre outils, chacun réglé isolément.
- La traduction est figée avant que quiconque entende la voix.
- Chaque étape devine sans les autres, et les erreurs s'accumulent.
- La voix d'un inconnu peut atterrir sur un visage qui ne correspond pas.
D'UN SEUL TENANT, LE PREMIER DU GENRE
- Un seul modèle prend toutes les décisions ensemble.
- La traduction connaît la bouche à laquelle elle doit s'ajuster.
- La voix connaît la scène dans laquelle elle s'inscrit.
- La personne ne change jamais.
Ce que vous récupérez, c'est la performance de l'acteur lui-même dans une autre langue : sa voix, ses lèvres, ses expressions et le son de la scène, portés ensemble. Un seul envoi part dans toutes les langues à la fois : des doublages en 30 langues, à partir d'images dans l'une des 99 langues sources.
Décider ensemble change aussi ce qui peut mal tourner. Une réplique qui serait trop longue est rendue pour tenir dans le temps et sur la bouche avant qu'aucune voix ne soit produite. Un rire au milieu d'une phrase reste un rire. Quand deux personnes parlent en même temps, le modèle sait qui dit quelle réplique, et ce sont les bonnes lèvres qui bougent.
Qu'est-ce que cela change dans le doublage fini ?
Nous faisons passer les mêmes clips par les deux systèmes et les notons de la même façon. Chaque chiffre vient de sa propre étude, publiée sur le benchmark.
de la qualité de la traduction humaine experte pour Familiar : elle l'égale
FRANÇAIS, CHINOIS, HINDI, INDONÉSIEN (PREMIER JET DES TRADUCTEURS PROFESSIONNELS EXPERTS)d'erreurs de traduction importantes en moins pour Familiar (29 contre 64)
FACE À ELEVENLABS DUBBING V2 (ALPHA) · 3 LANGUESd'erreurs en plus sur le fond sonore chez ElevenLabs (11.92 contre 3.22 dB)
FACE À LEUR PRODUIT LE PLUS RÉCENT, DUBBING V2 (ALPHA) · 111 DOUBLAGES APPARIÉS · MUSIQUE, EFFETS ET AMBIANCE DE LA PIÈCELa voix est mesurée aussi : Familiar ressemble 27.8% plus au vrai locuteur qu'ElevenLabs Dubbing v1, plus proche dans les 11 langues, dans l'étude citée plus haut.
Le doublage automatique de YouTube a montré 232.6% d'erreurs en plus sur le fond sonore dans sa propre étude. La scène survit parce que le MLDM entend tout dans la piste, les rires, la foule, la musique, repère la voix principale, la porte dans la nouvelle langue avec la propre voix du locuteur, et laisse le reste tel quel.
Que veut dire « d'abord la traduction, puis le doublage en une seule passe » ?
L'ordre compte. La traduction vient en premier, et vos directeurs artistiques la valident : là où une réplique peut se lire de plusieurs façons, ils voient les traductions avec l'argumentaire de chacune et en choisissent une. Ce n'est qu'ensuite que le doublage est réalisé, une seule fois. Rien de nouveau n'est inventé. Pas de l'« IA générative », mais de la traduction au service des créatifs. Le MLDM pour les tâches fastidieuses.
IMAGE
Jusqu'en 4K
SON
Vrai 5.1 ou stéréo
WAV PCM 24 BITS · AU CHOIX
SOUS-TITRES
.srt et .vtt
CONVENTIONS TIMED TEXT DE NETFLIX
TRAITEMENT
Toronto, Canada
NOTRE PROPRE CLUSTER NVIDIA B300
Les sous-titres sont découpés selon les conventions du Timed Text Style Guide de Netflix, la norme de gabarits de sous-titres sur laquelle s'aligne le secteur. Chaque doublage est traité sur le propre cluster à huit chiffres de GPU NVIDIA B300 de Familiar, à Toronto, au Canada, jamais sur un cloud public comme Google Cloud ou AWS, et jamais par un prestataire d'inférence tiers. Les fichiers sont décrits dans la documentation des sorties, le traitement dans l'inférence privée, et ce que cela signifie pour un catalogue dans Ce qu'un modèle de fondation pour la traduction multimodale change pour les studios et les plateformes.
Qui a le dernier mot ?
Chaque décision est enregistrée avec la tâche. Vous pouvez revenir sur chacune.
- AUJOURD'HUI
Vos directeurs artistiques valident les décisions de traduction.
Les traductions possibles, chacune avec son argumentaire ; ils en choisissent une avant toute diffusion. - AUJOURD'HUI
Une liste « Ne pas traduire » et un contexte d'une phrase accompagnent la tâche.
- EN PRÉPARATION
Les décisions sur le son et l'image, sur le même écran de validation.
Ce qui reste dans la langue d'origine, un autre visage quand le modèle s'est trompé de locuteur, et le texte à l'image.
Ce qui change pour un catalogue, c'est la portée. Une série qui serait restée dans une seule langue peut sortir en 30 à la fois, avec les performances de ses propres acteurs, pendant que votre équipe garde la main sur chaque choix qui compte.
C'est le relevé des décisions ; le détail est dans Le relevé des décisions, et ce que décide le modèle dans Qu'est-ce que le MLDM ?. La recherche qui le sous-tend est dans Pionniers de la traduction multimodale. D'humain à humain, pour toucher un public plus large.
QUESTIONS
Que veut dire « pas en cascade » dans le doublage ?
Le doublage automatique passait par des outils séparés, à la suite : la transcription, la traduction, une voix, le lipsync. Chacun était réglé isolément et devinait sans les autres. Pas en cascade veut dire qu'un seul modèle prend toutes les décisions ensemble, si bien que la traduction, la voix, les lèvres et la scène s'accordent.
La traduction est-elle validée avant que le doublage soit réalisé ?
Oui. La traduction vient en premier. Là où une réplique peut se lire de plusieurs façons, vos directeurs artistiques voient les traductions avec l'argumentaire de chacune et en choisissent une. Ensuite, le doublage est réalisé en une seule passe : la voix, les lèvres et la scène ensemble.
Est-ce de l'IA générative ?
Pas de l'« IA générative », mais de la traduction au service des créatifs. Il n'y a pas de prompt, et rien de nouveau n'est inventé. L'acteur, le rythme et la scène restent ; les mots, la piste vocale et les lèvres changent pour s'accorder à la nouvelle langue.
Puis-je choisir les décisions sur le son et l'image ?
Les choix de traduction vous appartiennent dès aujourd'hui. Les choix sur le son, comme ce qui reste dans la langue d'origine, et sur l'image, comme un autre visage quand le modèle s'est trompé de locuteur ou le texte à l'image, sont en préparation.
Où mes images sont-elles traitées ?
Sur le propre cluster à huit chiffres de GPU NVIDIA B300 de Familiar, à Toronto, au Canada. Jamais sur un cloud public comme Google Cloud ou AWS, et jamais par un prestataire d'inférence tiers.
Qui construit Familiar ?
Des docteurs qui ont fondé le domaine des modèles audiovisuels conjoints d'humains : 22 articles et plus de 10 000 citations, avec le Pr Xu Zheng et le Pr Youngjung Uh pour conseillers. Familiar est soutenu par Samsung, RedBird et Gold House.
RÉFÉRENCES
Traduction multimodale
Familiar Labs conçoit un doublage d'une génération d'avance grâce à un modèle de décision multimodal pour la localisation (MLDM), le premier modèle de fondation pour la traduction multimodale : un seul modèle décide ce qu'il faut localiser dans le texte, le son et l'image, et vous montre les choix. Votre voix et vos lèvres, portées dans de nouvelles langues. Une équipe de 8 personnes, dont des docteurs, soutenue par Samsung, RedBird et Gold House. Notre mission
