ΠΕΡΙΛΗΨΗ
Τι ήταν η εποχή της αλυσίδας στη μηχανική μεταγλώττιση;
Η μηχανική μεταγλώττιση ξεκίνησε ως αλυσίδα: τέσσερα εργαλεία στη σειρά, φτιαγμένα και ρυθμισμένα το καθένα χωριστά, με το καθένα να παραδίδει το αποτέλεσμά του στο επόμενο.
- 01
Μεταγραφή.
Η μετατροπή ομιλίας σε κείμενο καταγράφει ό,τι ειπώθηκε. - 02
Μετάφραση.
Ένα μοντέλο κειμένου αποδίδει τη μεταγραφή στη νέα γλώσσα, χωρίς να ακούει τη φωνή ή να βλέπει το πρόσωπο. - 03
Μια φωνή.
Η μετατροπή κειμένου σε ομιλία διαβάζει τη μετάφραση δυνατά, συχνά με τη φωνή ενός ξένου. - 04
Lip sync.
Ένα ξεχωριστό εργαλείο κινεί το στόμα με τον νέο ήχο, αφού έχει κλειδώσει κάθε λέξη.
Αυτή η αλυσίδα έκανε δυνατή τη μηχανική μεταγλώττιση. Το όριό της βρίσκεται στο σχήμα της: κάθε στάδιο μαντεύει χωρίς τα άλλα. Η μετάφραση δεν μπορεί να ξέρει ότι η ατάκα πρέπει να χωρέσει σε ένα κλειστό στόμα. Η φωνή δεν μπορεί να ξέρει σε ποιον χώρο βρίσκεται. Μια λέξη που ακούστηκε λάθος ή μια ατάκα που βγαίνει μεγάλη περνά παρακάτω, και το λάθος συσσωρεύεται σε κάθε επόμενο στάδιο.
Κάθε εργαλείο βελτιώθηκε με τα χρόνια: καθαρότερη μεταγραφή, πιο εύστοχη μετάφραση, πιο φυσική φωνή. Η τελική μεταγλώττιση βελτιωνόταν πιο αργά, γιατί οι ραφές ανάμεσα στα εργαλεία έμεναν εκεί που ήταν.
Τι συναντά σήμερα ένας αγοραστής;
Στην πράξη η αλυσίδα φτάνει ως στοίβα εργαλείων: τη μεταγραφή από ένα, τη μετάφραση από άλλο, τη φωνή από τρίτο, το lip sync και τους υπότιτλους από τέταρτο. Μια διόρθωση σε μία ατάκα σημαίνει ότι ξανατρέχει κάθε στάδιο μετά από αυτήν, και κάποιος στην ομάδα σας κρατά τα αρχεία ενωμένα. Τα εργαλεία που παρακάμπτουν τη στοίβα ανταλλάσσουν ποιότητα με χρόνο. Τα υποβοηθητικά εργαλεία φτάνουν την ποιότητα με μια ομάδα καλλιτεχνών VFX στα δύσκολα πλάνα: εβδομάδες για κάθε έργο, και κάθε γλώσσα είναι ένα καινούργιο έργο. Τα εργαλεία που κάνουν τη δουλειά με τη μία είναι γρήγορα και θυσιάζουν τα υπόλοιπα: η φωνή ξεφεύγει, ο ήχος του χώρου χάνεται, και τα χείλη αποτυγχάνουν σε ένα χέρι μπροστά στο πρόσωπο, ένα μικρόφωνο, θόλωμα, bokeh, μια πλάγια λήψη ή πολλά άτομα στο κάδρο, χωρίς καμία αντίληψη του χώρου και καμία κατανόηση του κόσμου. Το Familiar κάνει τη δουλειά με τη μία και με την ποιότητα.
Ο άλλος δρόμος είναι η πλήρης ανθρώπινη μεταγλώττιση, μετάφραση και φωνή, με $70–150 ανά τελικό λεπτό. Το κόστος, το ανθρώπινο δυναμικό και ο χρόνος την κάνουν απρόσιτη για το μεγαλύτερο μέρος του κόσμου: ακόμα και οι μεγαλύτερες παραγωγές μεταγλωττίζονται σε λίγες μόνο γλώσσες, ενώ οι μικρότερες παραγωγές, οι σειρές και τα κάθετα δράματα συνήθως δεν μεταγλωττίζονται καθόλου.
One shot today means giving up the rest.
54.7%
FEWER TRANSLATION ERRORS · FAMILIAR VS ELEVENLABS DUBBING V2
270%
ELEVENLABS MORE BACKGROUND-SOUND ERROR · THE LAUGHTER, THE MUSIC, THE AMBIENCE
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER
Αν εξετάζετε το ElevenLabs Dubbing, ορίστε η τεκμηρίωσή τους, σε παράθεση, δίπλα στη μελέτη μας:
Editing the translation means their old model.
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES
261%
ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE
+243.7%
FAMILIAR ON LAUGHTER AND REACTION SHAPE
Τι αλλάζει όταν ένα μοντέλο παίρνει κάθε απόφαση;
Το Familiar μεταγλωττίζει με ένα πολυτροπικό μοντέλο αποφάσεων τοπικοποίησης (MLDM). Το MLDM αποφασίζει τι θα τοπικοποιηθεί και πώς, σε κείμενο, ήχο και εικόνα, και οι αποφάσεις συμφωνούν επειδή τις παίρνει ένα μοντέλο. Ο ορισμός βρίσκεται στο Το πρώτο θεμελιώδες μοντέλο για πολυτροπική μετάφραση.
ΣΕ ΑΛΥΣΙΔΑ
- Τέσσερα εργαλεία, ρυθμισμένα το καθένα μόνο του.
- Η μετάφραση κλειδώνει πριν ακούσει κανείς τη φωνή.
- Κάθε στάδιο μαντεύει χωρίς τα άλλα, κι έτσι τα λάθη συσσωρεύονται.
- Η φωνή ενός ξένου μπορεί να πέσει πάνω σε ένα πρόσωπο που δεν ταιριάζει.
ΜΕ ΤΗ ΜΙΑ, ΤΟ ΠΡΩΤΟ ΤΟΥ ΕΙΔΟΥΣ ΤΟΥ
- Ένα μοντέλο παίρνει όλες τις αποφάσεις μαζί.
- Η μετάφραση ξέρει σε ποιο στόμα πρέπει να ταιριάξει.
- Η φωνή ξέρει σε ποια σκηνή βρίσκεται.
- Ο άνθρωπος δεν αλλάζει ποτέ.
Αυτό που παίρνετε πίσω είναι η ερμηνεία του ίδιου του ηθοποιού σε άλλη γλώσσα: η φωνή του, τα χείλη του, οι εκφράσεις του και ο ήχος της σκηνής, όλα μαζί. Ένα ανέβασμα βγαίνει σε κάθε γλώσσα ταυτόχρονα: μεταγλωττίσεις σε 30 γλώσσες, από υλικό σε οποιαδήποτε από 99 γλώσσες-πηγές.
Οι κοινές αποφάσεις αλλάζουν και το τι μπορεί να πάει στραβά. Μια ατάκα που θα έβγαινε μεγάλη αποδίδεται ώστε να χωρά στον χρόνο και στο στόμα πριν φτιαχτεί οποιαδήποτε φωνή. Ένα γέλιο στη μέση μιας πρότασης μένει γέλιο. Όταν δύο άνθρωποι μιλούν ο ένας πάνω στον άλλον, το μοντέλο ξέρει ποιος λέει ποια ατάκα, οπότε κινούνται τα σωστά χείλη.
Τι αλλάζει αυτό στην τελική μεταγλώττιση;
Περνάμε τα ίδια κλιπ και από τα δύο συστήματα και τα βαθμολογούμε με τον ίδιο τρόπο. Κάθε νούμερο προέρχεται από τη δική του μελέτη, δημοσιευμένη στο benchmark.
της ποιότητας του έμπειρου ανθρώπινου μεταφραστή, από το Familiar: ισοπαλία
ΓΑΛΛΙΚΑ, ΚΙΝΕΖΙΚΑ, ΧΙΝΤΙ, ΙΝΔΟΝΗΣΙΑΚΑ (ΠΡΩΤΟ ΠΕΡΑΣΜΑ ΕΜΠΕΙΡΩΝ ΕΠΑΓΓΕΛΜΑΤΙΩΝ ΜΕΤΑΦΡΑΣΤΩΝ)λιγότερα σοβαρά μεταφραστικά λάθη από το Familiar (29 έναντι 64)
ΕΝΑΝΤΙ ELEVENLABS DUBBING V2 (ALPHA) · 3 ΓΛΩΣΣΕΣπερισσότερα λάθη στον ήχο περιβάλλοντος από το ElevenLabs (11.92 έναντι 3.22 dB)
ΕΝΑΝΤΙ ΤΟΥ ΝΕΟΤΕΡΟΥ ΤΟΥΣ DUBBING V2 (ALPHA) · 111 ΖΕΥΓΗ ΜΕΤΑΓΛΩΤΤΙΣΕΩΝ · ΜΟΥΣΙΚΗ, ΕΦΕ ΚΑΙ ΑΤΜΟΣΦΑΙΡΑ ΧΩΡΟΥΜετριέται και η φωνή: το Familiar ακούγεται 27.8% πιο κοντά στον πραγματικό ομιλητή από το ElevenLabs Dubbing v1, πιο κοντά και στις 11 γλώσσες, στη μελέτη που παρατίθεται παραπάνω.
Η αυτόματη μεταγλώττιση του YouTube είχε 232.6% περισσότερα λάθη στον ήχο περιβάλλοντος στη δική της μελέτη. Η σκηνή επιβιώνει επειδή το MLDM ακούει τα πάντα στο κανάλι, τα γέλια, το πλήθος, τη μουσική, βρίσκει την κύρια φωνή, τη μεταφέρει στη νέα γλώσσα με τη φωνή του ίδιου του ομιλητή και αφήνει τα υπόλοιπα όπως ήταν.
Τι σημαίνει «πρώτα η μετάφραση, και μετά η μεταγλώττιση με τη μία»;
Η σειρά μετράει. Πρώτα έρχεται η μετάφραση, και την ελέγχουν οι creative directors σας: όπου μια ατάκα μπορεί να βγει με περισσότερους από έναν τρόπους, βλέπουν τις αποδόσεις μαζί με το σκεπτικό της καθεμίας και διαλέγουν μία. Μόνο τότε γίνεται η μεταγλώττιση, μία φορά. Τίποτα καινούργιο δεν επινοείται. Όχι «παραγωγική τεχνητή νοημοσύνη», αλλά μετάφραση στην υπηρεσία των δημιουργών. MLDM για την κουραστική δουλειά.
ΕΙΚΟΝΑ
Έως 4K
ΗΧΟΣ
Πραγματικό 5.1 ή στερεοφωνικό
WAV 24-BIT PCM · Η ΕΠΙΛΟΓΗ ΔΙΚΗ ΣΑΣ
ΥΠΟΤΙΤΛΟΙ
.srt και .vtt
ΣΥΜΒΑΣΕΙΣ TIMED TEXT ΤΟΥ NETFLIX
ΕΠΕΞΕΡΓΑΣΙΑ
Τορόντο, Καναδάς
ΤΟ ΔΙΚΟ ΜΑΣ CLUSTER NVIDIA B300
Οι υπότιτλοι κόβονται κατά τις συμβάσεις του Timed Text Style Guide του Netflix, του προτύπου υποτίτλων με το οποίο δουλεύει ο κλάδος. Κάθε μεταγλώττιση επεξεργάζεται στο δικό του cluster από NVIDIA B300 GPU αξίας οκτώ ψηφίων που έχει το Familiar στο Τορόντο του Καναδά, ποτέ σε δημόσιο cloud όπως το Google Cloud ή το AWS, και ποτέ από τρίτο πάροχο inference. Τα αρχεία βρίσκονται στην τεκμηρίωση για τα παραδοτέα, η επεξεργασία στο ιδιωτικό inference, και τι σημαίνει όλο αυτό για έναν κατάλογο στο Τι σημαίνει ένα θεμελιώδες μοντέλο για πολυτροπική μετάφραση για τα στούντιο και τις πλατφόρμες.
Ποιος παίρνει την τελική απόφαση;
Κάθε απόφαση καταγράφεται μαζί με την εργασία. Μπορείτε να αλλάξετε οποιαδήποτε από αυτές.
- ΣΗΜΕΡΑ
Οι creative directors σας ελέγχουν τις αποφάσεις της μετάφρασης.
Οι αποδόσεις μαζί με το σκεπτικό της καθεμίας· διαλέγουν μία πριν βγει οτιδήποτε προς τα έξω. - ΣΗΜΕΡΑ
Μια λίστα «Χωρίς μετάφραση» και ένα πλαίσιο μίας πρότασης ταξιδεύουν μαζί με την εργασία.
- ΣΤΑ ΣΚΑΡΙΑ
Οι αποφάσεις για τον ήχο και την εικόνα, στον ίδιο έλεγχο.
Τι μένει στην πρωτότυπη γλώσσα, άλλο πρόσωπο όταν το μοντέλο διάλεξε λάθος ομιλητή, και το κείμενο μέσα στο κάδρο.
Αυτό που αλλάζει για έναν κατάλογο είναι η εμβέλεια. Μια σειρά που θα έμενε σε μία γλώσσα μπορεί να βγει σε 30 μαζί, με τις ερμηνείες των ίδιων των ηθοποιών, ενώ η ομάδα σας παίρνει ακόμα κάθε απόφαση που μετράει.
Αυτό είναι το αρχείο αποφάσεων· όλη η ιστορία βρίσκεται στο Το αρχείο αποφάσεων: πώς οι creative directors κατευθύνουν το MLDM, και τι αποφασίζει το μοντέλο στο Τι είναι ένα πολυτροπικό μοντέλο αποφάσεων τοπικοποίησης (MLDM);. Η έρευνα πίσω του βρίσκεται στο Πρωτοπορία στην πολυτροπική μετάφραση: από την κοινή οπτικοακουστική έρευνα στο πρώτο θεμελιώδες μοντέλο. Από άνθρωπο σε άνθρωπο, σε όλο και περισσότερο κόσμο.
ΕΡΩΤΗΣΕΙΣ
Τι σημαίνει «όχι σε αλυσίδα» στη μεταγλώττιση;
Η μηχανική μεταγλώττιση περνούσε παλιότερα από χωριστά εργαλεία στη σειρά: μεταγραφή, μετάφραση, φωνή, lip sync. Το καθένα ήταν ρυθμισμένο μόνο του και μάντευε χωρίς τα άλλα. «Όχι σε αλυσίδα» σημαίνει ότι ένα μοντέλο παίρνει όλες τις αποφάσεις μαζί, οπότε η μετάφραση, η φωνή, τα χείλη και η σκηνή συμφωνούν.
Ελέγχεται η μετάφραση πριν γίνει η μεταγλώττιση;
Ναι. Πρώτα έρχεται η μετάφραση. Όπου μια ατάκα μπορεί να βγει με περισσότερους από έναν τρόπους, οι creative directors σας βλέπουν τις αποδόσεις μαζί με το σκεπτικό της καθεμίας και διαλέγουν μία. Μετά η μεταγλώττιση γίνεται με τη μία: η φωνή, τα χείλη και η σκηνή μαζί.
Είναι αυτό παραγωγική τεχνητή νοημοσύνη;
Όχι «παραγωγική τεχνητή νοημοσύνη», αλλά μετάφραση στην υπηρεσία των δημιουργών. Δεν υπάρχει prompt και τίποτα καινούργιο δεν επινοείται. Ο ηθοποιός, ο χρονισμός και η σκηνή μένουν· τα λόγια, το κανάλι της φωνής και τα χείλη αλλάζουν για να ταιριάξουν στη νέα γλώσσα.
Μπορώ να διαλέξω τις αποφάσεις για τον ήχο και την εικόνα;
Οι επιλογές της μετάφρασης είναι δικές σας σήμερα. Οι επιλογές στον ήχο, όπως τι μένει στην πρωτότυπη γλώσσα, και στην εικόνα, όπως άλλο πρόσωπο όταν το μοντέλο διάλεξε λάθος ομιλητή ή το κείμενο μέσα στο κάδρο, είναι στα σκαριά.
Πού γίνεται η επεξεργασία του υλικού μου;
Στο δικό του cluster από NVIDIA B300 GPU αξίας οκτώ ψηφίων που έχει το Familiar στο Τορόντο του Καναδά. Ποτέ σε δημόσιο cloud όπως το Google Cloud ή το AWS, και ποτέ από τρίτο πάροχο inference.
Ποιοι φτιάχνουν το Familiar;
Διδάκτορες που ξεκίνησαν το πεδίο των κοινών οπτικοακουστικών μοντέλων για ανθρώπους: 22 δημοσιεύσεις και πάνω από 10.000 αναφορές, με τον Prof. Xu Zheng και τον Prof. Youngjung Uh ως συμβούλους. Το Familiar έχει τη στήριξη των Samsung, RedBird και Gold House.
ΠΑΡΑΠΟΜΠΕΣ
ΠΟΛΥΤΡΟΠΙΚΗ ΜΕΤΑΦΡΑΣΗ
Η Familiar Labs φτιάχνει μεταγλώττιση νέας γενιάς με ένα πολυτροπικό μοντέλο αποφάσεων τοπικοποίησης (MLDM), το πρώτο θεμελιώδες μοντέλο για πολυτροπική μετάφραση: ένα μοντέλο αποφασίζει τι θα τοπικοποιηθεί σε κείμενο, ήχο και εικόνα και σου δείχνει τις επιλογές. Η φωνή και τα χείλη σου, μεταφερμένα σε νέες γλώσσες. Μια ομάδα 8 ατόμων με διδάκτορες, με την υποστήριξη των Samsung, RedBird και Gold House. Η αποστολή μας
