ABSTRAK
Apa yang diputuskan MLFM?
PILIHAN YANG ANDA LIHAT
Mengapa satu model?
RANTAI ALAT
- Speech-to-text, lalu terjemahan, lalu suara, lalu lip-sync, masing-masing tahap disetel sendiri-sendiri.
- Rantai itulah yang membuat dubbing mesin menjadi mungkin.
- Setiap tahap tetap menebak tanpa tahu tahap lainnya, sehingga kesalahannya menumpuk dari satu tahap ke tahap berikutnya.
SATU MODEL FONDASI, YANG PERTAMA DARI JENISNYA
- MLFM membuat keputusan-keputusannya bersamaan.
- Terjemahannya tahu mulut mana yang harus dicocokkan.
- Suaranya tahu adegan tempat ia berada.
- Orangnya tidak pernah berubah.
Terjemahan audio-visual sekaligus, bukan berantai: yang pertama dari jenisnya. Itulah yang menjadikan MLFM model fondasi pertama untuk terjemahan multimodal: satu model yang membawa kata-kata, suara, bibir, dan adegannya ke bahasa baru, semuanya sekaligus. Jalur berkualitas tinggi saat ini bersifat berbantuan: tim artis VFX dan waktu berminggu-minggu per proyek, dan setiap bahasa menjadi proyek baru. Tool sekali jalan yang ada saat ini memang cepat, tetapi mengorbankan sisanya. Familiar Labs menghadirkan keduanya: sekali jalan dan kualitas tinggi.
One shot today means giving up the rest.
54.7%
FEWER TRANSLATION ERRORS · FAMILIAR LABS VS ELEVENLABS DUBBING V2
270%
ELEVENLABS MORE BACKGROUND-SOUND ERROR · THE LAUGHTER, THE MUSIC, THE AMBIENCE
+27.8%
FAMILIAR LABS CLOSER TO THE REAL SPEAKER
Apa beda lokalisasi dan terjemahan?
Terjemahan adalah kata-katanya. Lokalisasi adalah apa yang dibutuhkan sebuah budaya dari kata-kata itu.
Apakah MLFM itu AI generatif?
Bukan. IBM mendefinisikannya seperti ini:
AI generatif, kadang disebut gen AI, adalah kecerdasan buatan (AI) yang dapat menciptakan konten orisinal seperti teks, gambar, video, audio, atau kode perangkat lunak sebagai respons atas prompt atau permintaan pengguna.
Itu alat yang hebat untuk membuat hal baru. MLFM tidak memakai prompt, dan tidak ada hal baru yang dikarang: model ini memutuskan cara melokalisasi apa yang sudah ada. Posisi lengkapnya ada di Mengapa Familiar Labs Bukan AI Generatif Tradisional dan Terjemahan Bukan Pembuatan Konten Baru.
Keputusan siapa itu?
Keputusan Anda. Setiap keputusan yang dibuat MLFM dicatat bersama dubbing-nya, dalam catatan keputusan.
- SAAT INI
Creative director Anda me-review keputusan terjemahannya.
Versi-versi terjemahan beserta alasannya masing-masing; mereka memilih satu sebelum apa pun dirilis. - SAAT INI
Daftar Do Not Translate dan konteks satu kalimat ikut menyertai pekerjaan dubbing-nya.
- SEDANG DIKEMBANGKAN
Keputusan audio dan visual, di review yang sama.
- SEDANG DIKEMBANGKAN
Memori keputusan.
Penggantian yang diingat untuk seorang kreator diterapkan lebih dulu di dubbing berikutnya, jadi pilihan yang dibuat sekali akan terbawa ke episode berikutnya.
Cerita lengkapnya ada di Catatan Keputusan: Cara Creative Director Mengarahkan MLFM; API yang direncanakan ada di dokumentasi keputusan.
PERTANYAAN
Apa kepanjangan MLFM?
MLFM adalah singkatan dari Multimodal Localization Foundation Model (Model Fondasi Lokalisasi Multimodal), paradigma baru, yang pertama dari jenisnya: satu model yang memutuskan apa yang dilokalisasi dan bagaimana caranya, di teks, audio, dan visual. Model ini memilih versi terjemahan sebuah baris, apa yang diterjemahkan di audio, siapa di layar yang berbicara, dan bagaimana bibir, ekspresi, serta gesturnya menyesuaikan.
Apakah MLFM itu model video?
Tidak dalam arti yang umum. MLFM bekerja pada rekaman yang sudah ada dan memutuskan cara melokalisasinya: kata-kata, suara, bibir, dan ekspresinya. Orang di layar tetap persis dirinya sendiri, dalam setiap bahasa.
Apakah MLFM membuat rekaman baru?
Tidak. Tidak ada prompt, dan tidak ada hal baru yang dikarang. MLFM memutuskan cara melokalisasi apa yang sudah ada: aktor, timing, dan adegannya tetap, sementara kata-kata, trek suara, dan bibirnya berubah mengikuti bahasa baru.
Apa yang diputuskan MLFM di audio?
Apa yang memang perlu diterjemahkan. Model ini menemukan suara utamanya dan membawanya ke bahasa baru dengan suara pembicaranya sendiri. Tawa, riuh kerumunan, teriakan, dan pembicara di latar belakang yang suaranya tak terdengar jelas tetap seperti aslinya.
Apakah MLFM mengubah ekspresi?
Saat penekanan kalimat atau budayanya memerlukannya. Bibirnya mengikuti kata-kata baru di setiap baris; ekspresi dan gesturnya menyesuaikan saat sebuah baris terasa berbeda dalam bahasa baru. Orangnya tetap persis dirinya sendiri.
Apakah MLFM menerjemahkan teks di layar?
Belum. Teks di dalam frame, seperti layar ponsel, sampul buku, plang nama jalan, atau etalase toko, sedang diintegrasikan, ditulis dengan istilah yang sudah Anda pilih; model ini memutuskan saat itu juga apa yang dibiarkan seperti saat direkam, entah merek, nama, atau slang: sebungkus Tostitos tetap Tostitos. Saat ini yang dilokalisasi adalah kata-kata, suara, bibir, ekspresi, dan gesturnya.
Bisakah saya mengganti keputusan yang dibuat model?
Bisa. Setiap keputusan dicatat bersama pekerjaan dubbing-nya, dan Anda bisa menggantinya. Saat ini creative director Anda memilih di antara versi-versi terjemahan, masing-masing dengan alasannya, dan pilihan yang dibuat sekali akan terbawa ke episode berikutnya.
Apakah model ini menunjukkan pilihannya di audio dan video?
Pilihan terjemahan sudah ditunjukkan saat ini. Pilihan audio, seperti apa yang tetap dalam bahasa aslinya, dan pilihan visual, seperti memilih wajah lain atau teks mana di dalam frame yang diterjemahkan, sedang dikembangkan.
REFERENSI
Terjemahan multimodal
Familiar Labs menghadirkan dubbing yang satu generasi lebih baik dengan Model Fondasi Lokalisasi Multimodal (MLFM), model fondasi pertama untuk terjemahan multimodal: satu model memutuskan apa yang dilokalisasi di teks, audio, dan visual, lalu menunjukkan pilihan-pilihannya kepada Anda. Suara dan gerak bibir Anda, dibawa ke bahasa-bahasa baru. Timnya beranggotakan 7 orang, termasuk para PhD, didukung oleh Samsung, RedBird, dan Gold House. Misi kami
