ABSTRAK
Empat masalah
Tanyakan apa yang membuat video dubbing terasa bagus, dan daftarnya akan panjang. Intinya ada empat:
Kalau dua yang pertama gagal, sisanya tidak berarti: satu kalimat yang salah terjemah atau suara yang jelas bukan orangnya sudah cukup merusak dubbing. Dua yang terakhir menentukan apakah hasilnya terasa seperti aslinya atau seperti dubbing.
Terjemahan yang alami: naskah baru, bukan padanan
Setiap bahasa punya caranya sendiri: kosakata, idiom, struktur kalimat, sapaan, bahkan apa yang pantas diucapkan sama sekali. Minta sebuah model untuk "menerjemahkan", dan ia akan memadankan kalimat satu per satu dari bahasa A ke bahasa B. Manusia pun begitu: begitu diposisikan sebagai penerjemah, tugasnya menyempit menjadi sekadar mengalihkan kalimat.
Dubbing yang diterjemahkan dengan cara itu bisa dipahami, tetapi keliru.
- Bahasa Jepang cenderung menghindari ungkapan yang terlalu lugas; kalimat yang alami sering harus disusun ulang secara tidak langsung, bukan sekadar diperhalus kata demi kata.
- Bahasa Korea sangat sering menghilangkan subjek; membawa kata ganti bahasa Inggris ke bahasa Korea dengan frekuensi yang sama terasa asing, meski setiap katanya benar.
- Urutan kata, tingkat tutur, honorifik, dan hal-hal yang tidak diucapkan sebuah budaya berbeda di setiap bahasa; terjemahan tidak menjadi bagus hanya karena makna harfiahnya selamat.
"Bagus" sulit dijadikan daftar periksa, jadi tujuannya kami ringkas menjadi satu kalimat: menyampaikan isi video dengan baik dalam bahasa sasaran. Itu bisa diukur:
dari kualitas terjemahan manusia ahli dicapai Familiar, dinilai secara buta terhadap suntingan referensi para ahli
PRANCIS, MANDARIN, HINDI, INDONESIA (DRAF PERTAMA PENERJEMAH PROFESIONAL AHLI)kesalahan terjemahan penting lebih sedikit dari Familiar pada klip yang sama (29 vs 64)
VS ELEVENLABS DUBBING V2 (ALPHA) · 111 DUBBING BERPASANGAN · 3 BAHASAAudio yang alami: orang yang sama, dalam bahasa baru
Pelafalan sudah hampir terpecahkan. Kegagalan yang menarik ada setelahnya:
- Identitas: orang yang sama tetap terdengar seperti orang yang sama, dalam setiap bahasa.
- Emosi: apa yang dirasakan pembicara tetap terbawa saat bahasanya berganti.
- Penekanan, tempo, maksud: di mana kalimat bertumpu, seberapa cepat ia bergerak, apa yang ingin dicapainya.
Tujuannya diringkas dengan cara yang sama seperti tujuan terjemahan: audionya cocok dengan videonya. Bukan "buat bahasa B dengan suara dari bahasa A". Penampilan yang sama, dalam bahasa baru. Dan adegannya bagian dari audio: tawa, musik, suasana ruangannya.
kerusakan suara latar lebih banyak dari ElevenLabs (11.92 vs 3.22 dB): musik, efek, suasana
STUDI DUBBING V2 (ALPHA) · KLIP YANG SAMAkemiripan pembicara lebih tinggi dari Familiar (0.461 vs 0.360), lebih mirip di seluruh 11 bahasa
VS ELEVENLABS · STUDI DUBBING V1 · 418 DUBBING BERPASANGANEditing the translation means their old model.
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES
261%
ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE
+243.7%
FAMILIAR ON LAUGHTER AND REACTION SHAPE
Teks di layar adalah bagian dari video
Video modern banyak bertumpu pada teks di layar: keterangan, lelucon, meme, satu kata yang muncul tepat di ketukan. Masing-masing adalah peristiwa visual dalam bahasa sumber. Menyesuaikannya punya dua syarat:
- Jangan pernah merusak video. Artefak atau gangguan visual membuat hasilnya lebih buruk daripada aslinya.
- Jangan pernah menerjemahkannya secara harfiah. Anda harus paham mengapa teks ini muncul di momen ini, di tempat ini, sebelum bisa menyesuaikannya.
Saat ini Model Keputusan Lokalisasi Multimodal (MLDM) milik Familiar, model fondasi pertama untuk terjemahan multimodal, paradigma baru, yang pertama dari jenisnya, menerjemahkan judul, deskripsi, dan subtitle bersama dubbing-nya. Teks di dalam frame sedang dikembangkan: layar ponsel atau papan nama jalan, ditulis dengan istilah yang sudah Anda pilih, sementara merek atau nama dibiarkan seperti saat direkam, diputuskan saat itu juga, jadi sebungkus Tostitos tetap Tostitos, dan Anda yang memilih teks mana yang diterjemahkan. Aturannya tetap: kalau suntingannya bisa disadari, berarti belum cukup bagus.
Lip-sync: berhasil karena tidak disadari
Lip-sync punya syarat keras yang sama: jangan pernah merusak video. Pujian tertinggi untuk lip-sync sebuah dubbing adalah pertanyaan "apa yang berubah?"
Efek itu juga bisa menguntungkan dubbing. Begitu mulutnya selaras, otak menyelesaikan keraguan ke arah kecocokan: pelafalan terdengar lebih jelas, dan warna suaranya terdengar lebih seperti orang yang sama.
Bagian sulitnya: suara dari luar layar, pembicara yang saling tumpang tindih, orang yang mirip rupa atau suaranya, dan menyunting mulut tanpa merusak wajah. Tempatkan dua orang di layar, dan tool yang ada saat ini menggerakkan kedua mulut sekaligus.
Bibir hanyalah titik awal. Seseorang membawakan sebuah kalimat dengan seluruh wajahnya -- mata, alis, pipi, kepala -- dan dengan tubuhnya: gestur, anggukan, jeda sesaat saat mendengarkan.
Satu masalah, bukan empat
Setiap syarat terus menyusut ke kalimat yang sama. Terjemahan yang alami: tulis apa yang dikatakan video ini, dalam bahasa sasaran. Audio yang alami: pertahankan penampilan yang sama dalam kata-kata baru. Teks di layar: pahami mengapa teks itu ada sebelum menyentuhnya. Lip-sync: sunting orangnya tanpa merusaknya.
Penampilan yang sama, dalam bahasa lain.
Itulah yang diputuskan MLDM, diukur pada klip yang sama dan dipublikasikan di /benchmark. Setiap keputusan dicatat bersama pekerjaan dubbing-nya dan bisa diganti; saat ini creative director Anda memilih di antara versi-versi terjemahannya.
REFERENSI
- [1]Benchmark Familiar vs ElevenLabs: hasil lengkap, interval, dan contoh audio
- [2]Terjemahan AI vs Manusia: Diuji Melawan Para Profesional
- [3]AI Lip Sync: Apa Itu, Apa yang Terlewat, dan Apa yang Lebih Baik
- [4]Dubbing Terasa Janggal di Luar Negeri: Cara Studio Memperbaikinya (argumen ini dari sudut pandang studio)
- [5]McGurk & MacDonald, “Hearing lips and seeing voices,” Nature 264 (1976)
Terjemahan multimodal
Familiar Labs menghadirkan dubbing yang satu generasi lebih baik dengan Model Keputusan Lokalisasi Multimodal (MLDM), model fondasi pertama untuk terjemahan multimodal: satu model memutuskan apa yang dilokalisasi di teks, audio, dan visual, lalu menunjukkan pilihan-pilihannya kepada Anda. Suara dan gerak bibir Anda, dibawa ke bahasa-bahasa baru. Timnya beranggotakan 8 orang, termasuk para PhD, didukung oleh Samsung, RedBird, dan Gold House. Misi kami
