บทคัดย่อ
ยุคการพากย์ด้วยเครื่องแบบต่อเป็นทอดๆ คืออะไร
การพากย์ด้วยเครื่องเริ่มต้นจากสายพาน เครื่องมือสี่ตัวเรียงกัน แต่ละตัวสร้างและจูนแยกกัน แล้วส่งผลลัพธ์ต่อให้ตัวถัดไป
- 01
ถอดเสียง
ระบบแปลงเสียงพูดเป็นข้อความจดสิ่งที่พูดออกมา - 02
แปล
โมเดลข้อความแปลบทถอดเสียงเป็นภาษาใหม่ โดยไม่ได้ยินเสียงและไม่เห็นใบหน้า - 03
ลงเสียง
ระบบแปลงข้อความเป็นเสียงพูดอ่านคำแปลออกมา ซึ่งมักเป็นเสียงของคนแปลกหน้า - 04
ลิปซิงค์
เครื่องมืออีกตัวขยับปากให้เข้ากับเสียงใหม่ หลังจากทุกคำถูกกำหนดตายตัวไปแล้ว
สายพานนี้ทำให้การพากย์ด้วยเครื่องเกิดขึ้นได้ แต่ขีดจำกัดอยู่ที่รูปแบบของมันเอง แต่ละขั้นเดาโดยไม่รู้ว่าขั้นอื่นทำอะไร คำแปลไม่มีทางรู้ว่าประโยคต้องพอดีกับปากที่ปิดอยู่ เสียงไม่มีทางรู้ว่าอยู่ในห้องแบบไหน คำที่ได้ยินผิดหรือประโยคที่ยาวเกินถูกส่งต่อลงไป และความผิดพลาดก็ทบต่อกันในทุกขั้นที่ตามมา
เครื่องมือแต่ละตัวเก่งขึ้นตามปี บทถอดเสียงสะอาดขึ้น คำแปลคมขึ้น เสียงเป็นธรรมชาติขึ้น แต่งานพากย์ฉบับสมบูรณ์ดีขึ้นช้ากว่า เพราะรอยต่อระหว่างเครื่องมือยังอยู่ที่เดิม
ผู้ซื้อเจออะไรในวันนี้
ในทางปฏิบัติ สายพานมาในรูปของเครื่องมือหลายตัวซ้อนกัน บทถอดเสียงจากตัวหนึ่ง คำแปลจากอีกตัว เสียงจากตัวที่สาม ลิปซิงค์และซับไตเติลจากตัวที่สี่ แก้ประโยคเดียวก็ต้องรันทุกขั้นหลังจากนั้นใหม่ และต้องมีใครสักคนในทีมคอยจัดการไฟล์ทั้งหมด เครื่องมือที่ข้ามสายพานนี้ต้องแลกระหว่างคุณภาพกับเวลา เครื่องมือช่วยงานไปถึงคุณภาพได้ด้วยทีมศิลปิน VFX ที่ลงมือกับช็อตยาก ใช้เวลาหลายสัปดาห์ต่อโปรเจกต์ และทุกภาษาก็คือโปรเจกต์ใหม่ ส่วนเครื่องมือแบบครั้งเดียวจบเร็ว แต่ต้องยอมเสียอย่างอื่นไปทั้งหมด เสียงพากย์เพี้ยนไปจากผู้พูด เสียงบรรยากาศของห้องหายไป และปากก็ขยับพลาดเมื่อมีมือบังใบหน้า ไมโครโฟน ภาพเบลอ โบเก้ มุมข้าง หรือมีหลายคนอยู่ในเฟรม โดยไม่มีการให้เหตุผลเชิงพื้นที่ และไม่มีความเข้าใจโลก Familiar คือครั้งเดียวจบและได้คุณภาพ
อีกเส้นทางคือการพากย์โดยมนุษย์แบบครบวงจร ทั้งแปลและลงเสียง ที่ $70–150 ต่อนาทีชิ้นงานสำเร็จ ทั้งต้นทุน กำลังคน และเวลา ทำให้คนส่วนใหญ่ของโลกเข้าไม่ถึง แม้แต่งานโปรดักชันระดับท็อปก็พากย์ได้เพียงไม่กี่ภาษา ส่วนงานโปรดักชันขนาดเล็ก รายการ และซีรีส์แนวตั้งส่วนใหญ่แทบไม่พากย์เลย
One shot today means giving up the rest.
54.7%
FEWER TRANSLATION ERRORS · FAMILIAR VS ELEVENLABS DUBBING V2
270%
ELEVENLABS MORE BACKGROUND-SOUND ERROR · THE LAUGHTER, THE MUSIC, THE AMBIENCE
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER
ถ้าคุณกำลังพิจารณา ElevenLabs Dubbing นี่คือเอกสารของเขาที่ยกมาตามต้นฉบับ วางคู่กับการศึกษาของเรา:
Editing the translation means their old model.
+27.8%
FAMILIAR CLOSER TO THE REAL SPEAKER · ALL 11 LANGUAGES
261%
ELEVENLABS MORE BACKGROUND ERROR · THE MUSIC, THE AMBIENCE
+243.7%
FAMILIAR ON LAUGHTER AND REACTION SHAPE
อะไรเปลี่ยนไปเมื่อโมเดลเดียวตัดสินใจทุกอย่าง
Familiar พากย์ด้วยโมเดลตัดสินใจด้านโลคัลไลเซชันแบบมัลติโมดัล (MLDM) MLDM ตัดสินใจว่าจะปรับอะไรให้เข้ากับท้องถิ่นและปรับอย่างไร ทั้งข้อความ เสียง และภาพ และการตัดสินใจทั้งหมดสอดคล้องกันเพราะมาจากโมเดลเดียว นิยามอยู่ในโมเดลพื้นฐานตัวแรกสำหรับการแปลแบบมัลติโมดัล
ต่อเป็นทอดๆ
- เครื่องมือสี่ตัว จูนแยกกันทีละตัว
- คำแปลถูกกำหนดตายตัวก่อนที่ใครจะได้ยินเสียง
- แต่ละขั้นเดาโดยไม่รู้ว่าขั้นอื่นทำอะไร ความผิดพลาดจึงทบต่อกัน
- เสียงคนแปลกหน้าอาจไปลงบนใบหน้าที่ไม่ตรงกัน
ไปพร้อมกัน ครั้งแรกของวงการ
- โมเดลเดียวตัดสินใจทุกอย่างไปพร้อมกัน
- คำแปลรู้ว่าต้องพอดีกับปากแบบไหน
- เสียงรู้ว่าอยู่ในฉากแบบไหน
- คนบนจอไม่เคยเปลี่ยนไป
สิ่งที่คุณได้กลับมาคือการแสดงของนักแสดงคนเดิมในอีกภาษาหนึ่ง ทั้งเสียง ริมฝีปาก สีหน้า และเสียงของฉาก ถ่ายทอดข้ามไปพร้อมกัน อัปโหลดครั้งเดียว ออกไปได้ทุกภาษาพร้อมกัน งานพากย์ใน 30 ภาษา จากฟุตเทจในภาษาต้นทางใดก็ได้จาก 99 ภาษา
การตัดสินใจไปพร้อมกันยังเปลี่ยนสิ่งที่อาจผิดพลาดด้วย ประโยคที่จะยาวเกินถูกแปลให้พอดีกับเวลาและปากตั้งแต่ก่อนจะมีเสียงใดๆ เสียงหัวเราะกลางประโยคยังเป็นเสียงหัวเราะ เมื่อสองคนพูดแทรกกัน โมเดลรู้ว่าใครพูดประโยคไหน ปากที่ถูกต้องจึงขยับ
สิ่งนี้เปลี่ยนอะไรในงานพากย์ฉบับสมบูรณ์
เราส่งคลิปชุดเดียวกันเข้าทั้งสองระบบ และให้คะแนนด้วยวิธีเดียวกัน ตัวเลขแต่ละตัวมาจากการศึกษาของตัวเอง เผยแพร่ไว้ในเบนช์มาร์ก
ของคุณภาพงานแปลจากนักแปลมนุษย์ระดับผู้เชี่ยวชาญ คือผลของ Familiar ถือว่าเทียบเท่ากัน
ฝรั่งเศส จีน ฮินดี อินโดนีเซีย (ร่างแรกของนักแปลมืออาชีพระดับผู้เชี่ยวชาญ)Familiar แปลผิดจุดสำคัญน้อยกว่า (29 เทียบกับ 64)
เทียบกับ ELEVENLABS DUBBING V2 (ALPHA) · 3 ภาษาElevenLabs ทำข้อผิดพลาดด้านเสียงพื้นหลังมากกว่า (11.92 เทียบกับ 3.22 dB)
เทียบกับ DUBBING V2 (ALPHA) รุ่นล่าสุดของเขา · งานพากย์เทียบคู่ 111 ชิ้น · ดนตรี เสียงประกอบ และเสียงบรรยากาศของห้องเสียงก็ถูกวัดด้วย เสียงของ Familiar เหมือนผู้พูดตัวจริงมากกว่า ElevenLabs Dubbing v1 ถึง 27.8% ใกล้เคียงกว่าครบทั้ง 11 ภาษา ในการศึกษาที่ยกมาข้างต้น
การพากย์เสียงอัตโนมัติของ YouTube ทำข้อผิดพลาดด้านเสียงพื้นหลังมากกว่าถึง 232.6% ในการศึกษาของตัวเอง ฉากยังอยู่รอดได้เพราะ MLDM ได้ยินทุกอย่างในแทร็กเสียง ทั้งเสียงหัวเราะ เสียงฝูงชน และเสียงดนตรี หาเสียงหลัก ถ่ายทอดสู่ภาษาใหม่ด้วยเสียงของผู้พูดเอง และคงส่วนที่เหลือไว้อย่างเดิม
“แปลก่อน แล้วพากย์ทั้งหมดในครั้งเดียว” หมายความว่าอะไร
ลำดับสำคัญ คำแปลมาก่อน และครีเอทีฟไดเรกเตอร์ของคุณเป็นคนตรวจ เมื่อประโยคหนึ่งตีความได้มากกว่าหนึ่งทาง พวกเขาจะเห็นคำแปลแต่ละแบบพร้อมเหตุผล แล้วเลือกหนึ่งแบบ จากนั้นจึงพากย์เพียงครั้งเดียว ไม่มีอะไรถูกแต่งขึ้นใหม่ ไม่ใช่ “Generative AI” แต่คือการแปลที่เสริมพลังให้คนทำงานสร้างสรรค์ MLDM สำหรับงานส่วนที่จุกจิกน่าเบื่อ
ภาพ
สูงสุด 4K
เสียง
5.1 แท้ หรือสเตอริโอ
24-BIT PCM WAV · เลือกได้เอง
ซับไตเติล
.srt และ .vtt
ตามแนวทาง TIMED TEXT ของ NETFLIX
การประมวลผล
โทรอนโต แคนาดา
คลัสเตอร์ NVIDIA B300 ของเราเอง
ซับไตเติลตัดตามแนวทางของ Timed Text Style Guide ของ Netflix มาตรฐานเทมเพลตซับไตเติลที่ทั้งอุตสาหกรรมใช้ทำงาน งานพากย์ทุกชิ้นประมวลผลบนคลัสเตอร์ GPU NVIDIA B300 มูลค่าหลักสิบล้านดอลลาร์ของ Familiar เองที่โทรอนโต ประเทศแคนาดา ไม่ใช่บนคลาวด์สาธารณะอย่าง Google Cloud หรือ AWS และไม่ผ่านผู้ให้บริการ inference ภายนอกรายใด รายละเอียดไฟล์อยู่ในเอกสารไฟล์ที่ส่งมอบ การประมวลผลอยู่ในการประมวลผลแบบส่วนตัว และสิ่งนี้มีความหมายอย่างไรต่อคลังคอนเทนต์อยู่ในโมเดลพื้นฐานสำหรับการแปลแบบมัลติโมดัลมีความหมายอย่างไรต่อสตูดิโอและแพลตฟอร์ม
ใครเป็นคนตัดสินใจขั้นสุดท้าย
ทุกการตัดสินใจถูกบันทึกไว้กับงาน และคุณแก้ไขได้ทั้งหมด
- วันนี้
ครีเอทีฟไดเรกเตอร์ของคุณตรวจการตัดสินใจด้านการแปล
คำแปลแต่ละแบบพร้อมเหตุผล ให้เลือกหนึ่งแบบก่อนที่อะไรจะถูกปล่อยออกไป - วันนี้
รายการคำที่ไม่แปลและบริบทหนึ่งประโยคติดไปกับงานด้วย
- อยู่ระหว่างพัฒนา
การตัดสินใจด้านเสียงและภาพ ในหน้าตรวจสอบเดียวกัน
อะไรจะคงไว้เป็นภาษาต้นฉบับ ใบหน้าอื่นเมื่อโมเดลเลือกผู้พูดผิด และข้อความในเฟรม
สิ่งที่เปลี่ยนไปสำหรับคลังคอนเทนต์คือการเข้าถึงผู้ชม รายการที่เคยจะอยู่แค่ภาษาเดียวออกไปได้ 30 ภาษาพร้อมกัน พร้อมการแสดงของนักแสดงตัวจริง ขณะที่ทีมของคุณยังเป็นคนตัดสินใจในทุกเรื่องที่สำคัญ
นั่นคือบันทึกการตัดสินใจ เรื่องราวฉบับเต็มอยู่ในบันทึกการตัดสินใจ: ครีเอทีฟไดเรกเตอร์กำกับ MLDM อย่างไร สิ่งที่โมเดลตัดสินใจอยู่ในโมเดลตัดสินใจด้านโลคัลไลเซชันแบบมัลติโมดัล (MLDM) คืออะไร และงานวิจัยเบื้องหลังอยู่ในบุกเบิกการแปลแบบมัลติโมดัล จากคนสู่คน ไปถึงผู้ชมได้กว้างไกลกว่าเดิม
คำถาม
“ไม่ต่อเป็นทอดๆ” ในงานพากย์หมายความว่าอะไร
การพากย์ด้วยเครื่องเคยผ่านเครื่องมือแยกกันที่เรียงต่อกัน ถอดเสียง แปล ลงเสียง แล้วลิปซิงค์ แต่ละตัวจูนแยกกันและเดาโดยไม่รู้ว่าตัวอื่นทำอะไร การไม่ต่อเป็นทอดๆ คือโมเดลเดียวตัดสินใจทุกอย่างไปพร้อมกัน คำแปล เสียง ริมฝีปาก และฉากจึงสอดคล้องกัน
คำแปลถูกตรวจก่อนพากย์หรือไม่
ใช่ คำแปลมาก่อน เมื่อประโยคหนึ่งตีความได้มากกว่าหนึ่งทาง ครีเอทีฟไดเรกเตอร์ของคุณจะเห็นคำแปลแต่ละแบบพร้อมเหตุผล แล้วเลือกหนึ่งแบบ จากนั้นจึงพากย์ทั้งหมดในครั้งเดียว ทั้งเสียง ริมฝีปาก และฉากไปพร้อมกัน
นี่คือ Generative AI หรือไม่
ไม่ใช่ “Generative AI” แต่คือการแปลที่เสริมพลังให้คนทำงานสร้างสรรค์ ไม่มีพรอมต์ และไม่มีอะไรถูกแต่งขึ้นใหม่ นักแสดง จังหวะ และฉากยังอยู่เหมือนเดิม ส่วนถ้อยคำ แทร็กเสียงพูด และริมฝีปากเปลี่ยนให้เข้ากับภาษาใหม่
ฉันเลือกการตัดสินใจด้านเสียงและภาพได้หรือไม่
ตัวเลือกด้านการแปลเป็นของคุณแล้ววันนี้ ส่วนตัวเลือกด้านเสียง เช่น อะไรจะคงไว้เป็นภาษาต้นฉบับ และตัวเลือกด้านภาพ เช่น ใบหน้าอื่นเมื่อโมเดลเลือกผู้พูดผิด หรือข้อความในเฟรม ยังอยู่ระหว่างพัฒนา
ฟุตเทจของฉันถูกประมวลผลที่ไหน
บนคลัสเตอร์ GPU NVIDIA B300 มูลค่าหลักสิบล้านดอลลาร์ของ Familiar เองที่โทรอนโต ประเทศแคนาดา ไม่ใช่บนคลาวด์สาธารณะอย่าง Google Cloud หรือ AWS และไม่ผ่านผู้ให้บริการ inference ภายนอกรายใด
ใครเป็นผู้สร้าง Familiar
ทีมปริญญาเอกผู้บุกเบิกสาขาโมเดลมนุษย์ที่สร้างภาพและเสียงไปพร้อมกัน มีบทความวิจัย 22 เรื่อง และได้รับการอ้างอิงมากกว่า 10,000 ครั้ง โดยมี ศ. Xu Zheng และ ศ. Youngjung Uh เป็นที่ปรึกษา Familiar ได้รับการสนับสนุนจาก Samsung, RedBird และ Gold House
แหล่งอ้างอิง
การแปลแบบมัลติโมดัล
Familiar Labs สร้างงานพากย์ที่ก้าวกระโดดไปอีกขั้น ด้วยโมเดลตัดสินใจด้านโลคัลไลเซชันแบบมัลติโมดัล (MLDM) โมเดลพื้นฐานตัวแรกสำหรับการแปลแบบมัลติโมดัล โมเดลเดียวที่ตัดสินใจว่าจะปรับอะไรให้เข้ากับท้องถิ่น ทั้งในข้อความ เสียง และภาพ พร้อมแสดงตัวเลือกให้คุณเห็น เสียงและริมฝีปากของคุณ ถ่ายทอดสู่ภาษาใหม่ ทีม 8 คนที่มีปริญญาเอก ได้รับการสนับสนุนจาก Samsung, RedBird และ Gold House ภารกิจของเรา
