การควบคุม

บันทึกการตัดสินใจ: ครีเอทีฟไดเรกเตอร์กำกับ MLDM อย่างไร

FAMILIAR งานวิจัยอัปเดตเมื่อ บทความทั้งหมด

บทคัดย่อ

MLDM คือโมเดลพื้นฐานตัวแรกสำหรับการแปลแบบมัลติโมดัล กระบวนทัศน์ใหม่ ครั้งแรกของวงการ ทุกการตัดสินใจที่โมเดลทำถูกบันทึกไว้กับงานพากย์ คุณเปิดอ่านได้ แก้ไขได้ และเก็บตัวเลือกไว้ใช้กับตอนถัดไป การตัดสินใจด้านการแปลตรวจได้แล้ววันนี้ ส่วนด้านเสียงและภาพยังอยู่ระหว่างพัฒนา
โมเดลพื้นฐานตัวแรกสำหรับการแปลแบบมัลติโมดัล

การตัดสินใจที่คุณกำกับได้วันนี้

  1. 01

    คำแปลกลับมาให้ดูก่อน

  2. 02

    เมื่อประโยคหนึ่งตีความได้มากกว่าหนึ่งทาง ขั้นตอนตรวจสอบจะส่งคำแปลกลับมาสามแบบ แต่ละแบบต่างกันทั้งเจตนาและอารมณ์ พร้อมเหตุผลของแต่ละแบบ

  3. 03

    ครีเอทีฟไดเรกเตอร์ของคุณเลือกหนึ่งแบบหรือเขียนเอง แล้วค่อยสั่งเรนเดอร์

การตรวจสอบเดียวกันนี้ครอบคลุมการตัดสินใจด้านโลคัลไลเซชันด้วย เริ่มจากอะไรไม่ต้องแปล คำสแลงที่คงไว้ตามที่พูด ชื่อและแบรนด์ที่คงเดิม การอ้างอิงที่เปลี่ยนเป็นสิ่งที่ผู้ชมคุ้นเคย สิ่งที่วัฒนธรรมนั้นเลี่ยง และคำหยาบที่ลดลงสำหรับเวอร์ชันผู้ชมอายุน้อย

มุกเล่นคำ จากเกาหลีเป็นอังกฤษ

"사과하려고 사과 사 왔어." อาศัยคำว่า 사과 ที่แปลได้ทั้งคำขอโทษและแอปเปิล คำแปลกลับมาสามแบบ:

  • "Apples. I'm sorry, right down to the core." คงมุกเล่นคำไว้
  • "I came to say sorry. I brought apples." เอาแค่ความหมาย
  • "An apple a day keeps the silent treatment away." มุกใหม่

ครีเอทีฟไดเรกเตอร์เลือกแบบแรก แล้วแก้ไขเพิ่ม

คำเหน็บ จากจีนเป็นอังกฤษ

"你可真行啊。" ฟังได้ทั้งคำชมและคำเหน็บ ขึ้นอยู่กับฉาก:

  • "Wow. You're incredible." จริงใจ
  • "Well, aren't you something." ประชด แบบที่ถูกเลือก
  • "Look at you, hotshot." แซว

พอดแคสต์ ซีรีส์หนึ่งตอน หรือภาพยนตร์หนึ่งเรื่อง มีช่วงแบบนี้อยู่หลายช่วง ทั้งมุกตลก บทสนทนา และเรื่องเล่า

การตัดสินใจด้านเสียง

MLDM ตัดสินใจว่าอะไรควรแปลบ้าง โมเดลหาเสียงหลัก ถ่ายทอดสู่ภาษาใหม่ด้วยเสียงของผู้พูดเอง และคงส่วนที่เหลือไว้อย่างเดิม การแสดงทุกจุดที่ตัดสินใจยากในเสียงให้ทีมของคุณเห็นยังอยู่ระหว่างพัฒนา

อะไรคงไว้เป็นภาษาต้นฉบับ เสียงร้องเชียร์ในสนามที่คงไว้เป็นภาษาเกาหลี เสียงตะโกนข้ามห้องครัว หรือวลีติดปากที่แฟนๆ รู้จัก ผู้พูดด้านหลังที่ไม่มีใครฟังออกยังคงอยู่อย่างเดิม หรือกลับมาเป็นตัวเลือกให้แปลก็ได้

การตัดสินใจด้านภาพ

อยู่ระหว่างพัฒนา

ใครเป็นคนพูดจริงๆ
สิ่งที่ถูกบันทึกใบหน้าที่เป็นเจ้าของประโยคนั้น ผู้บรรยาย และเสียงที่มาจากนอกจอ
สิ่งที่คุณทำได้เมื่อโมเดลเลือกผู้พูดผิด คุณเลือกใบหน้าจากตัวเลือกที่มี แล้วปากของคนที่ถูกต้องก็จะขยับ
ข้อความในเฟรม
สิ่งที่ถูกบันทึกหน้าจอโทรศัพท์ที่เขียนว่า 내일 봐 ป้ายถนน หน้าร้าน และสิ่งที่โมเดลตัดสินใจทันทีให้คงไว้ตามที่ถ่ายมา เช่น แบรนด์บนถุง Tostitos หรือชื่อคน
สิ่งที่คุณทำได้แต่ละรายการเขียนด้วยคำที่คุณเลือกไว้แล้ว เช่น "See you tomorrow" หรือคงไว้ตามที่ถ่ายมา
สีหน้าและท่าทาง
สิ่งที่ถูกบันทึกตามจุดเน้นของประโยคใหม่หรือตามวัฒนธรรม
สิ่งที่คุณทำได้การเลิกคิ้วที่ผู้ชมกลุ่มใหม่ตีความต่างออกไป คงไว้ตามที่ถ่ายมาได้

บันทึกไว้กับงานพากย์

บันทึกนี้คือสิ่งที่ทำให้ MLDM เป็นกระบวนทัศน์ใหม่ ครั้งแรกของวงการ โมเดลที่แสดงการตัดสินใจของตัวเองให้เห็น

++
บันทึกการตัดสินใจซึ่งอยู่ระหว่างพัฒนา เก็บทุกการตัดสินใจไว้พร้อมตัวเลือก เหตุผล สิ่งที่ถูกเลือก และใครเป็นคนเลือก จะเป็นโมเดล คุณ หรือหน่วยความจำ

บันทึกเปิดให้แก้ได้ระหว่างตรวจสอบ และล็อกเมื่อสั่งเรนเดอร์ ถ้าเปลี่ยนการตัดสินใจในงานพากย์ที่ส่งมอบแล้ว ก็สั่งเรนเดอร์อีกครั้ง เฉพาะภาษาที่ได้รับผลกระทบเท่านั้นที่จะถูกเรนเดอร์ใหม่ งานพากย์ที่เรนเดอร์ด้วย review=auto ก็ยังเขียนบันทึกไว้ พร้อมตัวเลือกของโมเดล ตัวงานพากย์เองทำขึ้นในครั้งเดียวจากการตัดสินใจเหล่านั้น ทั้งเสียง ริมฝีปาก และฉากไปพร้อมกัน เครื่องมือแบบครั้งเดียวจบในวันนี้ทำงานกลับกัน อัปโหลดครั้งเดียว แล้วได้อะไรออกมาก็ต้องรับตามนั้น ส่วนเส้นทางคุณภาพสูงก็ควบคุมด้วยมือแทน ใช้เครื่องมือช่วยงาน ทีมศิลปิน VFX และเวลาหลายสัปดาห์ต่อโปรเจกต์ Familiar คือครั้งเดียวจบและได้คุณภาพ

HeyGenHeyGenElevenLabsElevenLabsHeyGen + ElevenLabsONE-SHOT TOOLS · NO CONTROL

One shot today means giving up the rest.

The one-shot tools today give up the rest: the translation cannot be edited, the music and the room drop out, the voice drifts, and the lips fail on a hand over the face, a microphone, blur, bokeh, a side view or several people in frame. No spatial reasoning, no understanding of the world, no control. ElevenLabs' current Dubbing v2 edits only through an Enterprise API, and its full editor is the older model, in maintenance mode; HeyGen stitches a lip-sync over a dub like that, and the lip-sync breaks on the ordinary shots of any episode. Familiar is one shot and the quality: translation first, reviewed; then the voice, the lips and the scene together, through the hard shots.

54.7%

FEWER TRANSLATION ERRORS · FAMILIAR VS ELEVENLABS DUBBING V2

270%

ELEVENLABS MORE BACKGROUND-SOUND ERROR · THE LAUGHTER, THE MUSIC, THE AMBIENCE

+27.8%

FAMILIAR CLOSER TO THE REAL SPEAKER

ตัวเลือกที่ตัดสินใจไว้ครั้งหนึ่งจะตามไปใช้ในตอนถัดไป

  1. วันนี้

    การตัดสินใจถาวรสองอย่างใช้งานได้แล้ววันนี้

    รายการคำที่ไม่แปล (Do Not Translate) คงวลีไว้ตามที่พูด และบริบท (Context) ให้ข้อมูลสรุปหนึ่งประโยค คุณตั้งทั้งสองอย่างก่อนพากย์ ส่วนบันทึกจะเก็บการตัดสินใจที่โมเดลทำระหว่างพากย์
  2. อยู่ระหว่างพัฒนา

    หน่วยความจำการตัดสินใจ

    จำการแก้ไขไว้สำหรับครีเอเตอร์หนึ่งราย จะเป็นรายการ ช่อง หรือบุคคลก็ได้ แล้วงานพากย์ครั้งถัดไปจะใช้การแก้ไขนั้นก่อน เมื่อประโยค ศัพท์ ชื่อ เสียงเชียร์ ป้าย หรือใบหน้าเดิมกลับมาอีก วลีติดปากที่คงไว้เป็นภาษาต้นฉบับจะตามไปในตอนที่ 2 โดยไม่ต้องตรวจซ้ำ

บนหน้าตรวจสอบและใน API

อยู่ระหว่างพัฒนา: หน้าตรวจสอบจะมีแถบการตัดสินใจเพิ่มเข้ามา ไทม์ไลน์ของตอนนั้นมีจุดกำกับสำหรับแต่ละการตัดสินใจ กรองได้ตามการแปล เสียง หรือภาพ แต่ละการ์ดแสดงช่วงเวลา ตัวเลือกพร้อมเหตุผล และไฮไลต์ตัวเลือกของโมเดล แตะครั้งเดียวก็เลือกตัวเลือกอื่น พิมพ์เอง คงต้นฉบับไว้ หรือจำตัวเลือกนี้ไว้สำหรับครีเอเตอร์รายนี้ได้

API ส่งบันทึกชุดเดียวกันกลับมา ตัวเลือกที่ทำบนหน้าจอจึงปรากฏใน API และในทางกลับกันด้วย พื้นผิวที่วางแผนไว้ ซึ่งทั้งหมดอยู่ระหว่างพัฒนา:

GET /v1/dubs/{dub_id}/decisions
ทำอะไรอ่านบันทึก
PATCH /v1/dubs/{dub_id}/decisions/{decision_id}
ทำอะไรแก้ไขการตัดสินใจหนึ่งรายการ
decisions.*
ทำอะไรการตั้งค่าในงานพากย์ใหม่ กำหนดว่าจะได้คำแปลกลับมากี่แบบ ระดับคำหยาบ และการตัดสินใจไหนจะส่งกลับมาให้คุณเลือก
dub.decisions_ready
ทำอะไรเว็บฮุกที่ทำงานเมื่อบันทึกเปิดให้แก้ได้
decisions.json
ทำอะไรมีบันทึกฉบับเต็มติดไปกับงานพากย์ทุกชิ้นที่ส่งมอบ

เอกสารอ้างอิงอยู่ที่ Decisions ส่วนขั้นตอนตรวจสอบในวันนี้อยู่ที่ Transcript & review

คำถาม

วันนี้ฉันเปลี่ยนการตัดสินใจไหนได้บ้าง

การตัดสินใจด้านการแปล ประโยคที่ตีความได้มากกว่าหนึ่งทางจะกลับมาเป็นคำแปลสามแบบ แต่ละแบบมีเหตุผลกำกับ ครีเอทีฟไดเรกเตอร์ของคุณเลือกหนึ่งแบบหรือเขียนเอง แล้วค่อยสั่งเรนเดอร์ ส่วนการตัดสินใจด้านเสียงและภาพยังอยู่ระหว่างพัฒนา

คงเสียงเชียร์ไว้เป็นภาษาต้นฉบับได้หรือไม่

ตัวเลือกนี้อยู่ระหว่างพัฒนา เสียงเชียร์ในสนาม เสียงตะโกน หรือวลีติดปาก จะกลับมาเป็นการตัดสินใจด้านเสียงที่คุณเลือกคงไว้เป็นภาษาต้นฉบับได้ และตัวเลือกนั้นจะตามไปใช้ในตอนถัดไปได้ด้วย

ถ้าโมเดลเลือกใบหน้าผิดล่ะ

การเลือกใบหน้าอื่นอยู่ระหว่างพัฒนา ประโยคนั้นจะกลับมาพร้อมใบหน้าที่เป็นตัวเลือก คุณเลือกผู้พูดที่ถูกต้อง แล้วปากของคนนั้นก็จะขยับ

ตัวเลือกจะตามไปใช้ในตอนถัดไปหรือไม่

หน่วยความจำการตัดสินใจอยู่ระหว่างพัฒนา การแก้ไขที่จำไว้สำหรับครีเอเตอร์รายหนึ่งจะถูกใช้ก่อนในงานพากย์ครั้งถัดไป วันนี้รายการคำที่ไม่แปลและบริบทจะติดไปกับทุกงานพากย์ที่คุณตั้งค่าไว้

review=auto ยังบันทึกการตัดสินใจไว้หรือไม่

ใช่ ในบันทึกที่วางแผนไว้ งานพากย์ที่เรนเดอร์โดยไม่ผ่านการตรวจสอบยังเขียนทุกการตัดสินใจพร้อมตัวเลือกของโมเดลไว้ เปิดอ่านได้หลังเรนเดอร์ คุณเปลี่ยนรายการไหนก็ได้แล้วสั่งเรนเดอร์อีกครั้ง

นี่คือ Generative AI หรือไม่

ไม่ใช่ MLDM คือกระบวนทัศน์ใหม่ ครั้งแรกของวงการ ไม่มีพรอมต์ และไม่มีอะไรถูกแต่งขึ้นใหม่ โมเดลตัดสินใจว่าจะปรับสิ่งที่มีอยู่แล้วให้เข้ากับท้องถิ่นอย่างไร และแสดงการตัดสินใจเหล่านั้นให้คุณเห็น

แหล่งอ้างอิง

  1. [1]โมเดลตัดสินใจด้านโลคัลไลเซชันแบบมัลติโมดัล (MLDM) คืออะไร
  2. [2]API: Decisions
  3. [3]API: Transcript & review

การแปลแบบมัลติโมดัล

Familiar Labs สร้างงานพากย์ที่ก้าวกระโดดไปอีกขั้น ด้วยโมเดลตัดสินใจด้านโลคัลไลเซชันแบบมัลติโมดัล (MLDM) โมเดลพื้นฐานตัวแรกสำหรับการแปลแบบมัลติโมดัล โมเดลเดียวที่ตัดสินใจว่าจะปรับอะไรให้เข้ากับท้องถิ่น ทั้งในข้อความ เสียง และภาพ พร้อมแสดงตัวเลือกให้คุณเห็น เสียงและริมฝีปากของคุณ ถ่ายทอดสู่ภาษาใหม่ ทีม 8 คนที่มีปริญญาเอก ได้รับการสนับสนุนจาก Samsung, RedBird และ Gold House ภารกิจของเรา