해설

번역은 생성이 아닙니다

FAMILIAR 연구수정일 전체 글

초록

'생성형 AI'가 아닙니다. 창작자를 돕는 번역입니다. 생성과 번역은 서로 다른 동사입니다. 생성은 프롬프트를 받아 세상에 없던 것을 만듭니다. 번역은 이미 있는 것, 곧 연기를 받아 다른 언어로 옮깁니다. Familiar는 새로운 패러다임을 연 최초의 모델이자 최초의 멀티모달 번역 파운데이션 모델인 멀티모달 현지화 의사결정 모델(MLDM)입니다. 배우, 타이밍, 장면은 그대로 두고, 대사와 입 모양, 음성 트랙만 새 언어에 맞게 바뀝니다.
최초의 멀티모달 번역 파운데이션 모델

두 개의 동사

생성형 AI는 새로운 것을 만드는 데 좋은 도구입니다. 프롬프트가 들어가면 새 콘텐츠가 나오고, 결과물이 새롭다는 데 의미가 있습니다. 번역은 정반대를 목표로 합니다.

번역또 하나의 동사

연기가 들어가면, 같은 연기가 다른 언어로 나옵니다.

생성

  • 입력: 프롬프트
  • 출력: 새 콘텐츠
  • 평가 기준: 결과물이 얼마나 새롭고 좋은가

번역

  • 입력: 완성된 연기
  • 출력: 다른 언어로 옮긴 같은 연기
  • 평가 기준: 원본에 얼마나 충실한가

사람이든 기계든, 번역가는 얼마나 덜 지어내느냐로 평가받습니다.

그대로인 것, 바뀌는 것

배우
바뀜대사
얼굴
바뀜입 모양
타이밍
바뀜새 언어로 옮긴 음성 트랙
장면의 소리: 웃음소리, 음악, 현장음
바뀜

새 언어의 목소리는 클립 자체에서 가져온 배우 본인의 목소리입니다. 이름과 유행어는 번역 제외 목록으로 말한 그대로 지키고, 농담은 타겟 언어에서 통하도록 다시 씁니다.

립싱크가 번역의 일부인 이유

사람은 귀로만 말을 듣지 않습니다. 맥거크 효과에서는 [b]라고 말하는 목소리를 [g]라고 말하는 얼굴에 입히면 보통 [d]로 들립니다. 어느 쪽에도 없던 소리입니다(Tiippana, 2014, McGurk와 MacDonald의 1976년 연구를 설명). 뇌는 눈으로 본 것과 귀로 들은 것을 하나로 합칩니다.
목소리 [b] + 얼굴 [g] = 들리는 소리 [d]

목소리만 바꾸는 더빙에는 이 어긋남이 모든 프레임에 남습니다. 입은 한 언어를 말하고 사운드트랙은 다른 언어를 말하니, 알아듣기가 더 어려워집니다. 그래서 입 모양도 메시지의 일부입니다. 연기를 번역한다는 건 대사와 함께 입 모양까지 번역한다는 뜻이고, 그래서 Familiar 더빙에서는 입 모양이 새 대사를 따라 움직입니다(자주 묻는 질문, "립싱크가 왜 중요한가요?").

나가기 전에 크리에이티브 디렉터가 검토합니다

어떤 대사는 여러 방식으로 읽힐 수 있습니다: 농담, 뼈 있는 말, 진심으로도 비꼼으로도 들리는 한마디. 이런 대사는 의도와 감정이 다른 세 가지 번역안으로 돌아오고, 말한 그대로 둘 속어와 더 어린 시청자용 버전에서 낮출 욕설 수위도 마찬가지입니다. 팀이 하나를 고르고, 원본과 대조해 어느 줄이든 고친 다음에야 렌더링을 시작합니다.

지루한 반복 작업은 MLDM에게.

더빙의 지루한 반복 작업은 모든 언어의 모든 대사마다 어떤 목소리로 할지, 입 모양을 어떻게 맞출지 정하는 일입니다. MLDM이 이것을 결정하고 모든 결정을 더빙 작업과 함께 기록하므로, 팀은 어떤 결정이든 직접 바꿀 수 있습니다. 구호나 고함처럼 원어 그대로 남길 소리, 그리고 번역할 얼굴이나 화면 속 글자를 고르는 기능은 준비 중입니다. 어떤 농담이 살아나는지, 어떤 톤이 맞는지, 어떤 이름을 그대로 둘지처럼 더빙을 좋게 만드는 선택은 작품을 만든 사람들에게 남습니다.

++
학습에 쓴 데이터는 전부 Familiar 팀이 직접 만들었습니다.

저희는 창작 과정을 돕는 또 하나의 도구입니다.

질문

Familiar는 생성형 AI인가요?

아니요. Familiar는 멀티모달 현지화 의사결정 모델(MLDM)입니다: 프롬프트 없이, 이미 있는 것을 어떻게 현지화할지 결정합니다. 영상이 들어가면, 같은 연기가 다른 언어로 나옵니다. 학습에 쓴 데이터는 전부 Familiar 팀이 직접 만들었습니다. 저희는 창작 과정을 돕는 또 하나의 도구입니다.

제 음악과 효과음은 어떻게 되나요?

그대로 남습니다. 웃음소리, 음악과 베이스, 효과음, 현장음이 새 대사 아래에 그대로 살아 있습니다.

번역을 고칠 수 있나요?

네. 모든 영상은 검토 화면에서 멈추고, 렌더링 전에 원본과 대조하며 어느 줄이든 수정할 수 있습니다.

참고 자료

  1. [1]Tiippana, K. (2014). What is the McGurk effect? Frontiers in Psychology 5:725, 2026년 10월 24일 확인
  2. [2]Familiar 자주 묻는 질문: 립싱크가 왜 중요한가요?
  3. [3]AI 립싱크: 무엇이고, 무엇을 놓치고, 무엇이 더 나은가
  4. [4]Familiar가 전통적인 의미의 생성형 AI가 아닌 이유
  5. [5]창작 과정을 돕는 또 하나의 도구

멀티모달 번역

Familiar Labs는 멀티모달 현지화 의사결정 모델(MLDM)로 한 세대 앞선 더빙을 만듭니다. MLDM은 최초의 멀티모달 번역 파운데이션 모델로, 텍스트, 오디오, 영상을 아울러 무엇을 현지화할지 하나의 모델이 결정하고 그 선택지를 직접 보여 줍니다. 당신의 목소리와 입 모양 그대로, 새로운 언어로. 박사들이 모인 8명의 팀으로, Samsung, RedBird, Gold House가 투자했습니다. 미션 보기