진짜 같은 가짜의 등장
유명인이 한 번도 한 적 없는 말을 하는 영상이 돌아다닌다. 표정도, 목소리도, 입 모양도 완벽하다. 이런 가짜 영상을 딥페이크라고 부른다. 이름은 '딥러닝'과 '가짜'를 합친 말이다. 그런데 딥페이크는 이제 단순한 연예인 합성의 수준이 아니다. 2024년 2월, 홍콩의 글로벌 엔지니어링 회사 아럽(Arup)의 직원이 화상회의에서 CFO와 동료들을 만났다. 그리고 5개 계좌로 총 2,500만 달러를 송금했다. 그 CFO와 동료들은 모두 딥페이크였다. 그렇다면 이렇게 진짜 같은 가짜는, 대체 어떻게 만들어질까. 그리고 우리는 어떻게 속지 않을 수 있을까.
두 인공지능의 대결
딥페이크의 핵심에는, 두 인공지능의 끝없는 대결이 있다. 한쪽은 가짜를 만드는 '생성자', 다른 한쪽은 그것이 진짜인지 가짜인지 판별하는 '판별자'다. 생성자가 가짜를 만들면, 판별자가 그것을 잡아낸다. 그러면 생성자는 더 정교한 가짜를 만들고, 판별자는 다시 더 날카롭게 잡아내려 한다. 이 끝없는 대결을 거치며, 가짜는 점점 진짜와 구별하기 어려워진다. 이 구조를 생성적 적대 신경망, 영어로 GAN이라 부르며, 이안 굿펠로우가 2014년 처음 제안했다. 그리고 이 기술은 이후 10년 만에 폭발적으로 발전했다.
어떻게 만드나
만드는 과정은 이렇다. 먼저 대상 인물의 사진과 영상을 여러 각도와 표정으로 잔뜩 모은다. 자료가 많을수록, 결과는 더 진짜 같아진다. 그렇게 학습한 인공지능은 한 사람의 얼굴을 다른 영상에 덧씌우거나, 입 모양을 새 음성에 맞춰 바꾸거나, 목소리까지 흉내 낼 수 있다. 특히 음성 복제는 빠르게 대중화됐다. 단 3초의 음성 샘플만으로 그 사람의 목소리와 상당히 유사한 합성음을 만들 수 있다고 알려져 있다. 유튜브 영상, 팟캐스트, 소셜미디어에 올린 목소리 한 토막이 재료가 된다. 딥페이크 콘텐츠의 유통량은 2023년 이후 급격히 늘어, 2025년에는 수백만 건 규모에 달할 것으로 추정된다.
속지 않는 단서들
그렇다면 어떻게 가려낼까. MIT 미디어랩의 'Detect DeepFakes' 프로젝트는 단 하나의 결정적 증거는 없다고 말한다. 대신 여러 단서를 함께 살펴야 한다. 먼저 피부에 집중하라. 볼과 이마의 피부가 지나치게 매끈하거나 주름이 부자연스럽진 않은지, 피부의 나이가 머리카락이나 눈과 어울리는지. 눈과 안경 주변에 그림자가 어색하진 않은지. 눈을 너무 적게 또는 너무 자주 깜빡이진 않는지. 말과 입 모양이 어긋나진 않는지. 얼굴이 머리카락이나 귀, 목과 만나는 경계가 뭉개지거나 깜빡이진 않는지. 영국 헐 대학교 연구에 따르면 양쪽 눈의 반사 이미지가 일치하지 않으면 딥페이크일 가능성이 높다. 사진이라면 손가락 개수나 그림자 방향도 살펴보자. 기술적으로는, 인텔이 개발한 FakeCatcher라는 시스템이 얼굴 피부 혈류의 미세한 색 변화를 분석해 딥페이크를 탐지한다. 실험실 기준 96퍼센트의 정확도를 주장하지만, 실제 환경에서는 오탐이 발생하기도 한다.
인간의 눈은 얼마나 믿을 수 있나
가장 냉정한 사실은 이것이다. 복수의 실험에서 사람들은 고품질 딥페이크를 절반에도 못 미치는 확률로 정확히 구별했다. 즉, 진짜와 가짜를 가려내지 못할 확률이 절반을 훌쩍 넘는다는 뜻이다. 한편 조사에 따르면 스스로는 딥페이크를 가려낼 수 있다고 믿는 사람이 약 60퍼센트에 달하지만, 정작 눈앞에 닥쳤을 때는 속아 넘어간다. 아럽의 직원도 처음에는 수상하게 여겼지만, 화상회의에서 실제처럼 보이는 얼굴들을 보자 경계를 낮췄다. 그리고 그 결과는 2,500만 달러의 손실이었다.
진짜 방패는 따로 있다
이런 시각적 단서들은, 기술이 좋아질수록 점점 통하지 않는다. 만드는 쪽과 잡아내는 쪽의 끝없는 군비 경쟁이기 때문이다. 그래서 진짜 방패는 눈썰미가 아니라 '출처 확인'이다. 이 영상은 어디서 왔는가. 믿을 만한 언론이 같은 내용을 전하는가. 충격적이거나 극적인 영상일수록, 출처부터 의심하는 습관이 가장 강력한 방어다. 특히 화상회의나 전화로 금전 요청이 들어올 때는, 반드시 다른 경로로 신원을 확인해야 한다.
오늘의 통찰
딥페이크 시대에 필요한 건, 더 날카로운 눈이 아니라 더 느린 손가락이다. "진짜처럼 보이는가"보다 "이건 어디서 왔는가"를 먼저 묻는 것. 보이는 것을 곧장 믿지 않는 그 한 박자의 멈춤이, 우리를 지키는 가장 단단한 방패다.