딥페이크(Deepfake)란 인공지능 기술 중 하나인 딥러닝(Deep Learning)과 ‘가짜’를 의미하는 페이크(Fake)의 합성어로, 인공지능 기반의 이미지 합성 기술을 뜻한다. 수천 개의 사진과 영상으로 마이클 잭슨의 표정, 행동, 말투를 학습하면 ‘뉴진스의 춤을 추는 마이클 잭슨’ 영상을 만들어낼 수 있다.
‘딥페이크’라는 단어는 2017년 처음 등장했다. 미국 온라인 커뮤니티 레딧(Reddit)의 한 회원이 기존 영상에 유명인의 얼굴을 입혀 가짜 콘텐츠를 올리면서부터 사용됐다. 그로부터 7년이 지난 지금, 딥페이크는 진화를 거듭하며 정교해졌다. 한 사람의 얼굴을 다른 사람으로 바꾸는 페이스 스왑(Face Swap), 입술 동기화(말하는 사람의 입을 오디오에 맞춰 조정하는 기술)를 비롯해 특정인의 목소리를 복제해 새로운 문장을 구사할 수도 있다. 이를 종합하면 디지털만으로 진짜와 가짜를 구별하기 힘든 얼굴과 신체를 재현할 수 있다.
과거를 되살리고, 상상을 구현하고
딥페이크의 잠재력은 무궁무진하다. 일단 과거의 인물이 되살아난다. 2019년 미국 달리 박물관은 예술가 살바도르 달리를 재현해 과거의 예술가와 현재의 관람객을 실감나게 연결했다. 김구, 안중근, 유관순 등 독립운동가를 영상으로 되살려 뭉클한 감동을 전한 사례도 있다. 과거와의 연결이 중요한 박물관, 전시회, 역사 교육 콘텐츠의 경우 딥페이크를 활용해 지난날을 생생하게 재현함으로써 몰입감을 높이는 긍정적 효과를 기대할 수 있다.
미디어‧엔터테인먼트 업계에서는 디지털 대역을 탄생시키는 효과적인 기술로 주목하고 있다. 드라마 시리즈 <살인자ㅇ난감>에서는 배우 손석구의 아역을 딥페이크로 생성했고 서울우유 광고에서는 배우 박은빈이, KB라이프생명 광고에서는 배우 윤여정이 딥페이크로 자신의 과거를 되살렸다. 일반인의 경우 먼저 떠난 가족의 모습을 딥페이크로 재현해 위로를 얻기도 한다.
지난해 8월 빙그레는 국가보훈부와 함께한 ‘처음 입는 광복’ 캠페인의 일환으로, 옥중 순국해 수감복이 마지막 사진이 된 독립운동가들에게 딥페이크 기술로 한복을 입혀드리는 영상을 제작했다.
넷플릭스 드라마 <살인자ㅇ난감>에서는 딥페이크 기술을 빌려 배우 손석구의 아역을 만들어냈다. 손석구의 어린 시절 사진을 학습한 딥페이크 결과물을 실제 연기하는 아역 배우의 얼굴에 덧씌운 방식이다.
교묘한 악용, 신종 범죄의 등장
문제는 딥페이크의 정교한 재현을 악용하는 미디어 스푸핑(Media spoofing)이다. 스푸핑은 눈속임을 뜻하는 ‘Spoof’에서 파생한 용어로, 위장을 통해 수신자에게 악의적으로 잘못된 정보를 퍼뜨리는 사기 기법을 뜻한다. 일례로 지난해 홍콩에서는 다국적 금융 기업에서 약 340억 원의 금융 피해가 발생했다. 담당자가 본사 재무최고책임자(CFO)에게 자금 송출을 요청 받고 확인 차 화상 회의를 열었는데, 본인을 제외한 모두가 딥페이크로 생성된 사기꾼이었다. 도널드 트럼프 미국 대통령이 수갑을 차고 경찰에 연행되는 모습, 프란치스코 교황이 명품 패딩을 입은 이미지 등 유명인을 상대로 한 무분별한 가짜 콘텐츠는 사회 혼란을 부추기며 악영향을 끼치고 있다.
딥페이크 기술 기반의 성범죄 영상물 제작과 유포도 심각한 문제로 떠오르고 있다. 실제 인물을 대상으로 하기에 위험하고, 누구나 피해자가 될 수 있다는 점에서 불안하다. 방송통신심의위원회에 따르면 2024년 7월 말까지 딥페이크 성범죄 영상물에 대한 시정 요구 건수는 6천434건이었다. 전년(1천684건) 대비 약 4배 증가한 수치다. 딥페이크 성범죄 가해자 대부분이 청소년이라는 점에도 주목해야 한다. 경찰에 따르면 지난해 딥페이크 성범죄로 검거된 피의자 총 573명 중 10대는 381명으로 80.4%를 차지했다. 심지어 형사 처벌을 받지 않는 촉법소년(만 10~14세 미만)도 100명에 달했다. 이들은 디지털 기기에 익숙한 환경에서 자라 최신 기술을 빠르게 받아들이고 활용한다는 특징이 있다.
거짓에 속지 않으려면?
딥페이크의 부작용을 줄이기 위해서는 가짜 콘텐츠 탐지 기술 개발, 출처 및 신뢰 시스템 구축, 대중의 인식 제고 등이 필요하다. 각국 정부도 속속 대책을 내놓고 있다. 유럽연합(EU)은 인공지능법을 통해 AI 시스템 개발자나 제공자에게 AI를 활용해 만든 콘텐츠는 AI를 통해 생성·조작된 것임을 표시하는 의무를 부과했다. 미국은 행정명령을 통해 합성 콘텐츠의 진위와 출처를 확인하는 방안을 마련하도록 했다. 글로벌 동영상 플랫폼인 틱톡의 경우 AI로 완전히 생성됐거나 상당 부분 수정된 콘텐츠에는 ‘AI 생성’ 라벨이 붙도록 하고 있다.
우리나라도 딥페이크 범죄에 대한 대응책을 강화하고 있다. 우선 콘텐츠 플랫폼 기업은 딥페이크 성범죄 영상이 신고되면 24시간 이내에 해당 영상을 삭제해야 한다. 관련 영상을 소지하거나 시청하는 것만으로도 징역형(최대 3년) 또는 3천만 원 이하의 벌금에 처할 수 있다. 제작자의 경우에는 허위 영상물의 유포 목적이 입증되지 않더라도 징역 7년 또는 5천만 원 이하의 벌금에 처한다. 생성형 AI로 만든 콘텐츠는 해당 사실을 표시하도록 하는 규정도 입법 논의 중이다. 아울러 딥페이크 및 디지털 성범죄 피해는 ‘1366’으로 신고해 도움을 받을 수 있다.
시장도 발 빠르게 움직이고 있다. 한국 딜로이트 그룹은 딥페이크 탐지 관련 글로벌 시장 규모가 2023년 55억 달러에서 2026년 157억 달러로 연간 42% 증가할 것으로 전망했다. 실제 AI 기반 식별 알고리즘뿐 아니라 실시간 탐지 시스템, 워터마킹 및 인증 기술 등이 빠르게 발전하고 있다. 개인들은 일상에서 딥페이크 영상을 구분하고 불법 영상은 피하는 노력이 필요하다. MIT 미디어 연구소가 소개한 8가지 구별법을 참고해 거짓에 속지 말고 똑똑한 영상 소비자가 되도록 하자.
