6·3 대선을 앞두고 '딥페이크' 비상이 걸렸다. 대선 예비후보들과 관련한 악의적 딥페이크 영상이 SNS에서 무작위로 확산되고 있다. 민주당 이재명 예비후보를 비롯해 한동훈, 김문수, 홍준표, 안철수 예비후보 등 주요 대선 주자를 타깃으로 희화화한 딥페이크 영상들이 노출되고 있다.  

지난달엔 이재명 예비후보가 죄수복을 입고 구치소에 앉아 있는 합성물이 발견됐다는 신고가 들어와 경찰이 유포자 추적에 나서기도 했다. 또한 이 예비후보가 수사기관 조사를 받고 귀가한 부인 김혜경 여사에게 욕설을 하는 것처럼 조작된 영상물 신고가 접수됐다. 이 예비후보 캠프는 "즉시 유포중지 가처분 및 고발 등 모든 수단을 동원해 법적 책임을 묻겠다"라고 경고했다. 

한동훈 전 국민의힘 대표의 가발을 벗기는 딥페이크 영상은 지난 9일 틱톡에 올라온 뒤 일주일도 되지 않아 조회수 140만회를 기록하고 여러 계정에서 약 2000회 재게시 되기도 했다. 올해 2월엔 윤 전 대통령 부부가 속옷과 수영복 차림으로 거리를 활보하는 허위 영상이 광주에서 열린 '윤석열 탄핵 촉구 집회'에서 배포됐다. 

조기 대선을 앞두고 인공지능(AI) 기반의 '딥페이크' 기술을 악용한 허위 영상과 음성물이 빠르게 확산되고 있다. 이미 피해 사례도 심각한 수준이다. 특정 후보들을 희화화하거나 경쟁 후보를 비방하는 동영상, 정치공작, 가짜뉴스가 유포되고 있는 것이다. 얼굴과 목소리를 교묘히 합성한 정치 선전물이 유튜브, 틱톡 등 소셜미디어를 중심으로 활용될 가능성이 어느 때보다 커졌다. 유권자들은 '진짜와 가짜'를 가릴 여유조차 없이 허위 정보의 홍수에 노출되고 있다.

 

딥페이크는 인공지능(AI) 기술로 이미지를 합성해 실제처럼 보이도록 조작한 허위 사진 및 영상을 말한다. 딥페이크(deepfakes)는 딥 러닝(deep learning)과 가짜라는 뜻의 페이크(fake)를 합성한 말이다. 최근 AI 기술로 만든 불법 딥페이크는 합성인지 실제인지 구분을 못할 정도다. 

이처럼 딥페이크 영상이 급격히 확산되는 이유는 제작이 손쉽기 때문이다. 딥페이크 제작은 종전보다 훨씬 쉬워졌고, 합성 기술이 매우 정교해져 전문가조차 육안으로 진위 여부를 판단하기 어려운 수준이다. 최근 열풍인 챗GPT 등 생성형 AI 프로그램을 이용하면 영상 제작에 5분이 채 걸리지 않는다. 남녀노소 누구나 챗GPT 등으로 영상을 제작할 수 있어 우후죽순으로 퍼지고 있다.

 

딥페이크가 기승을 부리면서 피해도 확산하고 있다. 방송통신심의위원회의 딥페이크 관련 심의 건수는 지난해 9월 기준 1만 305건. 2021년(1913건)에 비해 5배 이상 늘었다. 법원은 최근 텔레그램에서 딥페이크 영상물 1275개를 유포한 '지인 능욕방' 운영자에게 징역 2년 6개월을 선고했다. 2019년 아동·청소년 성착취 범죄인 'N번방' 사건을 계기로 성폭력처벌법에 /허위 영상물 등의 반포' 처벌 조항이 신설됐다. 성적 딥페이크도 디지털 성범죄에 포함됐다. 5년 이하의 징역 또는 5000만원 이하의 벌금이 내려질 수 있다.

딥페이크 기술은 인간에게 긍정적이고 생산적이며 창조적인 측면이 많다. 문화예술 창작분야에 다양하게 활용가치가 있다. 딥페이크 기술 응용으로 제작비를 절감하는 경제적 효과도 크다. 우리 삶에 많은 도움을 주고 있지만 부작용도 만만치 않다. 문제는 이러한 가짜영상, 조작영상이 가짜뉴스를 양산하고 각종 선거와 성범죄 등에 악용된다는 점이다.

선관위는 최근 선거 특별대응팀 내 '허위사실비방 딥페이크 검토자문단'을 꾸리고 AI 기술을 활용한 허위 콘텐츠 단속에 나섰다. 선관위는 네이버, 구글 등과 핫라인을 구축해 가짜 영상 배포 여부를 신속하게 파악하고 삭제 요청을 한다는 방침이다.  

경찰도 전국 278개 경찰서에 설치한 선거사범 수사상황실을 통해 딥페이크 관련 선거 범죄를 집중 단속한다는 방침이다. 한국인터넷자율정책기구(KISO)와 중앙선거관리위원회가 지난 11일 간담회를 열고 딥페이크 기술로 만든 선거 관련 영상이 조금이라도 오인 가능성을 갖고 있다면 법 위반이라는 점을 분명히 했다. 선관위는 한국인터넷자율정책기구(KISO)와 핫라인을 구축하고 공직선거법 위반 게시물에 대해 실시간으로 협력 대응할 예정이다.

공직선거법 제82조의8(딥페이크 영상등을 이용한 선거운동)에 따르면 누구든지 선거일 전 90일부터 선거일까지 선거운동을 목적으로 딥페이크 영상을 제작·편집·유포·상영 또는 게시하는 행위가 금지된다. 이를 위반하면 7년 이하의 징역 또는 1천만 원 이상 5천만 원 이하 벌금에 처한다. 

딥페이크를 악의적으로 활용하는 행위는 결코 '표현의 자유'로 포장될 수 없다. 그것은 명백한 범죄이며, 민주주의를 교란하려는 의도된 공격이다. 아무리 정치적 목적을 내세우거나 유머, 풍자라를 내세운다 해도, 허위 조작이 정당화될 수는 없다. 

선거는 국민이 진실을 기반으로 판단해야 하는 중대한 과정이며, 그 판단을 흐리는 모든 행위는 민주주의에 대한 심각한 위협이다. 딥페이크 범죄를 예방하는 일은 더 이상 미룰 수 없는 시급한 과제다. 기술의 발전 속도가 빠른 만큼, 범죄의 방법도 점점 더 정교해 지고 있다. 법과 제도가 기술의 진화를 제대로 따라가지 못하는 현실부터 바꿔야 한다.

[최충웅 언론학 박사 주요약력]

경희대 언론정보학부 교수

경남대 석좌교수

YTN 매체비평 고정 출연

방송통신심의위원회 연예오락방송 특별 위원장

방송위원회(보도교양/연예오락)심의 위원장

방송통신연구원 부원장

언론중재위원회 위원

KBS 예능국장·TV제작국장·총국장·정책실장·편성실장

중앙일보·동양방송(TBC) TV제작부 차장

문형봉 기자