총선 판세 흔들라…딥페이크에 바짝 긴장한 네카오

최근 SNS에서 논란이 된 윤석열 대통령 허위 조작 영상. SNS 캡처

총선을 한 달 앞두고 생성형 AI(인공지능)가 변수로 부상했다. 감쪽같은 가짜 영상이 일파만파 퍼지며 유권자들의 혼란을 야기할 수 있어서다. 포털을 비롯해 국민 접점이 넓은 영상 플랫폼들은 소중한 '한 표'를 지키기 위한 대책 마련에 분주하다.

3일 업계에 따르면 네이버와 카카오는 다음 달 10일로 예정된 제22대 국회의원 선거의 판세를 뒤집을 수도 있는 딥페이크 영상에 대한 단속에 팔을 걷어붙였다. 딥페이크는 AI를 기반으로 한 인간 이미지 합성 기술이다.

네이버는 딥페이크와 관련한 검색어를 입력하면 '공직선거법, 성폭력처벌법 등 법령에 위반되거나 제3자의 권리를 침해하지 않도록 유의하라'는 문구를 표출하고 있다.

카카오가 운영하는 다음은 조만간 개설하는 총선 특집 페이지에서 관련 정책을 공개할 것으로 보인다.

이는 최근 정치권을 강타한 딥페이크 영상의 부작용을 차단하기 위한 조치다.

숏폼(짧은 동영상) 서비스 틱톡과 페이스북 등 SNS(사회관계망서비스)는 작년 말에 올라와 지난달 본격적으로 확산한 '가상으로 꾸며본 윤대통 양심고백연설' 영상으로 떠들썩했다.

해당 영상 속 윤석열 대통령은 "국민을 괴롭히는 법을 집행해왔다"거나 "특권과 반칙, 부정, 부패를 일삼았다"라는 등 이해하기 힘든 발언을 서슴지 않았다.

방송통신심의위원회(이하 방심위)가 분석한 결과 이 영상에 고도의 AI 기술이 적용되지는 않았다. 지난 2022년 대통령 후보 시절 연설한 여러 장면을 짜깁기한 것으로 추정된다.

"저 윤석열의 사전에 민생은 있어도 정치 보복은 없다"는 내용은 "저 윤석열의 사전에 정치 보복은 있어도 민생은 없다"라는 식으로 조작한 것으로 봤다.

방심위가 긴급 심의해 시정 요구(접속 차단)를 의결했지만 '윤석열 대통령의 양심고백 연설'로 제목이 바뀐 영상은 지금도 어렵지 않게 찾아볼 수 있다.

윤석열 대통령은 지난달 29일 방한한 페이스북·인스타그램 운영사 메타의 마크 저커버그 CEO(최고경영자)를 만나 "올해는 전 세계 여러 국가에서 선거가 있는 만큼 메타와 같은 빅테크 플랫폼 기업들이 가짜뉴스와 각종 기만 행위를 신속하게 모니터링하고 조치할 수 있도록 각별한 관심을 가져달라"고 직접 요청하기도 했다.

AI가 만든 도널드 트럼프 전 미국 대통령 체포 사진. 엘리엇 히긴스 X 캡처

생성형 AI로 만든 딥페이크 영상의 부작용은 해외에서도 오래전부터 사회적 문제로 지적돼 왔다. 

작년 3월에는 도널드 트럼프 전 미국 대통령이 뉴욕 맨해튼에서 경찰에게 끌려가는 사진이 SNS에 여러 장 올라왔다. 당시 성추문 사건으로 기소 가능성이 제기됐던 만큼 실제 발생한 일로 인식할 수 있다는 우려가 적지 않았다.

사진 속 트럼프 전 대통령의 재킷과 경찰관의 손가락이 부자연스러워 가짜인 것을 알 수 있지만 표정과 배경만 빠르게 보면 진짜와 구분이 어려울 정도다.

물론 딥페이크를 올바른 방향으로 쓰는 경우도 있다. 넷플릭스 오리지널 시리즈 '살인자ㅇ난감'에는 배우 손석구의 어린 시절을 딥페이크로 재현한 아역이 등장했다.

쿠팡플레이 코미디쇼 'SNL 코리아'도 방송인 신동엽 등 크루들의 학창 시절 얼굴을 딥페이크로 만든 영상을 올려 11일 만에 조회수 78만회를 찍었다.

일단 업계는 다가오는 총선에 생성형 AI가 걸림돌이 되지 않도록 머리를 맞대기로 했다. 네이버와 카카오, SK커뮤니케이션즈, 구글, 메타, 바이트댄스(틱톡 운영사)는 자율협의체를 구성해 선거 신뢰성 제고에 힘을 쏟기로 했다.

함민정 고려대 정보문화연구소 연구원은 최근 발간한 보고서에서 "메타와 구글과 같은 대기업들은 이용자들이 AI 생성 콘텐츠를 인식할 수 있도록 정치 광고에 AI 사용을 명시하는 정책을 시행하고 있다"며 "이런 정책은 가짜뉴스와의 싸움에 중요한 전략이 될 것"이라고 했다.