K팝 스타도 당한 딥페이크…"디지털 워터마크 시급"

한숨 자고 일어났더니 나도 모르는 가짜 음란 이미지가 SNS에 퍼져 수천만명의 뇌리에 박혔다. 분명 얼굴은 내가 맞는데 실오라기 하나 걸치지 않은 몸은 다른 사람의 것이다.

불과 일주일 전 세계 최고 팝스타 테일러 스위프트에게 일어난 일이다. 신기하다 못해 정교해진 AI의 부작용 사례는 한류로 떠오른 우리나라에서도 심심치 않게 볼 수 있다. 하루가 다르게 진화하는 기술에 대응해 디지털 워터마크(표시)의 도입을 서둘러야 한다는 전문가들의 목소리가 커지고 있다.


딥페이크, 놀이에서 범죄로

1일 업계에 따르면 구글 등 해외 포털에서 두 개의 키워드만 조합하면 친숙한 K팝 아티스트의 얼굴을 입힌 음란 콘텐츠가 쏟아진다.

국내에서는 음란물 접근을 차단하고 있어 해당 사이트로의 이동은 불가하지만, 섬네일(미리 보기)만 해도 아티스트의 이미지에 치명적이다.

이들 대다수는 딥페이크를 악용해 만든 것으로 추정된다. 딥페이크는 AI 데이터 학습 기술인 '딥러닝'과 가짜를 의미하는 '페이크'의 합성어다. 진위 여부를 구별하기 어려운 가짜 이미지·영상을 뜻한다.

최근 딥페이크로 만든 가짜 음란 이미지가 퍼져 피해를 입은 팝스타 테일러 스위프트. 로이터=연합뉴스

오래전부터 온라인 커뮤니티와 SNS에서 딥페이크는 일종의 놀이로 자리매김했다. 유명인의 얼굴을 출연한 적 없는 인기 영화나 드라마 속 배우의 얼굴로 대체해 일어나기 힘든 우스꽝스러운 장면을 연출하는 식이다.

잉글랜드 프로축구 프리미어리그에서 뛰는 손흥민도 딥페이크 영상에 등장한 적이 있다.

같은 팀 소속이었다가 우승을 위해 독일 무대로 떠난 단짝 해리 케인을 아쉬움 가득한 표정으로 바라보는 손흥민을 넷플릭스 오리지널 'D.P.' 속 한 장면으로 익살스럽게 담아 화제가 됐다.

글로벌 최대 숏폼(짧은 동영상) 플랫폼인 틱톡에는 어린아이도 어렵지 않게 딥페이크 기능을 활용할 수 있는 필터가 있다. 'AI 패러디' 등의 필터를 적용하면 순식간에 자신의 얼굴이 유명 아이돌 멤버의 얼굴로 바뀐다.

영국 축구선수 해리 케인(오른쪽)의 얼굴을 AI로 입힌 OTT 'D.P.' 속 인물. 커뮤니티 캡처

문제는 딥페이크가 건전한 영역을 넘어 '성적 허위영상물'로 변질되고 있다는 점이다.

지난달 말 테일러 스위프트의 가짜 음란 사진이 X(옛 트위터) 등에서 확산됐다는 소식에 사티아 나델라 마이크로소프트 CEO는 미 NBC 방송에서 "놀랍고 끔찍하다"고 말했다.

이어 해당 사진의 제작 도구로 지목된 자사 AI 이미지 생성기 '디자이너'의 허점을 개선해 부적절한 콘텐츠의 제작을 막은 것으로 전해졌다.

우리나라에서도 딥페이크 피해 사례가 급증하고 있다.

방송통신심의위원회의 통계를 보면 연예인이나 지인의 얼굴을 음란물과 합성해 유포하는 성적 허위영상물 시정 요구가 2021년 1913건에서 2023년 11월 5996건으로 2년 사이 3배 이상 뛰었다.

터치 몇 번이면 끝날 정도로 쉽지만 성적 허위영상물을 만들어 퍼트리는 것은 엄연히 불법이다.

성폭력범죄의 처벌 등에 관한 특례법은 음란물에 유명인의 얼굴을 합성해 유포한 경우, 허위영상 편집물을 제작하고 유포한 죄에 해당해 5년 이하의 징역 또는 5000만원 이하의 벌금에 처해진다고 명시했다.

틱톡 이용자가 AI 필터로 자신의 얼굴을 가수 겸 배우 수지로 바꾼 모습. 틱톡 캡처

 
"AI로 만들었으면 '표시'하자"

하지만 불특정 다수가 찍어내는 온라인 허위영상물의 출처를 알아내는 데에는 한계가 있다.

디지털 워터마크 도입의 필요성이 제기되는 이유다. 적어도 어떤 앱으로 만들어냈는지 알아야 최소한의 관리가 가능하다는 것이다.

대표적인 선진 사례는 삼성전자가 최근 출시한 AI폰 '갤럭시S24'다.

사진 속 피사체만 골라 자유롭게 이동하는 등 AI 편집 기능을 쓰면 결과물 하단에 '갤럭시 AI'를 뜻하는 반짝이는 별 모양의 워터마크가 남는다. 틱톡의 일부 AI 필터도 '엔터테인먼트 목적'이라는 문구를 띄운다.

이미 미국은 이미지와 비디오는 물론 오디오와 텍스트를 생성하는 AI의 표시 의무를 부과했다. EU(유럽연합)도 AI와 상호작용하고 있다는 사실을 밝히는 표시 의무 최종안에 작년 말 임시 합의한 것으로 알려졌다.

이종호 과학기술정보통신부 장관이 지난달 30일 서울 중구 서울중앙우체국에서 열린 '제2차 새로운 디지털 질서 정립 관계 부처 회의'에서 디지털 질서 정립 추진 방안을 논의하고 있다. 과학기술정보통신부 제공

우리나라도 더 늦기 전에 제도 마련에 나선다. 과학기술정보통신부는 딥페이크를 활용한 가짜뉴스 등 디지털 쟁점을 관리하는 '범부처 디지털 신질서 정립 추진 계획'을 오는 3월 발표할 계획이다.

문화체육관광부도 올해 AI 관련 워킹 그룹을 운영해 저작권 보호를 위한 AI 콘텐츠 표기 의무화 도입 시점을 논의할 방침이다.

일부 창작자와 업계의 반발은 해소해야 할 과제다. 앱은 물론 콘텐츠를 유통하는 플랫폼 역시 허위영상물 유포에 따른 막대한 책임을 떠안을 수 있어서다.

이대희 고려대학교 법학전문대학원 교수는 "AI 콘텐츠 표기 의무화는 이제 첫 삽을 뜬 단계"라며 "소비자 보호, 표현의 자유, 저작권 등 다양한 요소를 고려해야 한다"고 말했다.

이 교수는 또 "지나칠 정도로 광범위한 표시 요구는 예술적 표현이나 경제 활동의 위축을 불러올 수 있다"고 했다.