인공지능 기술을 활용해 인물의 얼굴이나, 특정 부위를 합성한 영상편집물인 일명 ‘딥페이크’ 기술로 제작된 연예인 허위 영상물을 유포한 10대와 20대가 잇따라 검거됐다.
25일 부산경찰청은 성폭력처벌법 위반 혐의로 연예인 딥페이크 허위영상물을 판매한 4개의 사건을 적발해 10대 A군 등 2명을 구속하는 등 관련자 6명을 검거했다고 밝혔다.
경찰에 따르면 A군 등 구속된 2명은 K-POP 가수 150여명의 얼굴을 합성한 딥페이크 사진 3039개와 일반 성 착취 영상물 1만1373개를 인터넷 검색을 통해 수집, 보유한 뒤 이를 90차례에 걸쳐 모두 150만원을 받고 판매한 혐의를 받고 있다.
이들은 트위터나 디스코드 등 해외 소셜네트워크서비스(SNS)를 통해 광고했고, 연락이 온 사람에게 해당 영상이 저장된 곳의 아이디와 비밀번호를 알려주는 방식으로 판매했다.
A군 등은 경찰 조사에서 “용돈을 벌려고 시작했다”고 진술했다.
또 다른 10대인 B군은 올해 1월 일반인 9명의 얼굴을 합성한 딥페이크 사진 11건을 해외 SNS를 통해 판매하고 광고하다 불구속 입건됐다. 20대인 C씨는 올해 1월 국내 가수 3명의 얼굴을 합성한 불법 허위영상물 5건을 인터넷을 통해 판매했다.
10대인 D군도 국내 가수 14명의 얼굴을 합성한 딥페이크 사진 163개와 일반 성착취물 379개를 보유하며 판매하다가 적발됐고, 경찰은 판매 서버를 임대한 20대도 함께 검거했다.
경찰은 이외에도 13건에 대해 내사를 진행 중이라고 설명했다.
성폭력 처벌법 제14조의2는 허위 영상물을 편집, 합성, 가공할 경우 5년 이하, 5000만원 이하 형에 처하도록 규정하고 있다. 또한 판매 할 경우 7년 이하 징역형에 처할 수 있도록 하고 있다.
경찰은 “피의자들은 추가적인 성착취물 공유나 판매를 통한 수익창출 목적으로 범행했다”며 “성착취물의 유포가 용이하도록 서버를 유료제공한 임대서버 업자도 공범으로 함께 입건했다”고 밝혔다.
이어 “불법 허위 영상물의 대다수는 속칭 지인능욕물이나 연예인 합성 허위 영상물이 차지하고 있다”며 “한 번 유포되면 공유·확산·재유포돼 추가 피해를 발생시키는 중대 범죄이므로 비록 10대라 할지라도 구속 수사 될 수 있어 각별한 주의가 필요하다”고 강조했다.
이지영 기자 lee.jiyoung2@joongang.co.kr