X
전체뉴스
최신뉴스
스포츠
축구
야구
농구
배구
골프
스포츠일반
엔터
연예
방송
영화
대중음악
OTT
문화
게임·e스포츠
경제
경제·정치
산업
자동차
IT
금융
생활·문화
부동산
오피니언
핫클립
영상
포토
X
검색결과21건
경제일반

방심위 "딥페이크 대책 한달…수사의뢰 2.4배 늘어"

방송통신심의위원회는 한 달 간 딥페이크 관련 신고 및 시정 요구, 수사 의뢰 건수 등이 동반 증가했다고 18일 밝혔다.방통위는 지난 8월 28일 '딥페이크 성범죄영상물 종합대책' 발표 이후 지난 달 말까지 한 달간의 후속 조치로 모니터 인력을 2배로 늘려 주요 유통경로에 대한 상시 모니터링을 강화하면서 딥페이크 성범죄영상물 월별 시정 요구 건수는 전월(1519건) 대비 약 1.5배(2352건) 수준까지 증가했다.민원전화(1377) 신고 안내 메시지 개편 및 전용 신고 배너 설치, 정부 기관 홈페이지 배너 연동 및 주요 포털 공지사항 내 신고 안내 등을 통한 딥페이크 피해 본격 접수에 나서면서 디지털 성범죄 정보 월별 신고 건수도 전월(817건) 대비 약 1.4배(1181건) 수준까지 늘어났다.사회관계망서비스(SNS) 등 대상 즉각 모니터링, 24시간 내 시정 요구 등 딥페이크 성범죄영상물 대상 '3단계 조치' 시행 이후, 경찰 수사를 돕기 위한 채증을 강화하면서, 악성 유포자 등 수사 의뢰 건수 또한 전월(18건) 대비 2.4배(44건) 수준 증가했다.방심위는 딥페이크 성범죄영상물 유통 및 확산 방지를 위한 사전적 추가 조치로 전국 피해자 지원기관(4개), 지방자치단체 및 교육청 등(10개)과 협력회의 및 업무협약 체결을 통해 공조·연계 모니터링 등 신속 대응에 나섰다.또 글로벌 플랫폼 사업자 실무회의와 협조 요청 서한을 통해 해외 유통 딥페이크 성범죄영상물 등에 대한 자율적 조치 필요성을 재차 강조한 만큼, 대상 사업자들의 시정요청 이행률 또한 증가할 것으로 방심위는 기대했다.방심위는 앞서 텔레그램과의 전용 채널 개설과 첫 대면 회의 등을 거쳐 전담 직원과 상시 연락할 수 있는 추가 핫라인 가동과 실무자 협의 정례화, 불법 정보에 대한 다각적 협력 및 적극 조치 등 상시 협력 기반을 구축했다.방심위는 관련 종합대책이 계속해서 차질 없이 진행되기 위해서는 전문 인력 증원이 시급하다며 외부의 관심과 지원을 다시 한번 요청했다.권지예 기자 kwonjiye@edaily.co.kr 2024.10.18 11:34
경제일반

방심위 "텔레그램, 불법 정보 즉시 삭제 이행 약속"

앞으로 딥페이크 등 기술을 악용한 불법 정보를 방송통신심의위원회가 삭제 요청을 하면 텔레그램이 즉시 이행하게 될 전망이다.류희림 방심위원장은 30일 서울 양천구 목동 방송회관 내 방심위에서 기자회견을 열고 "지난 27일 오후 첫 대면 실무 협의에서 텔레그램 측이 딥페이크 성범죄 등이 사회적으로 문제가 된 한국의 상황을 깊이 이해한다"면서 적극 대응하겠다는 입장을 밝혀왔다고 설명했다.텔레그램은 이에 디지털 성범죄 외에도 음란·성매매, 마약, 도박 등 불법 정보에 대해서도 다각적으로 협력하기로 했으며, 불법성 판단 등 내용 심의에 전속적 권한을 가진 방심위 요청 시 이를 적극적으로 수용해 자사 플랫폼 내 불법 정보를 조처하겠다고 밝혔다.텔레그램은 또한 실무적인 업무 협력을 위해 한국 경찰청, 방송통신위원회와도 전향적으로 협의해 나가겠다고 했다.텔레그램은 앞으로 기존에 구축된 핫라인 외에 전담 직원과 상시로 연락할 수 있는 별도의 추가 핫라인을 개설하고, 실무자 협의를 정례화하기로 하는 등 방심위와 지속적인 업무 협력을 강화하기로 했다.방심위는 지난 28일까지 이어진 두 차례의 회의에서 한국의 사용자들이 더 안전하고 건전하게 텔레그램을 이용할 수 있도록 관계기관과도 적극적으로 협조해줄 것을 텔레그램 측에 다시 한번 요청했다고 강조했다.류 위원장은 "폐쇄적인 딥페이크 성범죄의 특성상, 텔레그램과의 핫라인 확보는 10대 종합대책 중 핵심 과제였다"며 "앞으로도 불법 유해 정보들을 퇴출하기 위해 국제 공조를 강화하고 텔레그램 등 해외 플랫폼 사업자들이 국내법을 준수하고 사회적 책무를 다할 수 있는 환경을 조성해 나가겠다"고 말했다.이동수 방심위 디지털성범죄심의국장에 따르면 지난 3일 텔레그램과 핫라인을 개설한 후 전자 심의를 통해 지난 25일까지 총 148건의 디지털 성범죄 정보에 대한 삭제를 요청했고 텔레그램이 100% 이행했다.이 148건 중 가장 조치에 오래 걸린 시간이 36시간 이내이며 보통 이보다 빨리 삭제된다고 밝혔다.이 국장은"텔레그램을 통해 범죄에 연루된 사람이 있다면 그 사람의 아이디와 전화번호 정도는 제공할 수 있을 것으로 보고 있다"며 "방심위도 경찰과 공조 시스템을 구축하고 있어 인지 및 조치가 신속하게 이뤄진다"고 말했다.권지예 기자 kwonjiye@edaily.co.kr 2024.09.30 11:35
IT

SKT-경찰청, 청소년 마약·딥페이크 예방 RCS 메시징 캠페인 전개

SK텔레콤은 경찰청과 손잡고 RCS 메시징 기반 공익 메시지 전달 캠페인으로 청소년 마약 범죄 근절 및 허위 영상물(딥페이크) 범죄 예방에 앞장선다고 8일 밝혔다.지난 3일부터 발송 중인 '청소년 마약 범죄 예방 방안 및 대처법' 메시지에는 청소년들에게 마약 범죄의 위험에 대한 경각심을 높이고, 학부모에게는 자녀의 마약 예방을 위한 주요 관찰 사항 및 대처 방법 등 실생활에서 참고할 수 있는 예방안을 담았다.이달 말에는 딥페이크 범죄 예방을 위한 RCS 메시지를 청소년, 학부모 고객들에게 보낼 예정이다. 이 메시지에는 딥페이크 제작 범죄에 대한 예방 방안과 주의사항 등을 포함할 예정이다.RCS 메시징 서비스는 시인성이 높은 디자인과 필요한 정보를 다양한 방식으로 전달할 수 있다. 특히 메시지를 발송하는 기업과 발송 대행사 사전 검증으로 불법 스팸 악용을 원천 차단하고 있다.SK텔레콤은 대한적십자사, 국립공원공단, 세이브더칠드런 등 총 8개 기관을 대상으로도 RCS 공익 메시지 발송 캠페인을 시행하고 있으며 향후 협업 기관을 확대할 방침이다.이상구 SK텔레콤 메시징CO담당은 "사회적 난제 해결을 위한 ESG(환경·사회·지배구조) 지원 사업을 더욱 진정성 있게 추진해 RCS 메시징 서비스가 효과적인 서비스로 자리매김할 수 있도록 노력하겠다"고 말했다.정길준 기자 kjkj@edaily.co.kr 2024.09.08 15:31
스타

트와이스→권은비 “선처 없다”…K팝계도 딥페이크 강경 대응 [왓IS]

딥페이크 성범죄가 심각한 사회적 문제로 부상한 가운데 K팝 스타를 대상으로 한 불법 합성물에 소속사들이 강경 대응에 나섰다.그룹 트와이스 소속사 JYP엔터테인먼트는 지난 30일 트와이스 FANS 어플을 통해 “최근 당사 아티스트를 대상으로 한 딥페이크 영상물이 확산되고 있는 상황에 대해 매우 심각하게 받아들이고 있다”며 피해 인지 사실을 알렸다.그러면서 “이는 명백한 불법 행위이며, 현재 관련 자료를 모두 수집하고 있는 바, 전문 법무법인과 함께 선처 없는 강력한 법적 대응을 진행 중에 있다”며 “아티스트의 권익을 침해하는 모든 행위를 절대 좌시하지 않고, 끝까지 단호하게 대처할 것”이라고 강경 대응을 예고했다.딥페이크 성범죄는 특정 인물의 얼굴을 인공지능(AI)에 학습시켜 음란물에 합성 후 온라인을 통해 무단으로 유포하는 식으로 이뤄진다. 가수 권은비 역시 최근 딥페이크 음란물을 유포한 이들을 고소했다. 지난달 소속사 울림엔터테인먼트는 “권은비에 대한 성희롱, 인신공격성 게시물, 허위사실 유포, 사생활 침해 등 심각한 명예훼손 행위로 인해 아티스트의 정신적 피해를 공지한 바 있다”며 “(이를 포함해) 아티스트의 초상을 합성해 허구의 음란성 사진을 유포하는 행위를 한 자들의 범죄 행위에 대해 다수의 게시물을 취합해 1차 고소장을 제출했고, 경찰에서 수사가 진행 중”이라고 밝혔다. 미성년자 멤버들이 포함된 그룹 뉴진스도 피해를 입었다. 뉴진스 소속사 어도어는 지난 6월 “아티스트의 초상을 합성해 허구의 음란성 사진을 유포 및 판매하는 등 도저히 용인될 수 없는 행위를 한 자들의 범죄 행위에 대해 경찰에서 수사가 진행되고 있고 그중 일부는 1심 판결에서 형사처벌이 결정되었음을 확인했다”고 전했다.브브걸 전 멤버 유정은 지난 2월 한 방송에서 직접 피해 사실을 토로한 바 있다. 유정은 “지인 제보로 내 사진이 딥페이크에 이용됐다는 사실을 알게 됐다. 현재도 인터넷에 그 사진이 돌아다니고 있다. 기분이 정말 나빴다”고 말했다.외신에서도 심각한 사안으로 주시하고 있다. 최근 미국 일간지 월스트리트 저널(WSJ)은 미국의 사이버보안 업체인 시큐리티 히어로가 최근 발표한 ‘2023 딥페이크 현황’ 보고서를 인용해 “한국이 딥페이크 음란물에 가장 취약한 국가”라고 보도했다. 해당 보고서에 따르면 전세계에 유포된 딥페이크 음란물 피해자의 절반이 넘는 53%가 한국인이며, 최다 표적이 된 개인 10명 중 8명이 한국인 가수인 것으로 나타났다. 이에 각 소속사가 강경 대응에 나선 가운데 정부 역시 지난 30일 딥페이크 등 허위 영상물 소지는 물론 구입, 시청 행위를 처벌하는 규정을 신설, 딥페이크물 제작 및 유통에 대한 처벌 기준을 상향하는 법률 개정 내용을 담은 처벌 강화 방안을 발표했다.이주인 기자 juin27@edaily.co.kr 2024.08.31 11:05
IT

윤 대통령 "딥페이크 음란물 명백한 범죄 행위"…텔레그램 핫라인 추진

최근 익명 메신저 텔레그램을 중심으로 딥페이크 음란물이 확산하자 정부가 대응에 나서는 모습이다.윤석열 대통령은 27일 국무회의 모두발언에서 "딥페이크 영상물은 단순 장난이라 둘러대기도 하지만, 익명의 보호막에 기대 기술을 악용하는 명백한 범죄 행위"라며 "우리 누구나 이런 디지털 성범죄의 피해자가 될 수 있다"고 말했다.또 윤 대통령은 "관계 당국에서는 철저한 실태 파악과 수사로 디지털 성범죄를 뿌리 뽑아 달라"며 "건전한 디지털 문화가 자리매김할 수 있도록 교육 방안도 강구해 달라"고 당부했다.이날 방송통신심의위원회는 긴급회의를 소집해 대책을 논의했다. 딥페이크 음란물 피해 신고 전용 배너를 신설하고, 관련 모니터링 요원을 늘려 실시간으로 피해 상황을 감시할 방침이다.또 텔레그램 측과 즉시 협의할 수 있는 핫라인을 구축해 피해 확산 차단에 신속성을 기할 예정이다.최근 텔레그램을 비롯한 SNS(사회관계망서비스)에서는 여성의 얼굴에 음란물을 합성한 허위 영상물을 생성·유포하는 것으로 의심되는 단체 대화방이 다수 발견됐다.경찰청에 따르면 지난 1~7월 딥페이크 성 착취 범죄 신고는 전국에서 총 297건 접수됐으며, 입건된 피의자 178명 중 10대가 73.6%를 차지했다.앞서 박지현 더불어민주당 전 비상대책위원장은 자신의 SNS에 "국가적 재난 상황임을 선포하고 시급히 대안을 마련하라"며 "텔레그램이 N번방 사건 때처럼 가해자들의 신상 협조에 수사를 거부한다면 최소한 일시적으로 텔레그램을 국내에서 차단하는 조치라도 해야 한다"고 지적했다.정길준 기자 kjkj@edaily.co.kr 2024.08.27 11:37
연예일반

故 박보람, 오늘(15일) 부검… 사망 원인 밝혀질까

가수 박보람의 부검이 오늘(15일) 진행된다.15일 연예계에 따르면 경기 남양주남부경찰서는 국립과학수사연구원(이하 ‘국과수’)를 통해 이날 오전 박보람의 부검을 진행할 예정이다.경찰은 지난 12일 박보람 시신에 대한 부검을 국과수에 의뢰했으나, 다른 부검 일정으로 인해 15일로 결정된 것으로 전해졌다.앞서 지난 11일 밤 박보람은 경기 남양주시 지인의 집 화장실에서 쓰러진 채 발견됐다. 당시 박보람은 지인들과 술자리를 가지고 있었다. 이를 발견한 지인이 경찰에 신고, 응급실에 옮겨졌지만 결국 사망했다. 경찰은 사망 당시 특별한 외상 흔적이 발견되지 않아 국과수에 부검을 의뢰했다. 부검 절차로 인해 빈소는 아직 차려지지 않은 상태다. ‘슈퍼스타K2’ 출신으로 많은 사랑을 받았던 박보람. 사망 직전까지도 신보를 발매할 만큼 활발히 활동했던 만큼, 그의 사망을 둘러싸고 가짜뉴스가 생성되기도 했다.이에 소속사 제나두엔터테인먼트는 공식입장을 통해 ‘가짜뉴스’에 대한 강경 대응의 입장을 밝혔다. 소속사는 “모든 허위와 억측성 영상물, 게시글은 즉각 내려주실 것을 요청한다. 이후에도 이와 같은 행위가 지속될 경우 당사는 강력한 민·형사상의 조처를 할 것이며, 장례 절차 후 엄중하게 법적 대응을 이어가겠다. 이 과정에서 어떠한 선처나 합의는 없을 것”이라고 경고했다.김지혜 기자 jahye2@edaily.co.kr 2024.04.15 08:48
연예일반

故박보람, 부검으로 사인 밝힌다..“가짜뉴스, 강력 대처” [종합]

지난 11일 향년 30세로 유명을 달리한 가수 박보람의 정확한 사인을 규명하기 위해 경찰이 부검을 진행할 계획이다.경기 남양주남부경찰서 및 남양주소방서에 따르면 박보람은 지난 11일 오후 9시 55분께 남양주시에 있는 지인의 집에서 쓰러진 채 발견돼 병원으로 이송됐지만 오후 11시 17분 사망했다.박보람은 당시 지인들과 술을 마시던 중 화장실에 가기 위해 홀로 자리를 떴다가 쓰러진 채 발견된 것으로 전해졌다. 지인의 신고를 받은 경찰과 소방이 출동했으나 현장 도착 당시 이미 심정지 상태였으며, 인근 병원으로 옮겨졌지만 구급대원과 의료진의 심폐소생술(CPR)에도 불구하고 끝내 숨을 거뒀다.박보람에게서 이렇다 할 외상이 발견되지 않아 돌연사로 추정되고 있는 가운데, 경찰은 정확한 사인 파악을 위해 유족 등의 동의를 얻어 부검을 진행하기로 했다. 부검은 15일로 예정됐으며 장례 절차는 부검 이후 진행될 예정이다. 아직 빈소는 마련되지 않았다. 소속사 제나두엔터테인먼트는 12일 “비통하고 가슴 아픈 소식을 전하게 됐다”며 박보람의 비보를 전했다. 소속사는 “박보람을 응원해 주시는 팬 여러분께 갑작스러운 소식을 전해 드리게 되어 더욱 가슴이 아프다”며 “슬픔에 빠진 유가족 및 동료들이 고인을 추모할 수 있도록 추측성 보도는 자제해 주시길 간곡히 부탁드린다”고 덧붙였다. 그럼에도 우려했던 ‘가짜뉴스’가 유튜브에서 창궐했고, 박보람과 생전 절친했던 가수 김그림은 “피가 솟구친다”며 분노를 표했다. 김그림은 13일 자신의 SNS에 “AI 목소리로 자극적인 제목과 섬네일 넣고 가짜뉴스 만드는 유튜버들 어떻게 조치하는 법 없나요? 떠난 사람 이용해서 돈벌이하는 정말 상종 못 할 인간들, 제가 경찰 조사 받고 있다는 허위 사실까지. 적당히들 하세요. 천벌 받습니다”라며 경고했다.소속사 역시 선처 없는 강경대응을 예고했다. 소속사는 14일 “현재 온라인 커뮤니티 및 유튜브, SNS 등을 통해 고 박보람에 대한 악의적 게시물과 근거 없는 허위 사실 등이 포함된 명예훼손성 게시물 및 댓글이 무분별하게 유포되고 있다”며 “모든 허위와 억측성 영상물, 게시글은 즉각 내려주실 것을 요청 드린다”고 밝혔다. 소속사는 가짜뉴스에 따른 유족 및 지인들의 충격과 고통을 전하면서 “이후에도 이와 같은 행위가 지속될 경우 당사는 강력한 민·형사상의 조치를 취할 것이며, 장례 절차 후 엄중하게 법적 대응을 이어가겠다. 이 과정에서 어떠한 선처나 합의는 없을 것”이라고 강조했다.한편 박보람은 2010년 방송된 Mnet 서바이벌 프로그램 ‘슈퍼스타K2’에 출연해 이름을 알렸다. 당시 술 때문에 간경화로 그해 초 세상을 떠난 아버지와 약속을 지키기 위해 노래를 부른다는 사연으로 주목을 받았으며 폭발적인 가창력으로 대중의 마음을 사로잡았다.2014년 ‘예뻐졌다’로 정식 데뷔한 그는 그 해 연간 차트 17위에 오르는 등 큰 인기를 누렸다. ‘예뻐졌다’ 외에 ‘연애할래’, ‘애쓰지 마요’, ‘혜화동’ 다수의 히트곡들을 보유하고 있다. 드라마 OST로도 대중과 친숙했다. ‘장난스런 키스’ OST ‘두근두근’, ‘응답하라 1988’ OST ‘혜화동’, ‘W’ OST ‘거짓말이라도 해줘요’, ‘슬기로운 감빵생활’ OST ‘꿈만 같아’ 등에 참여했다. 올해 데뷔 10주년이 된 박보람은 지난 2월 ‘슈퍼스타K2’ 우승자였던 가수 허각과 듀엣곡 ‘좋겠다’을 발표하는 등 10주년을 맞아 활발한 활동을 예고했으나 뜻밖에 세상과 이별을 고해 안타까움이 이어지고 있다. 지난 3일 발표한 신곡 ‘보고싶다 벌써’가 그의 유작이 됐다. 박세연 기자 psyon@edaily.co.kr 2024.04.14 11:09
연예일반

故 박보람 측 “가짜뉴스에 유족 고통…강경대응 선처 없다” [전문]

지난 11일 사망한 가수 박보람 측이 고인을 둘러싼 가짜뉴스에 대한 강경대응 입장을 내놨다. 박보람 소속사 제나두엔터테인먼트는 14일 “현재 온라인 커뮤니티 및 유튜브, SNS 등을 통해 고 박보람에 대한 악의적 게시물과 근거 없는 허위 사실 등이 포함된 명예훼손성 게시물 및 댓글이 무분별하게 유포되고 있다”며 “모든 허위와 억측성 영상물, 게시글은 즉각 내려주실 것을 요청 드린다”고 밝혔다. 소속사는 “박보람은 데뷔 후부터 확인되지 않은 사실 등으로 인해 악플에 시달려왔고, 고인이 된 지금도 가해지는 이러한 가짜뉴스는 고인을 두 번 죽이는 것과 다를 바 없는 명백한 범죄 행위다. 이를 접한 당사 및 유족들, 주변 지인들 또한 정신적으로 너무나 큰 충격과 고통을 받고 있다”고 전했다. 그러면서 “이후에도 이와 같은 행위가 지속될 경우 당사는 강력한 민·형사상의 조치를 취할 것이며, 장례 절차 후 엄중하게 법적 대응을 이어가겠다. 이 과정에서 어떠한 선처나 합의는 없을 것”이라고 강조했다.한편 박보람은 지난 11일 사망했다. 경찰은 정확한 사인 파악을 위해 15일 부검을 진행할 예정이다. <다음은 박보람 소속사 공식입장 전문>제나두엔터테인먼트입니다.현재 온라인 커뮤니티 및 유튜브, SNS 등을 통해 고 박보람에 대한 악의적 게시물과 근거 없는 허위 사실 등이 포함된 명예훼손성 게시물 및 댓글이 무분별하게 유포되고 있습니다.박보람은 데뷔 후부터 확인되지 않은 사실 등으로 인해 악플에 시달려왔고, 고인이 된 지금도 가해지는 이러한 가짜뉴스는 고인을 두 번 죽이는 것과 다를 바 없는 명백한 범죄 행위입니다. 이를 접한 당사 및 유족들, 주변 지인들 또한 정신적으로 너무나 큰 충격과 고통을 받고 있습니다. 모든 허위와 억측성 영상물, 게시글은 즉각 내려주실 것을 요청 드립니다. 이후에도 이와 같은 행위가 지속될 경우 당사는 강력한 민·형사상의 조치를 취할 것이며, 장례 절차 후 엄중하게 법적 대응을 이어가겠습니다. 이 과정에서 어떠한 선처나 합의는 없을 것입니다.다시 한번 힘든 시간을 보내고 있는 유가족 및 지인들에게 상처를 주는 행위는 삼가주시길 간곡히 부탁드립니다. 고인의 장례 절차와 사인에 대해서는 확인되는 대로 입장을 전달하겠습니다. 감사합니다.박세연 기자 psyon@edaily.co.kr 2024.04.14 10:53
연예일반

“악의적 비방에 선처 없다”…SM, 아티스트 보호 강력 법적대응 계속[왓IS]

스타들을 향한 무분별한 악플 테러가 끊이지 않고 있는 가운데, SM엔터테인먼트가 샤이니, 레드벨벳, 에스파, 라이즈 등 소속 아티스트 보호를 위해 칼을 빼들었다.SM엔터테인먼트(이하 SM)는 8일 소속 아티스트의 권익 보호를 위한 신고 센터 ‘광야 119’를 통해 소속 아티스트를 대상으로 하는 허위사실 유포, 악의적 비방, 성희롱, 사생활 침해 등 범죄 행위에 대한 법적 진행 상황을 안내했다. SM은 “주요 사안으로는 ▲사실이 아니고 근거조차 없는 악성 루머를 만들어 소속 아티스트의 인격권 및 명예를 훼손하는 행위, ▲소속 아티스트를 사칭하거나 스토킹하는 행위, ▲소속 아티스트의 초상을 무단으로 사용하여 음란한 사진과 영상물을 제작하거나 이를 배포하는 행위, ▲아티스트를 공연히 비방할 목적으로 모욕하는 행위 등이 있고, 이에 대하여 고소장을 제출하고 있으며, 현재 경찰 및 검찰 등 수사기관에서 여러 건의 수사 및 조사가 진행 중”이라고 설명했다.그러면서 “수사 및 조사 과정에 영향을 미치지 않도록 상세하게 안내드릴 수 없는 점 양해하여 주시기 바라며, 당사는 이러한 범죄 행위에 대하여 좌시하지 않고 어떠한 선처나 합의 없이 원칙대로 강경하게 대응할 것이니, 불미스러운 일에 연루되지 않도록 각별한 주의를 부탁드린다”고 당부했다.SM은 이와 별도로 각 아티스트별 공식 계정에도 ‘아티스트 권리 침해 행위 관련 당부 말씀’이라는 제목의 글을 게재하며 선처 없는 법적 대응 방침을 시사했다현재 SM에는 강타, 보아, 동방신기, 슈퍼주니어, 소녀시대, 샤이니, 엑소, 레드벨벳, NCT 127, NCT DREAM, 웨이션브이, 에스파, 라이즈, NCT WISH, 긴조, 임레이, 레이든 등이 소속돼 있다.박세연 기자 psyon@edaily.co.kr 2024.02.08 10:46
IT

K팝 스타도 당한 딥페이크…"디지털 워터마크 시급"

한숨 자고 일어났더니 나도 모르는 가짜 음란 이미지가 SNS에 퍼져 수천만명의 뇌리에 박혔다. 분명 얼굴은 내가 맞는데 실오라기 하나 걸치지 않은 몸은 다른 사람의 것이다.불과 일주일 전 세계 최고 팝스타 테일러 스위프트에게 일어난 일이다. 신기하다 못해 정교해진 AI의 부작용 사례는 한류로 떠오른 우리나라에서도 심심치 않게 볼 수 있다. 하루가 다르게 진화하는 기술에 대응해 디지털 워터마크(표시)의 도입을 서둘러야 한다는 전문가들의 목소리가 커지고 있다.딥페이크, 놀이에서 범죄로1일 업계에 따르면 구글 등 해외 포털에서 두 개의 키워드만 조합하면 친숙한 K팝 아티스트의 얼굴을 입힌 음란 콘텐츠가 쏟아진다.국내에서는 음란물 접근을 차단하고 있어 해당 사이트로의 이동은 불가하지만, 섬네일(미리 보기)만 해도 아티스트의 이미지에 치명적이다.이들 대다수는 딥페이크를 악용해 만든 것으로 추정된다. 딥페이크는 AI 데이터 학습 기술인 '딥러닝'과 가짜를 의미하는 '페이크'의 합성어다. 진위 여부를 구별하기 어려운 가짜 이미지·영상을 뜻한다. 오래전부터 온라인 커뮤니티와 SNS에서 딥페이크는 일종의 놀이로 자리매김했다. 유명인의 얼굴을 출연한 적 없는 인기 영화나 드라마 속 배우의 얼굴로 대체해 일어나기 힘든 우스꽝스러운 장면을 연출하는 식이다.잉글랜드 프로축구 프리미어리그에서 뛰는 손흥민도 딥페이크 영상에 등장한 적이 있다.같은 팀 소속이었다가 우승을 위해 독일 무대로 떠난 단짝 해리 케인을 아쉬움 가득한 표정으로 바라보는 손흥민을 넷플릭스 오리지널 'D.P.' 속 한 장면으로 익살스럽게 담아 화제가 됐다.글로벌 최대 숏폼(짧은 동영상) 플랫폼인 틱톡에는 어린아이도 어렵지 않게 딥페이크 기능을 활용할 수 있는 필터가 있다. 'AI 패러디' 등의 필터를 적용하면 순식간에 자신의 얼굴이 유명 아이돌 멤버의 얼굴로 바뀐다. 문제는 딥페이크가 건전한 영역을 넘어 '성적 허위영상물'로 변질되고 있다는 점이다.지난달 말 테일러 스위프트의 가짜 음란 사진이 X(옛 트위터) 등에서 확산됐다는 소식에 사티아 나델라 마이크로소프트 CEO는 미 NBC 방송에서 "놀랍고 끔찍하다"고 말했다.이어 해당 사진의 제작 도구로 지목된 자사 AI 이미지 생성기 '디자이너'의 허점을 개선해 부적절한 콘텐츠의 제작을 막은 것으로 전해졌다.우리나라에서도 딥페이크 피해 사례가 급증하고 있다.방송통신심의위원회의 통계를 보면 연예인이나 지인의 얼굴을 음란물과 합성해 유포하는 성적 허위영상물 시정 요구가 2021년 1913건에서 2023년 11월 5996건으로 2년 사이 3배 이상 뛰었다.터치 몇 번이면 끝날 정도로 쉽지만 성적 허위영상물을 만들어 퍼트리는 것은 엄연히 불법이다.성폭력범죄의 처벌 등에 관한 특례법은 음란물에 유명인의 얼굴을 합성해 유포한 경우, 허위영상 편집물을 제작하고 유포한 죄에 해당해 5년 이하의 징역 또는 5000만원 이하의 벌금에 처해진다고 명시했다. "AI로 만들었으면 '표시'하자"하지만 불특정 다수가 찍어내는 온라인 허위영상물의 출처를 알아내는 데에는 한계가 있다.디지털 워터마크 도입의 필요성이 제기되는 이유다. 적어도 어떤 앱으로 만들어냈는지 알아야 최소한의 관리가 가능하다는 것이다.대표적인 선진 사례는 삼성전자가 최근 출시한 AI폰 '갤럭시S24'다.사진 속 피사체만 골라 자유롭게 이동하는 등 AI 편집 기능을 쓰면 결과물 하단에 '갤럭시 AI'를 뜻하는 반짝이는 별 모양의 워터마크가 남는다. 틱톡의 일부 AI 필터도 '엔터테인먼트 목적'이라는 문구를 띄운다.이미 미국은 이미지와 비디오는 물론 오디오와 텍스트를 생성하는 AI의 표시 의무를 부과했다. EU(유럽연합)도 AI와 상호작용하고 있다는 사실을 밝히는 표시 의무 최종안에 작년 말 임시 합의한 것으로 알려졌다. 우리나라도 더 늦기 전에 제도 마련에 나선다. 과학기술정보통신부는 딥페이크를 활용한 가짜뉴스 등 디지털 쟁점을 관리하는 '범부처 디지털 신질서 정립 추진 계획'을 오는 3월 발표할 계획이다.문화체육관광부도 올해 AI 관련 워킹 그룹을 운영해 저작권 보호를 위한 AI 콘텐츠 표기 의무화 도입 시점을 논의할 방침이다.일부 창작자와 업계의 반발은 해소해야 할 과제다. 앱은 물론 콘텐츠를 유통하는 플랫폼 역시 허위영상물 유포에 따른 막대한 책임을 떠안을 수 있어서다.이대희 고려대학교 법학전문대학원 교수는 "AI 콘텐츠 표기 의무화는 이제 첫 삽을 뜬 단계"라며 "소비자 보호, 표현의 자유, 저작권 등 다양한 요소를 고려해야 한다"고 말했다.이 교수는 또 "지나칠 정도로 광범위한 표시 요구는 예술적 표현이나 경제 활동의 위축을 불러올 수 있다"고 했다.정길준 기자 kjkj@edaily.co.kr 2024.02.02 07:00
더보기
브랜드미디어
모아보기
이코노미스트
이데일리
마켓in
팜이데일리
행사&비즈니스
HotPhoto
TOP