유명인의 딥페이크(AI로 만든 영상, 이미지, 음성 조작물) 문제가 큰 이슈가 되면서 글로벌 IT 기업들이 잇따라 AI로 생성된 이미지에 디지털 워터마크(라벨·꼬리표)를 붙이고 있다.
챗GPT 개발사 오픈AI는 자사의 이미지 생성 AI 도구인 '달리3'가 만든 이미지에 디지털 워터마크를 부착한다고 7일 밝혔다.
오픈AI 측은 “'달리3'가 만든 이미지에 콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)의 워터마크를 부착할 계획”이라며 “디지털 정보에 대한 대중의 신뢰를 높이는 데 도움이 될 것”이라고 했다.
C2PA는 미디어 출처와 관련 정보 확인을 위한 개방형 기술 표준으로, 마이크로소프트와 어도비, 인텔 등의 기업이 주도하고 있다.
디지털 워터마크는 메타데이터(데이터의 구조·속성 등을 표현한 자료) 형태로 이미지에서는 볼 수 없고, 콘텐츠 자격증명 인증과 같은 사이트에서 AI가 이미지를 생성했는지 여부를 확인할 수 있다.
오픈AI는 웹 버전에서 '달리3'로 생성된 이미지 메타데이터에는 이미 C2PA가 들어가 있으며, 12일까지 이를 모바일 사용자에게도 확대할 계획이라고 밝혔다.
페이스북 모회사 메타와 구글도 워터마크 부착에 나서고 있다. 메타는 지난 6일 자체 AI 도구 '메타 AI'를 사용해 만든 이미지뿐만 아니라 외부 AI 도구로 만든 콘텐츠에도 '이매진드 위드 AI‘라는 라벨(꼬리표)을 붙이겠다고 했다. 구글도 지난 1일 자사 AI 챗봇 서비스인 바드에 이미지 생성 기능을 추가하면서 구글 딥마인드가 개발한 워터마크를 적용했다.
지난달 팝스타 테일러 스위프트의 사진을 합성한 딥페이크 음란 이미지가 인터넷상에 퍼지면서 국제적으로 딥페이크에 적극 대응해야 한다는 목소리가 커지고 있다.