카카오, AI 기술로 뉴스 악플 3분의 1로 줄여

뉴스 댓글 서비스 '세이프봇' 적용 성과. 카카오 제공

 
카카오의 인공지능(AI) 필터링 기술 도입 후 뉴스 악성 댓글이 크게 줄어든 것으로 나타났다.
 
14일 카카오가 공개한 AI 댓글 필터링 기능 '세이프봇' 성과 분석에 따르면, 2020년 12월 도입 후 욕설·비속어를 포함한 댓글과 이용자가 신고한 욕설 댓글 비중 등이 대폭 감소했다.
 
세이프봇은 욕설·비속어를 포함하거나 게시물 운영 정책을 위반한 댓글을 AI 기술로 분석해 자동으로 필터링한다. 욕설과 비속어는 음표로 치환하고, 다른 이용자에게 불쾌감을 줄 수 있는 댓글은 노출되지 않도록 가린 뒤 알아서 신고한다.
 
세이프봇 적용 전인 2020년 하반기와 적용 후인 2021~2022년 월평균 수치를 비교한 결과, 욕설·비속어 포함 댓글이 3분의 1 수준으로 줄었다.
 
욕설이 들어가 음표로 자동 치환된 댓글 수가 2020년 하반기 대비 2021년 53.7%, 2022년 63.8% 감소한 것이다.
 
전체 댓글 중 이용자가 신고한 욕설 댓글의 비중도 2020년 하반기 4.2%에서 2022년 2.4%로 낮아졌다. 이용자의 신고로 삭제된 욕설 댓글도 2021년 73.6%, 2022년 91.7% 감소하며, 12분의 1 수준으로 줄어들었다.
 
카카오는 현재 포털 다음과 카카오톡 뷰 탭 뉴스 댓글 서비스에 세이프봇을 적용했다. 내년 상반기에는 증오 발언 데이터를 세이프봇에 추가할 계획이다. 
 
김종한 카카오 다음사업개발실장은 "카카오의 AI 기술이 온라인 공론장인 뉴스 댓글 서비스의 건강성을 높인 것으로 분석된다"며 "앞으로도 이용자가 안전하고 쾌적하게 서비스를 이용할 수 있도록 관련 기술의 고도화에 노력할 것"이라고 말했다.
 
정길준 기자 [e-mail]