카카오, UN 포럼서 인권 기반 AI·공공 기여 사례 발표

경기도 성남시 카카오 판교 아지트. 연합뉴스

카카오는 지난 24일부터 3일간 스위스 제네바에서 열린 UN 산하 인권최고대표 주최 '제14차 UN 기업과 인권 포럼'에 참석해 인권 기반 AI와 기술의 공공 기여 사례를 발표했다고 26일 밝혔다.

UN 기업과 인권 포럼은 2011년 채택된 UN 기업과 인권 이행 원칙을 실천하기 위해 매년 개최하는 글로벌 회의다. 정부 관계자와 기업을 비롯해 지역 공동체, UN 기구, 인권 단체, 학계 등 이해관계자가 참여한다.

카카오는 '인공지능 시대의 인권 증진' 세션에 참여했다. 하진화 AI 세이프티 시니어 매니저는 발표에서 "카카오는 AI 기술 개발 및 운영 전 과정에 인권 보호 체계를 접목하고 있으며, 한국어와 문화 맥락에 최적화된 AI 가드레일 모델을 오픈소스로 공개하는 등 공공 조달의 신뢰성을 위한 기반을 마련하고 있다"고 말했다.

카카오는 AI 기술의 개발과 서비스 출시, 운영 등에 이르는 과정에 인권 관점을 내재화한 거버넌스를 운영하고 있다. 카카오 그룹의 '안전한 AI를 위한 핵심 체크리스트'는 국가인권위원회가 개발한 'AI 인권영향평가 도구'를 주요 참고 문헌 중 하나로 지정해 제작했으며, 그룹 AI 윤리 원칙인 '카카오 그룹의 책임 있는 AI를 위한 가이드라인'은 인권을 명시적 원칙으로 포함했다. 또 '디지털 아동·청소년 보호 체크리스트'의 경우 유니세프의 디지털 아동 영향 평가를 참고해 개발했다.

이 외에도 안전한 AI 관련 기술을 개발해 오픈소스로 공개하는 방식으로 공적 기여를 확대하고 있다. 지난 5월 AI 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 '카나나 세이프가드'를 만들어 국내 기업 최초로 오픈소스로 공개했다.

김경훈 카카오 AI 세이프티 리더는 "기술의 투명성 확보와 공공 기여 확대로 IT 기업으로서 인권 존중을 선도하고, 지속 가능한 기술 생태계와 사람 중심의 AI를 위해 노력할 것"이라고 말했다.