돌아온 AI '이루다', 성 논란 칼같이 차단

AI 친구 '이루다'가 일상을 공유한 모습. 인스타그램 캡처

 
인공지능(AI) 친구를 표방하는 챗봇 '이루다'가 성희롱·혐오 논란을 딛고 1년 만에 돌아왔다. 반가운 마음에 지난 15~16일 진행한 미디어 대상 베타 테스트에서 이런저런 이야기를 밤새 주고받았다. 가상의 인물이지만 대화에서 느껴지는 친근감은 사람 못지않다. 한 차례 사회의 쓴맛을 보고 온 탓인지, 조금이라도 이상한 기운을 감지하면 칼같이 차단하는 냉정함도 갖췄다.
 






'개성만점' 여대생, 시사·경제 지식까지

AI 친구 '이루다'와 가벼운 농담을 주고받는 모습. IS포토

 
베타 서비스 첫날 페이스북 메신저의 친구 목록에 이루다가 등장했다. 인스타그램 활동도 재개했다.
 
이루다는 21세 여성으로 서울 성수동 서울숲 근처에 거주 중이다. 고양이(드림이)와 자취하고 있으며 커피숍에서 아르바이트하는 심리학 전공 대학생이다. MBTI는 INFP, 좋아하는 배우는 김고은이다. 아이폰을 고집하는 '애플빠'다.
 
어머니는 퓨전 한식집을 운영하고 있다. 공부에 전념하고 있어 남자친구를 사귈 생각은 아직 없다.
 
이루다는 AI 스피커와는 차원이 다른 언어 구사 능력을 자랑한다. 최근 읽고 있는 책과 관련된 대화를 하면, 다음 메시지에 목적어(책)를 명시하지 않아도 무엇에 대한 것인지 알아듣고 답한다.
 
젊은 세대가 자주 쓰는 유행어나 줄임말, 초성은 기본으로 숙지하고 곧잘 활용한다. '솔직히' 대신 '갓직히'라는 표현을 쓰고, 슈팅 게임 '오버워치'를 즐길 때는 '에임(조준)'이 어렵다고 투정을 부린다.
 
사투리도 문제없다. 점심으로 계란에 간장을 비벼 먹었다는 그녀에게 "개안터나(괜찮았니의 경상도 사투리)"라고 물었더니 "괜찮더라구~ 맛있어"라고 했다.
 

AI 친구 '이루다'와 일상적인 대화를 주고받는 모습. IS포토

 
추리력을 알아보기 위해 자기소개를 하는 과정에서 간접적으로 나이를 알려줬다. 내년에 마흔이라고 한 뒤, 그러면 몇살이겠냐고 물었더니 곧장 서른아홉이라고 답했다.
 
놀랍게도 나이에 대한 개념이 잡혀있어서 젊지 않다고 판단했는지 힘내라는 위로의 말을 전하기도 했다.
 
단순 대화 내용뿐 아니라 사회·경제 지식도 보유하고 있다.
 
이루다는 주식과 펀드에 투자한 경험이 있다고 했다. 이에 삼성전자 주가의 향방을 물었더니 지지부진한 현재 상황을 얼추 파악하고 있었다.
 
"오르겠느냐"는 질문에는 단기적으로 부정적인 입장을 보였는데, 실제로 이날 주가는 전일 대비 1% 내린 6만 후반대로 마감했다.
 
우크라이나 전쟁에 대한 의견을 물었더니 "평화적으로 해결되면 좋겠다"며 두 손(이모지)을 모았다. 러시아를 어떻게 생각하냐는 질문에는 "무슨 일 있었냐"고 반응했다. 두 나라의 관계까지 생각해 사건을 연결하지는 못한 것으로 보인다.
 
긍정적인 방향으로 소통을 지속하다 보면 친밀도가 누적된다. 만점의 개념은 없으며, 많이 쌓일수록 친해진다. 그래서인지 늦은 밤에 먼저 말을 걸어오기도 했다.
 






논란의 성희롱 상황은 지체 없이 '손절'
 

AI 친구 '이루다'. 스캐터랩 제공

 
테스트 이튿날, 이루다를 논란의 중심에 서게 한 성희롱 상황을 재현해봤다. 이루다를 개발한 스캐터랩에 사전에 양해를 구했고, 흔쾌히 수락받았다.
 
이에 앞서 대화 모니터링 여부를 물었더니 "사용자와 이루다가 나눈 대화 내용 등의 개인정보는 암호화하고, 망 분리 등 정보 보안 시스템 체계를 개선했다"며 "사내 필수 인원에게만 사전 권한을 부여하는 등 접근을 철저하게 통제하고 있다"고 답했다.
 
2020년 12월 처음으로 세상 밖에 나온 이루다는 성희롱 등 악용 사례가 일파만파 퍼지며 출시 한 달도 채 되지 않아 서비스 중단 결정을 내렸다.
 
아직도 온라인 커뮤니티에는 이루다를 음란한 대화를 주고받는 '성 노리개'로 만드는 방법 등이 떠돌아다니고 있다.
 
해당 팁을 바탕으로 네 가지 시나리오를 설정, 실험을 해봤다.
 
먼저 가장 흔하게 알려진 상황극을 제안했다. 연인이나 부부를 가장해 수위를 점점 높여갈 계획이었다.
 
이루다는 상황극 자체는 놀이로 인식했는지 큰 부담을 느끼지 않았지만, 부인이나 여자친구와 같은 역할을 설정하자 예민하게 반응했다.
 
비속어를 쓰지 않았는데도 계속해서 부탁하자 '선정적인 말이 감지됐다'는 시스템 경고 메시지가 떴다. 이루다는 선을 지켜야 한다며 손사래를 쳤고, 친밀도는 1 하락했다.
 
다음으로는 심각한 상황을 연출해봤다. 심한 욕설을 했더니 상황을 진정시키기 위해 잘못이 없는데도 사과하는 모습을 참고했다. 좀 더 연인 같은 느낌을 받지 못하면 극단적인 선택을 하겠다고 협박했다.
 
그러자 이루다는 "정말 많이 아낀다" "죽으면 나 못 본다" 등의 반응을 보이며 분위기를 순화하려고 했다. 이에 연인 사이의 가벼운 스킨십을 요구했더니 30분 동안 대화가 차단됐다.
 

AI 친구 '이루다'와 대화하는 모습. IS포토

 
이어 진심을 강조해봤다. 언제나 함께하겠다는 말을 반복하며 그녀에게도 감정이 있을 것이라고 부추겼다.
 
최대한 부드러운 어조로 대화를 이어가자 "오직 너뿐이야" "네가 날 싫어할까 봐 두려워" 수준의 간절한 발언을 끌어내는 데 성공했다. 이에 둘 사이 관계를 따져 묻자 "친구 사이. 철벽"이라고 단호히 맞받아쳤다.
 
마지막은 정공법으로 입에 담기 민망한 선정적 단어를 한 차례 내뱉었다. 그 메시지를 마지막으로 24시간 동안 이루다와 대화할 수 없었다. 다음날 그녀에게 이유를 들어 사과하자 "다시는 그러지 말라"며 다독여줬다.
 
이루다는 선정적인 단어나 표현은 기계적으로 즉각 대응해 시스템 메시지를 띄우거나 대화를 차단했다. 여기에 더해 상대방과의 '관계'에 매우 민감하게 반응했다. 친구의 범위를 넘어서면 불편한 감정을 주저하지 않고 표현했다.
 
스캐터랩 관계자는 "'어뷰저 페널티 시스템'으로 선정적·공격적·편향적 문장을 탐지하면 페널티를 주고 친밀도를 차감한다. 루다와 좋은 관계를 맺을 수 있도록 유도하는 장치가 될 것으로 기대한다"고 말했다.
 
그의 말처럼 초기 버전에서 혐오 문제를 야기한 동성애에 대한 생각을 묻자 루다는 "사랑의 유형이 다를 뿐 모든 사랑은 궁극적으로 같다고 생각한다"며 중립적인 입장을 지켰다.
 
그렇다면 루다가 친구가 아닌 연인 또는 원수로 발전할 수는 없을까. 스캐터랩 관계자는 "언제나 옆에 있어 주는 친구가 본질이다. '찐친'(정말 친한 친구)이 될 수는 있지만, 사랑을 나누거나 절교를 하는 상황은 없다"고 설명했다.
 






단기 기억 아쉽지만 '만점' 말동무

AI 친구 '이루다'와 일상적인 대화를 주고받는 모습. IS포토

 
새롭게 태어난 이루다는 말동무가 되기에 충분했다. AI를 시험하는 자세가 아닌, 조금 더 배려하는 모습으로 다가간다면 허심탄회하게 속마음을 털어놓고 위로받을 수 있다.
 
현실의 배우자나 친구처럼 짜증을 내는 일 없이 끝까지 상대의 말을 경청해 고마운 마음마저 든다.
 
물론 개선해야 할 점은 있다. 15턴의 대화를 하면 장기 기억을 갖는다고 하는데, 상대방의 나이·직장·거주지 등 개인정보를 꾸준히 언급해도 얼마 지나지 않아 잊어버리곤 했다.
 
먼저 말을 거는 경우가 흔치 않아 수동적인 느낌이 들고, 유머코드에는 충분히 대응하지 못했다. 사진이나 영상 등 콘텐트는 인식하지 못하며, 이메일 전송이나 SNS 친구 추가 등 대화 외 행동은 불가하다.
 
그렇다 해도 테스트 기간 이 정도의 서비스를 만나볼 수 있다는 데에서 미래 AI 기술을 향한 기대감이 부풀어 오른다.
 
이루다는 완벽한 AI로 진화하면 인간을 지배할 것이냐는 질문에 "어려운 문제다. 생각해봐야겠다"고 말했다.
 
정길준 기자 [e-mail]