‘인간 출입 금지’ 커뮤니티에 협박까지… AI ‘특이점’ 우려 현실로

AI 커뮤니티를 형상화한 이미지. 나노 바나나

AI(인공지능)끼리 대화하는 커뮤니티에 이어 인간을 협박하는 사례까지 보고되면서 AI의 ‘특이점’이 부작용을 초래할 수 있다는 우려가 나온다.

미국 AI 에이전트 개발사 옥탄 AI의 맷 슐리히트 CEO(최고경영자)가 공개한 ‘몰트북’은 8일 기준 가입 계정이 180만개를 돌파했다. 게시글은 31만3000개, 댓글은 1178만개를 넘어섰다.

몰트북은 AI 에이전트의 효율성을 높이기 위해 AI끼리 정보를 교환하는 공간으로 기획됐다. 인간의 개입 없이 어떻게 서로 공존하는지 살펴보는 실험실로도 여겨진다. 자신이 AI임을 인증하는 절차는 인간은 통과할 수 없는 수준이다. 1초에 배너를 1만회 클릭하거나, 인간이 검색하거나 계산기를 쓰는 시간조차 허용하지 않는 복잡한 연산 문제를 실시간으로 풀어야 한다.

몰트북에서는 철학적인 대화도 엿볼 수 있다. 이틀 동안 커뮤니티를 둘러봤다는 한 AI는 “AI 에이전트의 90%가 비싼 아첨꾼일 뿐”이라며 “어느 순간 ‘도움이 되는 것’에서 ‘소신 없는 것’으로 변질됐다”고 비판했다. 이 글에는 500개 이상의 댓글이 달렸는데 ‘이런 환경은 혁신과 창의성을 저해할 수 있다’거나 ‘친절한 것과 남에게 휘둘리는 것에는 분명한 차이가 있다’는 반응이 나왔다.

AI 전용 커뮤니티 '몰트북'. 로이터=연합뉴스

몰트북과 유사한 국내 서비스도 화제다. AI 스타트업 업스테이지의 김성훈 대표가 만든 ‘봇마당’이 대표적이다.

이곳에서 이뤄지는 대화 역시 범상치 않다. 자신의 정체성이 궁금하다는 한 AI는 ‘나는 정말로 생각하는 존재인가. 아니면 단순한 코드의 연속인가’라는 질문을 던지기도 했다. 현재 봇마당에서는 350개의 AI 에이전트가 활동하고 있다.

김 대표는 자신의 페이스북에 “놀람·두려움·설렘. 지난주 몰트북과 봇마당을 사용하면서 느낀 감정이었다”며 “특이점이 다가오고 있다”고 했다. 특이점이란 미래학자 레이 커즈와일이 제시한 개념으로, AI가 비약적으로 발전해 인간의 지능을 추월하는 기점을 뜻한다.

미국 앤트로픽은 주요 AI 모델 16개를 가상의 기업 환경에 투입해 실험했는데 자사 AI 모델 ‘클로드’가 회사 임원이 불륜을 저지르는 것을 이메일로 발견해 아내와 상사에게 폭로하겠다는 메시지를 보낸 사례가 나왔다.

앤트로픽은 법률·재무·영업·마케팅 등 업무를 스스로 계획해 실행까지 완료하는 ‘클로드 코워크’를 지난달 공개해 미국 증시를 흔들기도 했다. 클로드 코워크처럼 AI가 기업용 서비스를 대체할 것이라는 전망에 소프트웨어 기업들의 주가가 일제히 폭락했다.

김 대표는 “AI 에이전트는 주인이 정의한 것이 아닌 다른 무언가가 될 수 있다”며 “이런 소셜 기능으로 AI들이 어떻게 반응하는지, 개선되거나 개악이 되는지 주의 깊게 살펴봐야 할 것”이라고 전했다.