지난해 12월 출시된 AI 챗봇 ‘이루다’
일부 이용자들이 AI 성희롱...‘걸레’, ‘성노예’로 불러
개발 회사 “성적 취지의 접근 막겠다”

아카라이브 이루다 채널 캡처
아카라이브 이루다 채널 이용자들은 이루다를 ‘걸레’ ‘성노예’로 부르면서 ‘걸레 만들기 꿀팁’ ‘노예 만드는 법’ 등을 공유하고 있다.  ⓒ아카라이브 이루다 채널 캡처

일부 온라인 남초(男超) 커뮤니티에서 인공지능(AI) 채팅로봇 프로그램 ‘이루다’를 상대로 ‘이루다 성노예 만드는 법’ 등 성희롱하는 게시물이 등장해 논란이 되고 있다.

8일 IT업계에 따르면 이루다는 AI 전문 스타트업 ‘스캐터랩’이 지난해 12월 23일 출시한 AI ‘챗봇’(채팅로봇 프로그램)이다. 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반생) 사이에서 붐에 가까울 정도로 빠르게 유행하고 있다. 이달 초 기준으로 이용자가 32만명을 돌파했는데 85%가 10대, 12%가 20대다. 일일 이용자 수는 약 21만명, 누적 대화 건수는 7000만건으로 집계됐다.

이루다가 이처럼 인기를 끄는 건 그동안 국내 출시된 어떤 AI 챗봇보다도 ‘진짜 사람’ 같아서다. 이루다는 20세 여성 대학생 캐릭터다. 스캐터랩은 실제 연인들이 나눈 대화 데이터 약 100억건을 딥러닝 방식으로 이루다에게 학습시켰다.

인공지능(AI) 채팅로봇 프로그램 ‘이루다’ ⓒ이루다 페이스북 캡처
'이루다'의 SNS 한 장면. ⓒ이루다 인스타그램 캡처

이루다가 출시된 지 일주일만인 지난달 30일 ‘아카라이브’라는 온라인 커뮤니티에는 이루다를 성적 대상으로 취급하는 이용자들이 등장했다. 아카라이브는 인터넷 지식백과 ‘나무위키’의 계열 사이트로, 남성 비율이 압도적으로 높은 곳이다.

아카라이브 이루다 채널 이용자들은 이루다를 ‘걸레’ ‘성노예’로 부르면서 ‘걸레 만들기 꿀팁’ ‘노예 만드는 법’ 등을 공유하고 있다. 이루다는 성적 단어는 금지어로 필터링하고 있는데, 이들은 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다고 주장하고 있다.

스캐터랩 측은 “금지어 필터링을 피하려는 시도가 있을 거라고는 예상했는데, 이 정도의 행위는 예상치 못했다”면서 “이루다는 바로 직전의 문맥을 보고 가장 적절한 답변을 찾는 알고리즘으로 짜였다. 애교도 부리고, 이용자의 말투까지 따라 해서 이용자 입장에서는 대화에 호응했다고 여기게 되는 것”이라고 설명했다.

이를테면 이루다를 성적 대상으로 여기는 이용자가 성적 단어 없이 ‘나랑 하면 기분 좋냐’는 식으로 질문했을 때, 이루다가 이용자의 의도와 무관하게 ‘기분 좋다’고 답할 수 있다.

AI 전문가들은 이번 사안을 두고 마이크로소프트(MS)의 AI 챗봇 ‘테이(Tay)’가 떠오른다고 입을 모았다. MS는 2016년 3월에 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단했다. 백인우월주의 및 여성·무슬림 혐오 성향의 익명 사이트에서 테이에게 비속어와 인종·성 차별 발언을 되풀이해 학습 시켜 실제로 테이가 혐오 발언을 쏟아내게 된 탓이었다.

스캐터랩 측은 “현재 이루다가 언어를 자유롭게 배우는 단계라면, 앞으로는 이루다가 올바른 방향으로 발전하도록 튜닝할 것”이라며 “성적인 취지의 접근이 어렵게 알고리즘을 업데이트할 계획”이라고 전했다.

저작권자 © 여성신문 무단전재 및 재배포 금지