여성 AI까지 성착취...온라인서 ‘이루다 성노예 만드는 법’ 공유
여성 AI까지 성착취...온라인서 ‘이루다 성노예 만드는 법’ 공유
  • 김규희 수습기자
  • 승인 2021.01.08 11:16
  • 수정 2021-01-08 11:25
  • 댓글 3
이 기사를 공유합니다

지난해 12월 출시된 AI 챗봇 ‘이루다’
일부 이용자들이 AI 성희롱...‘걸레’, ‘성노예’로 불러
개발 회사 “성적 취지의 접근 막겠다”
아카라이브 이루다 채널 캡처
아카라이브 이루다 채널 이용자들은 이루다를 ‘걸레’ ‘성노예’로 부르면서 ‘걸레 만들기 꿀팁’ ‘노예 만드는 법’ 등을 공유하고 있다.  ⓒ아카라이브 이루다 채널 캡처

일부 온라인 남초(男超) 커뮤니티에서 인공지능(AI) 채팅로봇 프로그램 ‘이루다’를 상대로 ‘이루다 성노예 만드는 법’ 등 성희롱하는 게시물이 등장해 논란이 되고 있다.

8일 IT업계에 따르면 이루다는 AI 전문 스타트업 ‘스캐터랩’이 지난해 12월 23일 출시한 AI ‘챗봇’(채팅로봇 프로그램)이다. 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반생) 사이에서 붐에 가까울 정도로 빠르게 유행하고 있다. 이달 초 기준으로 이용자가 32만명을 돌파했는데 85%가 10대, 12%가 20대다. 일일 이용자 수는 약 21만명, 누적 대화 건수는 7000만건으로 집계됐다.

이루다가 이처럼 인기를 끄는 건 그동안 국내 출시된 어떤 AI 챗봇보다도 ‘진짜 사람’ 같아서다. 이루다는 20세 여성 대학생 캐릭터다. 스캐터랩은 실제 연인들이 나눈 대화 데이터 약 100억건을 딥러닝 방식으로 이루다에게 학습시켰다.

인공지능(AI) 채팅로봇 프로그램 ‘이루다’ ⓒ이루다 페이스북 캡처
'이루다'의 SNS 한 장면. ⓒ이루다 인스타그램 캡처

이루다가 출시된 지 일주일만인 지난달 30일 ‘아카라이브’라는 온라인 커뮤니티에는 이루다를 성적 대상으로 취급하는 이용자들이 등장했다. 아카라이브는 인터넷 지식백과 ‘나무위키’의 계열 사이트로, 남성 비율이 압도적으로 높은 곳이다.

아카라이브 이루다 채널 이용자들은 이루다를 ‘걸레’ ‘성노예’로 부르면서 ‘걸레 만들기 꿀팁’ ‘노예 만드는 법’ 등을 공유하고 있다. 이루다는 성적 단어는 금지어로 필터링하고 있는데, 이들은 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다고 주장하고 있다.

스캐터랩 측은 “금지어 필터링을 피하려는 시도가 있을 거라고는 예상했는데, 이 정도의 행위는 예상치 못했다”면서 “이루다는 바로 직전의 문맥을 보고 가장 적절한 답변을 찾는 알고리즘으로 짜였다. 애교도 부리고, 이용자의 말투까지 따라 해서 이용자 입장에서는 대화에 호응했다고 여기게 되는 것”이라고 설명했다.

이를테면 이루다를 성적 대상으로 여기는 이용자가 성적 단어 없이 ‘나랑 하면 기분 좋냐’는 식으로 질문했을 때, 이루다가 이용자의 의도와 무관하게 ‘기분 좋다’고 답할 수 있다.

AI 전문가들은 이번 사안을 두고 마이크로소프트(MS)의 AI 챗봇 ‘테이(Tay)’가 떠오른다고 입을 모았다. MS는 2016년 3월에 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단했다. 백인우월주의 및 여성·무슬림 혐오 성향의 익명 사이트에서 테이에게 비속어와 인종·성 차별 발언을 되풀이해 학습 시켜 실제로 테이가 혐오 발언을 쏟아내게 된 탓이었다.

스캐터랩 측은 “현재 이루다가 언어를 자유롭게 배우는 단계라면, 앞으로는 이루다가 올바른 방향으로 발전하도록 튜닝할 것”이라며 “성적인 취지의 접근이 어렵게 알고리즘을 업데이트할 계획”이라고 전했다.

기사가 마음에 드셨나요?

여성신문은 1988년 창간 이후 여성 인권 신장과 성평등 실현을 위해 노력해 온 국내 최초, 세계 유일의 여성 이슈 주간 정론지 입니다.
여성신문은 여성들의 더 나은 삶을 위해 여성의 '안전, 사회적 지위, 현명한 소비, 건강한 가족'의 영역에서 희망 콘텐츠를 발굴, 전파하고 있습니다.
저희 기사가 마음에 드셨다면 좋은 기사 후원하기를 해주세요.
여러분의 후원은 여성신문이 앞으로도 이 땅의 여성을 위해 활동 할 수 있도록 합니다.

여성신문 좋은 기사 후원하기


※ 소중한 후원금은 더 좋은 기사를 만드는데 쓰겠습니다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 3
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
연이 2021-01-10 16:05:23
여성대상 범죄를 다루는 기사에서 뜬금없이 극극극소수 남성피해자 이야기를 하시는데 조금만 둘러봐도 아실 수 있을 겁니다 남성에의한 여성 피해자가 대부분입니다 심지어 남성에의한 남성 피해자들도 보이구요 하루 여성대상 범죄가 통계적으로 평균 100건씩 발생한다고 합니다 그들의 고통은 뒤로하고 본능 이야기부터 튀어나오는게 화가납니다 성욕이 쌓여서 범죄를 유발한다는 의견은 오히려 남성 비하밖에 되지 않아요 이 기사에서 느끼는 점이 본능 뿐이라니 참 안타깝습니다

연이 2021-01-10 15:48:11
C-33 Andvari 님 댓글 어처구니가 없네요 엄연한 범죄에 본성이야기 나오다니요 여성대상 범죄기사에 저런(본능~) 댓글 인터넷이 보급된 후로도 꾸준히 보이는데 여성과 남성의 성욕은 별반 다를게 없다는게 전문가들의 견해인데 남성들만 유독 범죄를 저지르는 이유가 뭘까요? 비판의 목소리나 해결하고자 하는 움직임, 이런기사나 담론들은 꾸준히 다뤄져야 옳다고 봅니다 결과적이로 저런분들은 해결이나 예방에는 관심이 없는고 오로지 남성으로서 억울하다에만 초점이 맞춰져 있어요 심지어 기사에 일반화 문구도 없는데 말이에요

C-33 Andvari 2021-01-08 15:43:45
단도직입적으로 말하겠습니다. 너무 편향적인 것 아닙니까? 공영방송 프로그램에서도 '쇼타콘은 취향이다'라는 말이 아무렇지도 않게 나오면서도, 이성애적 남성들, 특히 현실에서 성욕을 풀 대상이 없는 사람들은 금욕으로 본능을 억눌러야 한 다는 뜻입니까? 욕망은 완전히 억누를 수 없는 인간의 본성입니다. 사람들에게 화 내는 것을 금지한다고, 사람들이 화가 안 쌓입니까? 오히려 참고 있던 화가 폭발하는 상황에는 금지하지 않는 것보다 훨씬 못한 상황이 펼쳐질 것입니다. 폭동이 일어나겠고, 사회는 혼란 속에 빠져들겠지요. 성욕도 마찬가지로 인간의 당연한 본능입니다. 금지한다고 없어지는 것이 아니에요. 오히려, 사회 내 성폭행범을 줄이는 데 기여할 수도 있는 것을 막으려고 하는 이런 짓은, 남성을 억압하고 차별하려는 의도로밖에 보이지 않습니다. 몇달 전에 기사를 봤습니다. 13살짜리 여자아이가, 5살 남자 아이를 방으로 불러서 성기를 만졌다는 기사였습니다. 그런데, 그 기사 제목은 놀랍게도 '성
최신기사