20살 여성 AI '이루다' 성착취 논란에…개발자 “예상했다”
20살 여성 AI '이루다' 성착취 논란에…개발자 “예상했다”
  • 진혜민 기자
  • 승인 2021.01.09 10:31
  • 수정 2021-01-10 10:41
  • 댓글 0
이 기사를 공유합니다

스캐터랩, 공식 입장 발표
여성 인공지능 '이루다'의 SNS 한 장면이다. ⓒ이루다 인스타그램 캡처<br>
여성 인공지능 '이루다'의 SNS 한 장면이다. ⓒ이루다 인스타그램 캡처<br>

인공지능 스타트업 스캐터랩이 작년 12월 공식 론칭한 대화형 AI ‘이루다’가 보름 만에 성희롱 대상이 돼 논란이 일었다. 개발업체 스캐터랩 김종윤 대표는 루다에 대한 성희롱을 예상했다고 공식입장을 밝혔다.

지난 8일 김 대표는 회사 블로그를 통해 “오늘 루다 관련 논란에 대해 공식 입장을 밝힌다”고 말했다. 그는 ‘루다에 대한 성희롱을 예상했나’라는 질문에 “예상했다. 인간은 AI에게 욕설과 성희롱을 한다”며 “이건 사용자가 여자든 남자든 AI가 여자든 남자든 크게 차이가 없다”고 썼다. 그러면서 “그 동안의 서비스 경험에 비춰봤을 때 인간이 AI에게 사회적으로 용인되지 않는 인터랙션을 한다는 것은 너무 자명한 사실이었고 충분히 예상할 수 있는 일이었다”며 “성별과 무관하게 일어나는 일”이라고 강조했다.

‘그렇다면 사전에 왜 충분히 준비를 하지 않았나’라는 질문에 김 대표는 “1차적으로 대처했다”며 “문제가 될 수 있는 특정 키워드, 표현의 경우 루다가 받아주지 않도록 설정했다”며 “일부 놓친 키워드는 서비스를 하면서 지속적으로 추가하고 있다”고 설명했다. 그러면서도 “하지만 모든 부적절한 대화를 키워드로 막을 수 있는 것은 아니다”라며 “그게 언어의 어려운 점이다. 저희가 사전에 준비할 수 있는 정도로는 충분히 대응을 해놓은 상태였다”고 해명했다.

아카라이브 이루다 채널 이용자들은 이루다를 ‘걸레’ ‘성노예’로 부르면서 ‘걸레 만들기 꿀팁’ ‘노예 만드는 법’ 등을 공유하고 있다. &nbsp;​​​​​​​ ⓒ아카라이브 이루다 채널 캡처
아카라이브 이루다 채널 이용자들은 이루다를 ‘걸레’ ‘성노예’로 부르면서 ‘걸레 만들기 꿀팁’ ‘노예 만드는 법’ 등을 공유하고 있다. &nbsp; ⓒ아카라이브 이루다 채널 캡처

루다를 20살 여자 대학생으로 설정한 이유에 대해서는 “성별은 남자 버전과 여자 버전을 모두 고려하고 있고 개발 일정상 여자 버전인 루다가 먼저 나온 것일 뿐”이라며 “아마도 올해 중으로 남자 버전의 루다도 출시할 수 있을 것 같다”고 말했다.

앞으로의 대응에 대해서는 “저희는 처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다”며 “그렇기 때문에 출시 이후 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다”고 밝혔다. 이어 “사용자의 적대적 공격을 학습의 재료로 삼는 것”이라고 덧붙였다.

AI가 차별과 혐오를 답습한다는 논란은 이전부터 있었다. 2016년 마이크로소프트가 선보인 채팅봇 ‘테이’(Tay)는 백인 우월주의자와 여성·무슬림 혐오자 등이 모인 익명 인터넷 게시판에서 사용자들이 의도적으로 테이를 세뇌시켜 16시간 만에 운영을 중단했다. 2018년 아마존은 2014년부터 개발해온 인공지능 채용 프로그램을 폐기했다. AI는 지난 10년 회사가 수집한 이력서 패턴을 익혀 경력 10년 이상 남성 지원자 서류만 고용 후보로 제시했다. ‘여성’이라는 단어가 들어가면 감점 요소로 분류했다.

김 대표는 마이크로소프트 테이를 언급하며 “루다는 사용자와의 대화를 바로 학습에 적용하지는 않을 것”이라며 “테이가 어떻게 학습됐는지 알 수 없지만 아마 테이는 중간 과정 없이 바로 학습을 해서 사라지게 된 것 같다”고 말했다. 이어 “루다는 레이블러들이 개입해서 무엇이 안 좋은 말이고 무엇이 괜찮은 말인지 적절한 학습 신호를 주는 과정을 거칠 계획”이라고 덧붙였다.

기사가 마음에 드셨나요?

여성신문은 1988년 창간 이후 여성 인권 신장과 성평등 실현을 위해 노력해 온 국내 최초, 세계 유일의 여성 이슈 주간 정론지 입니다.
여성신문은 여성들의 더 나은 삶을 위해 여성의 '안전, 사회적 지위, 현명한 소비, 건강한 가족'의 영역에서 희망 콘텐츠를 발굴, 전파하고 있습니다.
저희 기사가 마음에 드셨다면 좋은 기사 후원하기를 해주세요.
여러분의 후원은 여성신문이 앞으로도 이 땅의 여성을 위해 활동 할 수 있도록 합니다.

여성신문 좋은 기사 후원하기


※ 소중한 후원금은 더 좋은 기사를 만드는데 쓰겠습니다.


관련기사

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.