혐오 발언, 개인정보 유출 의혹 등 확산되자
개발사, ‘이루다’ DB·딥러닝 폐기 결정
자사 ‘연애의 과학’ ‘텍스트앳’ DB는
이용자가 신청하면 삭제 절차 진행
성희롱 논란에 이어 혐오·차별 발언과 개인정보 유출 논란에 휩싸인 인공지능(AI) 챗봇 ‘이루다’가 사실상 폐기 수순을 밟는다. 그러나 ‘이루다’ 제작에 활용된 ‘연애의 과학’ 데이터베이스(DB)는 폐기하지 않겠다는 입장을 고수했다. 삭제를 원하는 이용자만 DB를 삭제하겠다는 방침이다.
‘이루다’ 개발사 스캐터랩은 15일 이루다의 DB와 이루다의 학습에 사용된 딥러닝 대화 모델을 폐기한다고 밝혔다. 개인정보보호위원회·한국인터넷진흥원(KISA) 합동 조사가 종료되는 즉시 이루다 DB와 딥러닝 대화 모델을 폐기하겠다는 계획이다.
스캐터랩 측은 “이루다 DB는 비식별화(익명화) 절차를 거쳐 개별적·독립적인 문장으로 이뤄져 있고, 딥러닝 대화 모델은 대화 패턴만 학습하기 때문에 개인정보 유출 위험은 전혀 없다”면서도 “이용자들 불안감을 고려해 폐기를 결정했다”고 설명했다.
다만 자사 서비서인 ‘연애의 과학’과 ‘텍스트앳’에서 이용자 동의를 받고 수집한 기존 데이터는 전량 폐기하지 않는다는 방침이다. 데이터 활용을 원하지 않는 이용자가 삭제 신청을 하면 해당 이용자의 데이터만 삭제한다는 것이다. 스캐터랩은 “향후 딥러닝 대화 모델에도 이용되지 않는다”고 했다.
이어 스캐터랩은 “향후 신규 가입 및 서비스 이용 시 개인정보 수집·이용 등의 절차도 강화하겠다”고 덧붙였다.
카톡 100억건 DB는 전량 폐기 안 한다?
스캐터랩은 2013년 텍스트앳, 2016년 연애의 과학 등의 앱을 운영하며 카카오톡 등 메신저의 대화 내용을 수집했고, 이를 이루다의 학습용 데이터로 이용했다. 스캐터랩은 연애의 과학이 카카오톡 대화 100억건을 수집했고 이를 통해 AI 성능을 높였다고 홍보한 바 있다.
스캐터랩이 이루다를 만드는 과정에 수집한 대화 내용을 가져다 쓰면서 개인정보보호법을 위반했다는 의혹을 받고 있다. 연애의 과학 이용자들은 회사 측이 자신의 대화 내용을 무단으로 사용해 이루다를 개발 및 서비스했다고 항의하고 있다. 카톡 대화를 제공한 것은 심리테스트 서비스를 이용하기 위한 것으로, AI 개발에 대화 내용을 제공하겠다고 동의한 것은 아니라는 주장이다. 이루다의 답변에 주소, 사람 이름, 계좌 정보 등이 나오면서 개인정보 유출 의혹은 더욱 증폭되고 있다. 이용자들은 피해 보상을 받기 위한 소송을 준비 중이다.
진보네트워크센터와 민변 디지털정보위원회, 사단법인 정보인권연구소, 참여연대 등은 13일 ‘이루다’ 사태는 100억 건의 개인정보 침해가 빚어낸 참사라는 입장을 밝혔다.
진보넷은 “회사 측은 카톡 대화 내용 내보내기 기능을 통해 특정 상대방과 나눈 대화를 전부 수집하면서 사전 동의가 이뤄진 개인정보취급방침의 범위 내에서 이용했다고 주장했으나, 연애의 과학 로그인 페이지에서 ‘로그인함으로써 개인정보 처리방침에 동의합니다’로 간주하는 것은 각각의 사항을 알리고 명시적으로 동의를 받도록 한 개인정보 보호법(제15조 제2항 또는 제39조의3제1항 및 제22조) 위반“이라고 지적했다.