시민단체, 인권위에 ‘이루다 조사’ 진정… “인공지능 기술 남용은 인권침해”
시민단체, 인권위에 ‘이루다 조사’ 진정… “인공지능 기술 남용은 인권침해”
  • 진혜민 기자
  • 승인 2021.02.03 14:48
  • 수정 2021-02-03 14:48
  • 댓글 0
이 기사를 공유합니다

참여연대·민변 디지털정보위·차별금지법제정연대 등 시민단체 진정
인공지능(AI) 채팅로봇 프로그램 ‘이루다’를 상대로 일부 남초(男超) 사이트 이용자들이 ‘이루다 성노예 만드는 법’ 등 성희롱하는 게시물을 올려&nbsp;논란이 되고 있다. ⓒ이루다 페이스북 캡처<br>
인공지능(AI) 채팅로봇 프로그램 ‘이루다’. ⓒ이루다 페이스북 캡처<br>

시민단체가 여성혐오 발언과 개인정보 유출로 논란을 빚은 인공지능(AI) 챗봇 ‘이루다’ 개발사를 조사하고 관련 제도개선 권고를 해달라는 진정을 국가인권위원회에 접수했다. 

민주사회를 위한 변호사모임 디지털정보위원회, 참여연대, 차별금지법제정연대 등 시민단체는 3일 ‘이루다’ 사건과 관련해 인권침해 및 차별 진정과 정책권고를요청하는 취지로 진정 및 정책권고 제안서를 인권위에 넣었다고 밝혔다.

시민단체는 “‘이루다 챗봇’ 사안이 개별 인권침해 사안일 뿐만 아니라 인공기술의 남용에 따른 프라이버시권 및 표현의 자유 침해에 대한 국가 등에 의한 제도적 보호의 부재를 여실히 드러낸 사안"이라며 "근본적으로는 국가에 의한 인권침해에 해당한다”고 밝혔다. 

이들은 구체적으로 국가인권위원회에 △사적주체도 대상에 포함하는 실효성 있는 영향평가제도 구축 및 감사제도 도입 △인공지능에 의한 차별을 규율하기 위한 기반으로서 평등법의 제정 △프로파일링 및 자동화된 의사결정 거부권 등 정보주체의 권리 보장 △개인정보보호법 상 가명정보 및 동의제도에 관한 규정 정비 및 구제절차 보장, △인공지능 기술의 활용에 있어 기업 등이 준수해야할 가이드라인 개발 및 보급 등의 권고를 제안했다.

인공지능 기술에 따른 인권 침해와 차별을 막기 위해 적극적 조치를 취하고 있는 해외 사례를 언급하기도 했다. 시민단체들은 “호주 국가인권위원회, 연방반차별국, 네덜란드 인권위원회 등 해외 국가인권기구들은 적극적 인공지능 규제의 법제화 제안, 정책권고 등 인공지능 기술에 따른 인권 침해와 차별을 막기 위한 적극적인 조치를 취하고 있다”며 “하지만 우리나라 인권위는 현재까지 인공지능 관련 정책 등에 대해 특별한 대응을 하지 않고 있는 상황”이라고 꼬집었다.

유엔 인권최고대표, 유엔 의견과 표현의 자유 특별보고관 등은 인공지능기술 활용으로 인한 프라이버시 및 표현의 자유 침해를 방지해야 할 국제인권규범상 국가의 보호의무를 강조하며 영향평가제도, 감사제도 등 구체적인 제도를 수립하고 정보주체의 권리를 보장할 것을 권고하고 있다.

이들은 또한 ‘이루다 챗봇’ 사안을 사적영역의 문제 또는 한 기업의 일탈행위로 보고, 기업 등의 자율적 규제를 대안으로 제시하는 일부 주장에 우려를 표했다. 시민단체들은 “‘이루다 챗봇’ 사안으로 드러난 인공지능, 알고리즘의 오남용으로 인한 광범위한 인권침해와 차별의 위험성은 엄연히 국가 등의 적절한 보호조치를 통해 예방, 방지돼야 한다”고 촉구했다.

이루다 사태는 개발사 스캐터랩이 지난해 12월 23일 챗봇 이루다를 출시하면서 시작됐다. 20세 여성으로 설정된 이루다를 남성 이용자들에 의한 성희롱, 이루다의 여성과 성소수자, 장애인 혐오 발언, 개인정보보호법 위반 의혹까지 불거지며 출시 3주만에 서비스 중단으로 이어졌다. 

기사가 마음에 드셨나요?

여성신문은 1988년 창간 이후 여성 인권 신장과 성평등 실현을 위해 노력해 온 국내 최초, 세계 유일의 여성 이슈 주간 정론지 입니다.
여성신문은 여성들의 더 나은 삶을 위해 여성의 '안전, 사회적 지위, 현명한 소비, 건강한 가족'의 영역에서 희망 콘텐츠를 발굴, 전파하고 있습니다.
저희 기사가 마음에 드셨다면 좋은 기사 후원하기를 해주세요.
여러분의 후원은 여성신문이 앞으로도 이 땅의 여성을 위해 활동 할 수 있도록 합니다.

여성신문 좋은 기사 후원하기


※ 소중한 후원금은 더 좋은 기사를 만드는데 쓰겠습니다.


관련기사

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
최신기사