김상희 부의장, AI 차별 혐오 표현 막는 '이루다 방지법' 발의 
김상희 부의장, AI 차별 혐오 표현 막는 '이루다 방지법' 발의 
  • 신준철 기자
  • 승인 2021.06.17 16:05
  • 수정 2021-06-17 16:06
  • 댓글 0
이 기사를 공유합니다

김상희 국회부의장 ⓒ홍수형 기자
김상희 국회부의장 ⓒ홍수형 기자

인공지능의 비윤리적인 학습과 활용을 막고 급격한 기술 발전에 따른 부작용을 방지하기 위한 ‘이루다 방지법’(지능정보화기본법 개정안)이 추진된다. 

김상희 국회부의장(과학기술정보방송통신위원회, 경기 부천병)은 ‘지능정보사회윤리준칙’을 마련하여 지능정보기술 개발 및 공급자, 이용자 모두가 준수하게 하는 ‘이루다 방지법’을 17일 대표 발의 했다. 

이 법은 올 초 20대 여대생을 모방한 인공지능 챗봇 ‘이루다’는 무분별한 데이터 학습으로 여성과 소수자에 대한 차별·혐오적 메시지 출력과 개인정보 활용 문제로 서비스가 중단되는 것을 계기로 마련됐다. 

김 부의장은 자율주행과 빅데이터가 산업의 주류로 떠오를수록 인공지능의 역할이 커져 이를 적절히 제어하기 위한 구체적이고 합리적인 인공지능 개발의 가이드라인이 필요하다 설명했다. 또 김 부의장은 과기부가 2020년 12월 ‘인간성을 위한 인공지능’이라는 원칙하에 ‘인공지능 윤리기준’ 발표했지만, 법령이나 규칙이 아닌 도덕적 규범에 불과하여 실제 인공지능 개발에 적용하기에 추상적이고 선언적이라 구체적이고 실효적인 가이드가 필요하다고 지적했다.

김상희 부의장이 발의한 개정안의 주요 내용은 과학기술정보통신부가 ‘지능정보사회윤리준칙’을 제정하고 인공지능의 윤리적 검증에 필요한 인권 보장, 프라이버시 보호, 다양성 존중, 공공성과 책임성, 안전성 등의 내용을 담아 보급 및 확산이다. 

김상희 부의장은 “최근 문제가 되었던 이루다의 이용자 85%가 10대인 것으로 나타나 편향적인 인공지능이 아동·청소년에게 혐오와 차별 등 악영향을 끼칠 수 있다”며 “아동·청소년을 대상으로 하는 인공지능 교육 프로그램이 많이 개발되고 있어 이와 같은 사건이 또 발생할 가능성이 있다. 하루빨리 개정안이 통과되어 제2의 이루다 사태 방지하고 인공지능의 윤리 신뢰성 확보 기대한다”고 밝혔다.

기사가 마음에 드셨나요?

여성신문은 1988년 창간 이후 여성 인권 신장과 성평등 실현을 위해 노력해 온 국내 최초, 세계 유일의 여성 이슈 주간 정론지 입니다.
여성신문은 여성들의 더 나은 삶을 위해 여성의 '안전, 사회적 지위, 현명한 소비, 건강한 가족'의 영역에서 희망 콘텐츠를 발굴, 전파하고 있습니다.
저희 기사가 마음에 드셨다면 좋은 기사 후원하기를 해주세요.
여러분의 후원은 여성신문이 앞으로도 이 땅의 여성을 위해 활동 할 수 있도록 합니다.

여성신문 좋은 기사 후원하기


※ 소중한 후원금은 더 좋은 기사를 만드는데 쓰겠습니다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.