“성폭력·혐오표현 등 메타버스 범죄 꼼짝 마” 네이버‧카카오, ‘자율규제’ 나선다
“성폭력·혐오표현 등 메타버스 범죄 꼼짝 마” 네이버‧카카오, ‘자율규제’ 나선다
  • 권묘정 기자
  • 승인 2022.09.14 14:19
  • 수정 2022-09-14 15:03
  • 댓글 0
이 기사를 공유합니다

네이버, 디지털 안전 전문단체와 파트너십
카카오, 혐오표현 퇴치 위해 ‘코딩북’ 제작
네이버제트는 14일 온라인 아동·청소년 성착취물 근절을 위한 글로벌 테크 기업 연합체인 테크 코얼리션(Tech Coalition)에 가입했다고 밝혔다. 테크 코얼리션은 온라인 환경에서의 아동·청소년 성착취 근절을 위한 글로벌 기업 연합체로, 구글을 비롯한 아마존, 마이크로소프트, 메타 등 총 27여 개의 글로벌 IT 기업들이 가입해 있다. ⓒ제페토
네이버제트는 14일 온라인 아동·청소년 성착취물 근절을 위한 글로벌 테크 기업 연합체인 테크 코얼리션(Tech Coalition)에 가입했다고 밝혔다. 테크 코얼리션은 온라인 환경에서의 아동·청소년 성착취 근절을 위한 글로벌 기업 연합체다. ⓒ제페토

네이버와 카카오가 온라인 플랫폼 이용자들이 혐오표현‧성범죄 등에서 안전하도록 ‘자율규제’에 나섰다. 

네이버제트는 14일 온라인 아동·청소년 성착취물 근절을 위한 글로벌 테크 기업 연합체인 테크 코얼리션(Tech Coalition)에 가입했다고 밝혔다. 테크 코얼리션은 온라인 환경에서의 아동·청소년 성착취 근절을 위한 글로벌 기업 연합체로, 구글을 비롯한 아마존, 마이크로소프트, 메타 등 총 27여 개의 글로벌 IT 기업들이 가입해 있다.

메타버스 플랫폼 ‘제페토’를 운영하는 네이버제트는 이용자 80%가 10대 청소년인 ‘제페토’ 내에서 범죄가 발생하기 쉽다고 보고 예방책을 마련해 왔다. 특히 네이버제트가 관심을 기울이는 것은 성범죄다. 네이버 제트는 지난해 12월, 미국에 글로벌 전문 인력들로 구성된 안전 전문 팀(Trust and Safety team)을 신설하며 AI 기반의 음란물 검출 기술을 도입하고, 욕설 필터링 및 그루밍과 같은 성착취 검출 기술을 적용하였으며, 플랫폼 가이드라인을 위반한 유해 콘텐츠 필터링 기술을 도입해 콘텐츠 검색 결과에서 확인할 수 없도록 조치했다.

네이버제트는 지난 6월 커넥트세이플리의 자문을 받아 부모가 자녀의 제페토 이용을 관리할 수 있도록 하는 ‘보호자를 위한 제페토 안내서’도 제작했다. 김대욱 네이버제트 대표는, “제페토는 누구나 경계 없이 자신이 꿈꿔왔던 상상을 실현하고, 다른 이들과 자유롭게 소통할 수 있는 플랫폼”이라며, “테크코얼리션에 합류하며 더욱 안전한 플랫폼 환경을 구축하기 위해 글로벌 플랫폼 기업들과 전방위적 협력을 이어가고, 이를 통해 IT 산업 전반에 기여할 수 있도록 지원을 아끼지 않을 것”이라고 밝혔다.

카카오는 포털 뉴스, 콘텐츠 등의 혐오표현 퇴치를 위해 내년 상반기까지 ‘코딩북’을 제작할 예정이다. 코딩북은 개발자가 IT 서비스를 개발할 때 참고하는 가이드라인으로, 카카오 측은 해당 가이드라인을 개발 단계에서 적용해 ‘이루다 사태’처럼 인공지능(AI)이 혐오발언을 내뱉는 일을 방지하고 악성댓글과 혐오 콘텐츠를 잡아낼 수 있다고 보고 있다. 카카오는 자사 댓글 관리 AI '세이프봇‘과 기타 서비스에 코딩북을 적용하고 외부 기업들에도 개방할 예정이다.

네이버와 카카오의 움직임은 최근 규제당국과 업계가 자율규제 논의에 들어간 것과 무관하지 않다. 이달 초 과학기술정보통신부, 공정거래위원회는 네이버, 카카오 등 플랫폼 업체들과 자율규제 방안 마련을 위한 회의를 했다.

애초 공정거래위원회는 플랫폼 사업자와 입점업체 사이에서 공정 거래를 법적으로 강제하는 이른바 ‘온플법(온라인 플랫폼 중개 거래의 공정화에 대한 법률안’ 발의를 주도했으나 플랫폼의 ‘자율 규제’를 강조하는 윤석열 정부 출범과 함께 사실상 백지화 수순에 접어들었다.

이에 따라 업체들은 스스로 자사 이용약관 등을 시정해 입점업체 및 사용자들을 보호하겠다는 입장이다. 이달 초 배달의민족‧쿠팡이츠‧요기요 등 배달 플랫폼들도 입점 음식점에 불리한 자사 이용약관을 자진 시정했다.

기사가 마음에 드셨나요?

여성신문은 1988년 창간 이후 여성 인권 신장과 성평등 실현을 위해 노력해 온 국내 최초, 세계 유일의 여성 이슈 주간 정론지 입니다.
여성신문은 여성들의 더 나은 삶을 위해 여성의 '안전, 사회적 지위, 현명한 소비, 건강한 가족'의 영역에서 희망 콘텐츠를 발굴, 전파하고 있습니다.
저희 기사가 마음에 드셨다면 좋은 기사 후원하기를 해주세요.
여러분의 후원은 여성신문이 앞으로도 이 땅의 여성을 위해 활동 할 수 있도록 합니다.

여성신문 좋은 기사 후원하기


※ 소중한 후원금은 더 좋은 기사를 만드는데 쓰겠습니다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.