아동 성착취물 90초면 찾는다...서울시, 24시간 AI 감시 도입

서울시가 인공지능(AI) 감시로 아동·청소년 성착취물을 찾아내는 기술을 전국 최초로 개발‧도입, 24시간 자동 추적‧감시에 나선다.

서울시는 23일 AI 딥러닝 기반 안면인식 기술로 성인과 잘 구분되지 않는 아동‧청소년의 성별과 나이를 판별할 수 있는 시스템을 도입한다고 밝혔다. 영상물에 ‘얼굴’이 나오지 않더라도 아동‧청소년 피해 영상물 여부를 찾아낼 수 있다. 책, 교복, 인형 등 주변 사물은 물론 이미지 속 텍스트, 청소년들이 주로 사용하는 언어까지 함께 인식해서 최종적으로 피해 영상물 여부를 판별한다.

검색 효율도 크게 향상됐다. 키워드 입력부터 영상물 검출까지 90초밖에 걸리지 않는다. 정확도도 300% 이상 높아졌다.

기존대로 사람이 ‘딥페(딥페이크의 약자)’ 등 키워드를 일일이 검색해 찾아내는 데에는 약 2시간이 걸린다. AI 가 ‘딥페’와 관련된 신조어 ‘뒵페’, ‘뒷페’ 등 키워드를 자동생성해 훨씬 많은 피해 영상물을 찾아낼 수 있기 때문이다. 서울시는 AI 기술을 활용하면 지난해 수작업으로 이뤄진 모니터링 건수의 2배(약 30만 건)를 달성할 수 있으며, AI 학습 데이터가 축적될수록 정확도와 속도는 더욱 향상될 것이라고 밝혔다.

검색 영역도 확장한다. 국내와 미국뿐 아니라 중국, 러시아, 베트남 등 국가에 유포된 피해 영상물 검색도 가능해진다. 내년엔 검색뿐 아니라 AI가 자동으로 신고까지 하는 시스템을 구축할 계획이다.

앞서 서울시는 서울연구원에 의뢰해 2023년 3월 전국 최초로 AI 기술을 이용한 디지털 성범죄 자동 추적·감시 알고리즘을 개발했다. 서울디지털성범죄안심지원센터와 함께 다수의 아동‧청소년 피해 영상물을 분석, 올해 5월 프로그램 개발을 마쳤다.

서울시는 아동‧청소년의 경우 관련 법에 따라 당사자나 부모의 신고 없이도 피해 영상물 삭제가 가능한 만큼, AI를 통해 아동‧청소년 성착취물을 빠르게 찾고 삭제해 피해에 신속 대응한다는 계획이다.