서울시, 24시간 내 딥페이크 신고‧삭제 지원 핫라인 구축

서울시가 딥페이크 범죄피해 신속대응을 위해 지자체 최초로 방송통신심의원회와 ‘핫라인’을 구축하는 업무협약을 체결했다고 28일 밝혔다.

폐쇄형 SNS(사회적관계망서비스) 내에 있는 딥페이크 영상물이 음란사이트나 공개 SNS 등에 유포될 경우, 24시간 내에 모니터링해 영상이 삭제·차단될 수 있게 한다는 내용이다.

기존에는 서울시디지털성범죄안심지원센터에서 방심위에 불법영상물 삭제요청을 할 때마다 각종 증빙자료를 제출해야 했다. 협약을 통해 핫라인을 가동함에 따라 이젠 대량의 건수를 한 번에 삭제할 수 있게 됐다.

서울시는 이와 함께 신고를 꺼리는 학생들도 익명으로 쉽게 상담할 수 있도록 카카오톡 오픈채팅방에 ‘딥페이크 SOS 전담 상담창구’를 개설한다. 상담 창구에는 피해지원관 2명을 배치해 신고 방법 및 범죄 채증 방법 등을 안내하고, 수사 및 의료 기관에 동행하는 서비스도 제공한다.

또한, 수사·법률지원 등 피해자에게 필요한 통합지원을 위해 '서울 디지털성범죄 안심지원센터'로 연결되도록 한다.

서울연구원과 협력해 올해 연말까지 AI를 활용한 자동 검색‧삭제‧신고 시스템을 구축하고, 내년에는 딥페이크 검출기술도 개발 적용하여 피해영상물 삭제지원 건수를 획기적으로 늘릴 계획이다.

시는 딥페이크를 호기심이나 장난으로 여기는 아동청소년을 대상으로 9월부터 ‘딥페이크 예방교육’을 실시할 예정이다. 경찰 조사에 따르면 딥페이크 범죄 피의자 중 10대 비율이 75.8%에 달한다.

청소년 눈높이에 맞춘 보드게임 형식의 예방교육 프로그램을 신설하고, 성인대상 딥페이크 예방 영상물도 시 홈페이지에 게재할 예정이다.

오세훈 서울시장은 “오늘부터 즉시 딥페이크 영상물을 신고받고 24시간 내 삭제하는 시스템을 운영한다”며 “시민들의 딥페이크 영상물 피해를 최소화 하겠다”고 말했다.

한편 서울시는 2022년 3월 서울디지털성범죄안심지원센터를 개소한 이래, 초기상담과 함께 수사·법률·심리·의료·삭제 지원 등 1437명의 피해자를 원스톱으로 지원해왔다. 이중 딥페이크 피해자 총 72명에게 772건의 서비스를 지원한 바 있다.