인도의 여성 배우들이 인공지능(AI) 이미지 합성기술인 딥페이크(deepfake) 가짜 영상으로 피해를 보고 있다고 BBC가 보도했다.
BBC는 발리우드(Bollywood) 스타 라쉬미카 만단나, 프리얀카 초프라 요나스, 알리아 바트는 그들의 얼굴이나 목소리가 다른 사람의 것으로 대체된 영상물의 표적이 되고 있다고 전했다.
발리우드는 뭄바이의 옛 지명인 ‘봄베이’와 ‘할리우드(Hollywood)’의 합성어로 인도의 영화 산업을 지칭하는 말이다.
한 발리우드 스타는 카메라를 향해 외설적인 몸짓을 하고 있고, 또 다른 스타는 옷을 거의 입지 않은 채 포즈를 취하고 있다. 이 두 가지 일은 모두 실제로 일어난 일이 아니다. 딥페이크 기술로 제작된 것이다.
인도 여성 배우 만단나(Mandanna)는 검은색 보디수트를 입은 다른 여성이 등장하는 인스타그램 비디오에 변형된 얼굴이 등장했다.
사회관계망서비스(SNS)에 빠른 속도로 퍼지고 있는 이 영상은 딥페이크를 이용한 가짜다.
만단나는 "무섭다"며 자료를 공유하지 말 것을 호소했다.
메가스타 초프라 조나스의 영상도 화제가 됐다. 그녀의 얼굴이 등장하지는 않지만 투자 아이디어를 주는 동시에 제품을 홍보하는 동영상의 목소리는 조나스의 것으로 대체됐다.
AI 전문가인 아티 사마니는 BBC와의 인터뷰에서 "할리우드는 지금까지 가장 큰 피해를 입었다"며 나탈리 포트만과 엠마 왓슨 등 여배우들이 피해자로 지목했다.
사마니는 최근 AI의 발전으로 가짜 영상과 음성을 만드는 것이 쉬워졌다고 말했다. 그는 "6개월에서 1년 사이에 인도에서 도구가 훨씬 정교해 졌다. 많은 도구와 기술을 하용해 합성 이미지를 거의 또는 전혀 비용을 들이지 않고 말들수 있다. 이는 인도에서 딥페이크가 유행하는 이유다"라고 설명했다.
"발리우드 유명인들은 매력적인 조회수 미끼가 되고 많은 광고 수익을 창출한다. 물론 그들이 알지 못하는 사이에 자신들이 팔리고 있다"고 BBC는 전했다.
인도 정부는 딥페이크 영상이 확산되자 단속에 나섰다.
라지브 칸드라세가 정보통신장관은 "가장 최근의 그리고 훨씬 더 위험하고 피해를 주는 형태의 잘못된 정보이며 플랫폼에서 대처해야 할 필요가 있다"고 말했다.
인도의 정보토신(IT) 규칙에 따라 소셜 미디어 플랫폼은 "어떤 사용자에 의해 잘못된 정보가 게시되지 않도록 해야 한다"고 강조했다.
칸드라세가 "이를 준수하지 않는 플랫폼은 인도 법에 따라 법정에 설 수 있다"고 경고했다.