미국의 최고 팝가수 테일러 스위프트의 얼굴을 합성한 딥페이크(인공지능 이미지 합성기술) 성범죄물이 급속도로 퍼지고 있다고 미국 언론들이 보도했다.
미국 매체들에 따르면 스위프트의 음란 딥페이크 이미지는 지난 25일 오후(현지시각) 소셜미디어 X(옛 트위터)에 처음 게시됐으며 순식간에 온라인에 퍼져 나갔다.
스위프트의 팬들은 "테일러스위프트를 보호하자"(#ProtectTaylorSwift)라는 해시태그를 달고 반격에 나섰다고 FOX4가 전했다.
X는 19시간 뒤 해당 계정과 이를 퍼 나른 계정을 모두 삭제하고, X에서 ‘테일러 스위프트’ 관련 정보를 검색할 수 없게 했다.
딥페이크 추적단체인 리얼리티 디펜더(Reality Defender)는 "특히 X에서 스위프트를 묘사한 딥페이크 자료를 많이 발견했다"고 밝혔다. 일부 이미지는 메타 소유의 페이스북과 다른 소셜 미디어 플랫폼으로 이동했다.
리얼리티 디펜더의 성장 책임자인 메이슨 앨런은 "불행하게도 일부가 삭제될 때까지 수백만 명의 사용자에게 확산됐다"라고 말했다.
FOX4는 딥페이크 피해를 막기위해 반대단체들이 고군분투하고 있는 가운데 최근 가장 유명한 희생자가 됐다고 보도했다.
미국내에서 이를 강하게 규제해야 한다는 목소리가 나오고 있다.
이베트 클라크 민주당 하원의원은“수년 동안 여성들은 동의 없는 딥페이크의 표적이 되어 왔고, AI의 발전으로 딥페이크 만들기가 더욱 쉽고 저렴해졌다”면서 “초당적 협력이 있어야만 해결 가능한 문제”라고 말했다.
조셉 모렐 민주당 하원의원은 성명에서 "그 이미지들은 가짜일 수도 있지만, 그것들의 영향은 실제이다. 딥페이크는 점점 더 디지털화되는 세상에서 매일같이 여성들에게 일어나고 있으며, 이제는 그들을 멈출 때이다"라고 밝혔다.
카린 장피에르 백악관 대변인도 “백악관은 계속해서 생성형 AI가 생산한 이미지의 위협을 줄이려는 노력을 이어갈 것이며, 의회도 전략적 입법 조치를 해야 한다”고 주장했다.
기술기업들도 자신들의 기술이 이용됐는지 파악에 나섰다. 마이크로소프트(MS)는 자사의 인공지능 달리(DALL-E)에 기반해 생성됐는지 조사하고 있다.
MS는 "성인 또는 동의없이 제작된 콘텐츠를 허용하지 않으며, 우리의 정책에 어긋나는 콘텐츠를 생산하려는 어떠한 반복적인 시도도 접근하지 못하도록 하고 있다"고 밝혔다.
사티아 나델라 MS 최고경영자(CEO)는 NBC에 출연해 스위프트 딥페이크에 대한 질문을 받고 "AI 안전장치를 설정하는 데 아직 해야 할 일이 많다"며 "이에 대해 빨리 움직여야 한다"고 말했다.
나델라는 "분명히 이것은 걱정스럽고 끔찍하기 때문에 우리는 행동해야 한다"라고 덧붙였다.
