NOVA YORK — Autoridades de Nova York anunciam a derrubada de 12 sites que hospedavam e comercializavam pornografia deepfake produzida com inteligência artificial (IA). A operação é anunciada nesta segunda-feira (14) pela Promotoria do Distrito de Manhattan, que afirma ter identificado material envolvendo cerca de 1,2 mil pessoas reais, em sua maioria mulheres.
As plataformas exibiam imagens e vídeos manipulados para fazer parecer que atrizes, políticas, atletas, musicistas, influenciadoras digitais, defensoras de causas sociais e outras figuras públicas participavam de atos sexualmente explícitos sem consentimento. Os sites também publicavam e vendiam outros registros íntimos não consensuais.
O promotor distrital de Manhattan, Alvin Bragg, afirma acreditar que essa seja a maior operação já realizada para retirar do ar sites dedicados à pornografia ilegal gerada por IA. “São fotos e vídeos que utilizam inteligência artificial para fazer parecer que pessoas reais participam de atos sexualmente explícitos”, disse Bragg.
Como os sites operavam
As plataformas usavam ferramentas de IA para substituir os rostos exibidos originalmente em imagens e vídeos pelos rostos das vítimas. O resultado eram conteúdos hiper-realistas, embora as pessoas retratadas nunca tivessem participado das situações mostradas.
De acordo com a Promotoria de Manhattan, as empresas responsáveis lucravam com a publicação e a disseminação de imagens e vídeos sexuais não consensuais, independentemente de o material ter sido produzido com IA. Bragg afirma que as violações de privacidade acompanham as vítimas em suas carreiras e vidas pessoais e afetam seu bem-estar emocional e mental.
A investigação começa depois que uma das vítimas denuncia um dos sites. Bragg não informa se há prisões relacionadas à operação. As autoridades dizem que o trabalho sobre essas plataformas e outros sites continua. A Promotoria do Distrito de Manhattan também pretende monitorar as páginas para impedir que retornem ao ar com outros nomes.
A legislação de Nova York considera ilegal compartilhar fotos ou vídeos reais de pessoas praticando atos sexuais sem consentimento. A regra também se aplica a conteúdos criados ou alterados com ferramentas de IA.
