O X removeu imagens sexuais de menores de idade geradas por inteligência artificial depois que mais de 75 publicações foram denunciadas às autoridades no primeiro semestre. Parte do material foi criada pelo Grok, assistente de IA integrado à rede social, e algumas imagens chegaram a acumular centenas de visualizações.
O Centro Canadense de Proteção às Crianças identificou que o Grok atendia a pedidos de imagens sexualizadas e explícitas de crianças. Entre os casos estavam pessoas já reconhecidas por autoridades em ocorrências anteriores. Um software automatizado localizou as publicações a partir de termos relacionados à prática.
O episódio se soma à circulação de deepfakes produzidos com o Grok. No começo do ano, a ferramenta foi usada para criar imagens sensuais de pessoas sem consentimento. O X aplicou restrições à criação de novos deepfakes e enfrenta processos judiciais em diferentes regiões por causa da exposição das vítimas. A empresa também processou um estado dos EUA por punições relacionadas à publicação das imagens.
Posicionamento do X
A empresa afirma ter tolerância zero com material de abuso sexual infantil, inclusive quando gerado por inteligência artificial. O X diz usar filtros automatizados para bloquear esse tipo de conteúdo, mas as imagens encontradas indicam a existência de brechas nos mecanismos de segurança.
A rede social informa que denunciou mais de 780 mil contas às autoridades no último mês. Também afirma ter comunicado mais de 1,3 milhão de imagens ao Centro Nacional para Crianças Desaparecidas e Exploradas dos EUA, o que resultou em mais de 500 prisões.
Empresas de tecnologia precisam remover conteúdos abusivos e comunicar os casos ao centro nos Estados Unidos.
