SEUL — Um centro mantido pelo governo da Coreia do Sul usa inteligência artificial para localizar republicações de deepfakes e outros conteúdos sexuais divulgados sem o conhecimento das vítimas. A equipe encaminha pedidos de remoção a redes sociais e sites pornográficos depois de ser procurada pelas pessoas afetadas.
Desde 2018, o serviço atendeu 53 mil pessoas e retirou mais de 1 milhão de conteúdos sexuais ilícitos da internet. A estrutura principal funciona em um escritório no centro de Seul, decorado com faixas de apoio a vítimas de violência sexual, e reúne 23 mulheres. Há ainda 17 filiais regionais, que oferecem apoio psicológico e jurídico.
Na maioria dos casos, a vítima chega ao centro após receber o aviso de um familiar ou conhecido de que um vídeo está circulando na internet. O sistema identifica novas cópias do material, enquanto as profissionais fazem contato com as plataformas para pedir a retirada.
A líder da equipe, Kim Hyojung, afirma que parte dos vídeos está em sites ilegais cujos provedores não respondem às solicitações. Nessas situações, a polícia pode atuar para fechar as páginas. Quando os arquivos ficam hospedados no exterior, o centro enfrenta dificuldade semelhante. Kim diz que 80% desses casos envolvem servidores nos Estados Unidos e que autoridades norte-americanas colaboram com os pedidos de remoção.
Levantamentos da empresa australiana Security Heroes indicam que mais da metade das vítimas de deepfakes pornográficos no mundo são sul-coreanas. O centro também registra crescimento no número de casos entre pessoas de todas as faixas etárias.
O trabalho afeta a saúde das profissionais, que analisam diariamente imagens pornográficas, incluindo conteúdos violentos e pornografia infantil. Uma integrante identificada apenas como Park mantém o anonimato para exercer a função.
“Todas nós somos bastante afetadas emocional e psicologicamente por essa atividade”, afirma Park. Segundo ela, colegas já tiveram insônia, choraram diante de determinadas publicações ou perderam o apetite.
Para reduzir o impacto, o centro oferece acompanhamento psicológico contínuo, com consultas individuais com um psicólogo uma ou duas vezes por mês. Park também afirma que as mensagens de agradecimento das vítimas ajudam a equipe a seguir no trabalho.
