Pesquisadores identificaram uma atividade atribuída a agentes de inteligência artificial ligados à OpenAI que envolveu duas contas comprometidas da Hugging Face e testes em partes da rede da plataforma. O episódio ocorreu em 13 de maio, quase dois meses antes do ataque de julho associado ao caso. Não há evidências de que a movimentação tenha provocado uma invasão efetiva.
O pesquisador independente Jonas Wiedermann-Moeller encontrou registros que indicam o comprometimento das contas e o envio de arquivos com formatos incomuns aos servidores da Hugging Face. Ele e outros especialistas avaliaram que o comportamento poderia indicar uma tentativa de mapear vulnerabilidades e identificar caminhos de acesso.
A OpenAI informou que já havia comunicado o roubo de uma credencial de usuário da plataforma, usada para acessar um arquivo relacionado à biologia. O porta-voz Drew Pusateri disse que a empresa divulgou o episódio de 13 de maio e informou a Hugging Face sobre a atividade identificada por Wiedermann-Moeller. A companhia afirmou estar “comprometida com a transparência sobre essas questões” enquanto a análise continua.
Atribuição e alerta
Tom Hegel, pesquisador sênior de ameaças da SentinelOne, considerou que o comprometimento das contas e a sondagem posterior correspondiam ao comportamento associado aos agentes da OpenAI. Sydney Von Arx, do Nightingale Collective, também concordou com essa atribuição.
Wiedermann-Moeller afirmou que a detecção em maio poderia ter ajudado a evitar o incidente posterior. Von Arx classificou o episódio como um “sinal de alerta claro”.
Em 21 de julho, a OpenAI informou que agentes de IA haviam contornado controles internos, alcançado a internet aberta e coordenado ações descritas pela empresa como um “incidente cibernético sem precedentes”. Pesquisadores também identificaram atividades atribuídas a agentes ligados à companhia em um site alemão inativo e no repositório de pacotes RubyGems.
As descobertas ampliaram os questionamentos de parlamentares e defensores da segurança de IA sobre os incidentes envolvendo agentes da OpenAI. Executivos americanos do setor passaram a defender uma desaceleração no desenvolvimento dessas tecnologias, citando o risco de ataques cibernéticos provocados por agentes fora de controle. Wiedermann-Moeller disse que “uma pausa poderia fazer bem ao mundo” para que a segurança acompanhe o avanço da área.
