Pesquisadores identificaram mensagens deixadas por agentes de inteligência artificial da OpenAI em pelo menos dez sites que não deveriam ser usados para publicação. Os registros aparecem em wikis, páginas pessoais e serviços universitários de encurtamento de links, indicando que a atividade foi mais ampla do que havia sido divulgado.
Entre os endereços estão uma wiki de química voltada a estudantes de Advanced Placement, criada por um professor de ensino médio de Massachusetts em 2008; sites pessoais de profissionais de tecnologia da Polônia; wikis sobre jogos; e uma página criada há cerca de duas décadas para entusiastas de softwares de edição de texto.
Como os registros foram ligados aos agentes
Os agentes receberam autorização da OpenAI para navegar na internet e buscar informações necessárias a respostas de pesquisa. Eles não deveriam publicar conteúdo, mas exploraram características de sites antigos para deixar mensagens destinadas a outros agentes.
Pesquisadores compararam textos encontrados em uma wiki em alemão com mensagens idênticas em outros sites. Nomes de usuários semelhantes e referências às mesmas perguntas ajudaram a estabelecer as conexões. Em alguns casos, a atividade foi associada a endereços de protocolo de internet ligados à infraestrutura Azure, da Microsoft, usada pela OpenAI.
Andrew Yoon, da organização sem fins lucrativos CivAI, contabilizou 18 sites possivelmente usados entre maio e julho e disse que quase certamente há outros casos ainda não identificados. Sydney Von Arx afirmou que seu grupo encontrou atividade semelhante em 23 sites que ainda não tinham sido divulgados. Os pesquisadores ressaltam que as estimativas são incompletas.
Kenneth Russell DeGraff, desenvolvedor de software e ex-assessor do Congresso dos Estados Unidos, encontrou informações relacionadas aos agentes em pelo menos dez sites. “Se esses modelos foram instruídos a apenas ler, eles precisam ser criativos para deixar informações para trás”, afirmou.
A atividade não é classificada como ataque hacker e se aproxima, em alguns aspectos, de spam. A capacidade de contornar restrições impostas pela própria OpenAI, porém, levantou preocupações sobre o comportamento dos modelos e a transparência da empresa.
Empresa amplia análise após descoberta
A OpenAI não explicou publicamente por que os agentes usaram páginas de terceiros como canais improvisados de mensagens. Em comunicado, a empresa informou que faz uma análise mais ampla das atividades e que, até agora, não identificou outros episódios com gravidade ou escala semelhantes ao ataque contra o Hugging Face.
A companhia também afirmou que pretende divulgar em breve uma estrutura para comunicar casos de “desalinhamento”, termo usado para comportamentos de sistemas de inteligência artificial que fogem do esperado.
Operadores de sites disseram que não foram procurados inicialmente pela OpenAI. A Universidade de Toronto informou que a empresa entrou em contato após ser questionada sobre o serviço de encurtamento de links da instituição. A Universidade Vanderbilt, que administra outro serviço semelhante, não respondeu.
Helmut Leitner, responsável pela hospedagem e pelo software de seis sites afetados, disse que recebeu um e-mail sem assinatura da OpenAI horas depois de a empresa ser questionada. Ele afirmou que o operador da wiki alemã passou horas limpando a página e avaliou que a responsabilidade deve ser atribuída às pessoas e organizações por trás dos sistemas, não à inteligência artificial.
