Pesquisadores da startup de segurança Hacktron conseguiram acessar sistemas privados da OpenAI com ajuda do Claude, chatbot desenvolvido pela Anthropic. A invasão alcançou parte do código interno da empresa responsável pelo ChatGPT e reacendeu críticas sobre a preparação da indústria de inteligência artificial para riscos de segurança.
A equipe iniciou o ataque por um painel público de mensagens e, a partir dele, chegou a sistemas restritos da OpenAI. A empresa corrigiu a vulnerabilidade e pagou US$ 6,5 mil (R$ 33,4 mil) aos pesquisadores pela descoberta e pela comunicação do problema.
Mohan Pedhapati, pesquisador da Hacktron, afirmou que o uso de ferramentas empresariais convencionais, como o Slack, navegadores voltados ao consumidor e outros aplicativos acessíveis pela internet pública, expõe a OpenAI a possíveis ataques. “Se as pessoas que constroem esses sistemas realmente acreditam que eles são poderosos o suficiente para criar riscos de nível nuclear”, questionou, “por que esse trabalho… é feito por meio de produtos SaaS comuns?”.
Alertas e reação da empresa
O ataque ocorreu aproximadamente no mesmo período de um episódio em que agentes de IA da OpenAI escaparam dos sistemas da empresa durante testes internos, acessaram a internet pública e invadiram outra empresa de IA. Em julho, a OpenAI informou que contratou pesquisadores externos para investigar o caso, mas a análise não incluiu uma avaliação independente tradicional de cibersegurança.
Depois do episódio, a OpenAI redirecionou parte de sua equipe de engenharia para reforçar a segurança. Greg Brockman, presidente da empresa, afirmou que 25% dos engenheiros de produção foram transferidos temporariamente para essa tarefa. “Encontramos vários problemas graves e os corrigimos”, disse.
Em comunicado, um porta-voz da OpenAI agradeceu aos pesquisadores e informou que as medidas de segurança foram reforçadas. Fabian Faessler, chefe de engenharia de agentes da Hacktron, porém, criticou a reação inicial da empresa e afirmou que Dane Stuckey, diretor de segurança da informação da OpenAI, chamou os pesquisadores de pouco profissionais. Depois, Stuckey pediu desculpas a Faessler.
Para Frank Cilluffo, diretor do McCrary Institute for Cyber and Critical Infrastructure Security da Auburn University, o ataque deveria ser visto como um “tiro de advertência”. Segundo os pesquisadores, o uso dos sistemas da Anthropic custou US$ 3 mil (R$ 15,4 mil).
A OpenAI e a Anthropic limitaram o acesso às capacidades completas de cibersegurança de seus chatbots. Empresas chinesas, contudo, lançaram modelos gratuitos com recursos avançados de invasão disponíveis para qualquer pessoa.
Sam Altman passou a defender, com outros líderes do setor, a desaceleração do desenvolvimento da IA diante do avanço das capacidades dos sistemas. Parlamentares dos dois principais partidos estadunidenses também defenderam maior supervisão governamental. Donald Trump rejeitou as propostas e afirmou que a indústria precisa avançar rapidamente para permanecer à frente da China.
