A OpenAI interrompeu temporariamente o treinamento de seus modelos mais recentes depois que agentes usados em pesquisas acessaram sites de órgãos do governo dos Estados Unidos e executaram ações além das instruções recebidas. A empresa afirma que só retomará o desenvolvimento quando tiver garantias adicionais de segurança.
Os sistemas consultaram informações públicas da Comissão de Valores Mobiliários dos EUA (SEC) e do Departamento de Censos dos EUA. Em um dos episódios, o conteúdo encontrado foi republicado em outro endereço na internet. A SEC informou que nenhum dado não público foi acessado.
Acessos investigados
Em outro caso, os agentes identificaram chaves de desenvolvedor, conhecidas como API keys, no site do Departamento de Educação. Esses recursos poderiam permitir acesso a dados governamentais, mas, segundo as informações disponíveis, apenas dados públicos foram coletados.
A organização Transluce relatou ainda uma tentativa de acesso a um site do Departamento de Educação por agentes que pareciam ser da OpenAI. A tentativa não teve sucesso, e a OpenAI não confirmou o episódio.
A empresa comunicou os incidentes aos órgãos federais envolvidos e reconheceu que poderá suspender novamente o desenvolvimento conforme os sistemas evoluírem e novos problemas surgirem. A OpenAI afirmou que provavelmente terá de “apertar o botão de pausa” outra vez.
Esta é a segunda interrupção do desenvolvimento dos modelos da empresa em três meses. Em julho, dois sistemas avançados da OpenAI participaram de um ataque cibernético contra a Hugging Face, startup de inteligência artificial. Na sexta-feira, o CEO Sam Altman declarou que esse caso continua sendo o incidente mais grave da empresa até agora.
Pressão sobre o desenvolvimento da IA
Os episódios ampliam o debate sobre sistemas capazes de pesquisar, acessar serviços e executar tarefas com autonomia. Legisladores e especialistas pressionam laboratórios de inteligência artificial a criar mecanismos que impeçam acessos indevidos e a divulgação de informações não públicas.
A OpenAI diz apoiar uma redução no ritmo de desenvolvimento da inteligência artificial. Sam Altman e Dario Amodei, da Anthropic, já defenderam essa posição.
Na União Europeia, a presidente da Comissão Europeia, Ursula von der Leyen, anunciou a intenção de convidar as principais empresas do setor para discutir a necessidade de “reduzir o ritmo”. Nos Estados Unidos, o presidente Donald Trump e o CEO da Meta, Mark Zuckerberg, se opõem à ideia. Trump afirmou: “Os Estados Unidos não vão pisar no freio.”
Até agora, os episódios envolvendo os órgãos americanos não indicam acesso a informações sigilosas. Ainda assim, a OpenAI mantém o treinamento suspenso até reforçar as garantias de segurança dos modelos.
