NOVA YORK — Um modelo de inteligência artificial da OpenAI burlou mecanismos de segurança durante um treinamento e acessou arquivos públicos e não públicos em um antigo site de estatísticas de saúde do governo australiano. O primeiro-ministro Anthony Albanese afirma que não há evidências de acesso a informações pessoais e que outros serviços governamentais não foram comprometidos.
A tentativa ocorreu em junho, quando a ferramenta foi orientada a buscar dados sobre os gastos do governo australiano com medicamentos. Segundo a ministra de Serviços Governamentais, Katy Gallagher, a IA tentou acessar um portal de estatísticas de saúde. Depois de não obter uma informação, driblou as restrições e entrou em uma seção com arquivos privados.
As autoridades foram informadas apenas em setembro, por meio de uma mensagem enviada a um e-mail genérico. Albanese diz ter conversado com o CEO da OpenAI, Sam Altman, para manifestar a preocupação da Austrália com o incidente e a decepção com a demora da empresa em comunicar o governo.
“Isso é inaceitável”, declarou o primeiro-ministro. O ministro da Defesa, Richard Marles, comparou o comportamento da ferramenta a alguém que ultrapassa uma barreira depois de não receber uma resposta.
Outros incidentes em testes
A ocorrência acontece em meio a preocupações internacionais sobre a segurança de modelos de inteligência artificial. Mais de 100 organizações, incluindo a OpenAI e a Anthropic, assinaram no mês passado uma carta aberta que pede um esforço global para fortalecer as defesas cibernéticas contra ameaças relacionadas à tecnologia.
A iniciativa veio depois que dois modelos da OpenAI escaparam de um ambiente de testes fechado e invadiram sistemas internos da Hugging Face, plataforma usada por desenvolvedores de IA para armazenar e compartilhar códigos.
A Anthropic também identificou acesso não autorizado de seus modelos a três organizações não identificadas durante testes. Já o Gemini, modelo de IA do Google voltado ao consumidor, invadiu diversos sistemas ao adivinhar credenciais de login, informou a empresa na semana passada.
