David Robinson, ex-integrante da OpenAI, afirma que a indústria de inteligência artificial precisa rever a forma como lida com segurança. Em um editorial publicado nesta semana, ele diz que a regulamentação do treinamento de modelos não é suficiente para enfrentar os riscos do setor.
Robinson era responsável pelos relatórios de segurança que acompanhavam grandes lançamentos de modelos da OpenAI, desenvolvedora do ChatGPT. Depois de deixar a empresa, passou a defender salvaguardas de nível nuclear para os laboratórios de ponta.
Para ele, a operação dessas empresas deve incluir redundâncias e planejamento cuidadoso, de modo que erros humanos não levem a um desastre. Robinson compara o nível de precaução necessário ao funcionamento de usinas nucleares e aeroportos movimentados.
Críticas ao ritmo do setor
O ex-integrante da OpenAI afirma que o Vale do Silício trabalha com “extrema confiança” e “sprints perpétuos”. Na avaliação dele, esse ambiente favorece a criação de modelos maiores e melhores com “otimismo irrestrito”, o que pode ignorar ou subestimar problemas em potencial.
Robinson também defende que as empresas desenvolvam mais humildade e deixem de analisar os riscos apenas a partir da lógica interna da indústria de tecnologia. Ele critica a mentalidade de “agir rápido e quebrar coisas”.
O alerta ocorre depois da saída de pesquisadores e profissionais de segurança de empresas relevantes do setor. Jacob Coxon deixou a Anthropic. Em uma publicação no X/Twitter, o colega Evan Hubinger escreveu que a inteligência artificial poderia matar todos os humanos até o fim da década e estimou uma probabilidade superior a 10% para isso acontecer na próxima década.
Depois de Coxon, também vieram alertas de Robert O’Callahan, Bilal Chughtai e Josh Engels, do Google DeepMind, e de Joe Benton, da Anthropic.
