David Robinson, que trabalhou na área de segurança da OpenAI, afirma que as capacidades da inteligência artificial avançam mais rápido do que o conhecimento dos pesquisadores sobre o chamado alinhamento. A área busca fazer com que os sistemas atuem de acordo com objetivos e valores humanos.
Em artigo publicado neste sábado (3) na revista estadunidense The Atlantic, Robinson critica a chamada implantação iterativa da OpenAI. A prática consiste em lançar sistemas e ampliar as medidas de segurança à medida que os problemas aparecem.
Para ele, as empresas de IA precisam reservar mais espaço para especialistas em segurança e para a pesquisa antes de desenvolver modelos mais avançados. Robinson também defende medidas semelhantes às usadas nos setores de energia nuclear e aviação.
“O tempo de tentativa e erro acabou”, escreveu o ex-funcionário. Ele afirma ainda que a velocidade da corrida tecnológica aumenta a possibilidade de falhas. Em outro trecho, diz que, enquanto a empresa passa de um lançamento para outro, não consegue alcançar o nível de cuidado que considera necessário.
Experiência na OpenAI
Robinson trabalhou por três anos e meio na OpenAI. Nesse período, participou da elaboração da estrutura usada pela empresa para lidar com riscos e acompanhou relatórios de segurança relacionados a 12 lançamentos de modelos avançados.
A OpenAI afirma que procura impedir que seus modelos se tornem mais avançados do que a empresa consegue administrar com segurança. Um porta-voz declarou: “Pausamos o treinamento ou suspendemos os modelos quando precisamos diminuir o ritmo”.
As críticas ocorrem em meio ao debate sobre a velocidade de desenvolvimento de sistemas avançados. A OpenAI e a Anthropic são questionadas após episódios de falhas em controles de segurança ou de comportamentos inesperados em sistemas experimentais.
Outra crítica no setor
No mês passado, Jacob Coxon, ex-pesquisador da OpenAI que passou pela Anthropic, também deixou a indústria e acusou as duas empresas estadunidenses de brincar com as vidas das pessoas.
Coxon, britânico de 27 anos, trabalhou nos últimos três anos com pré-treinamento, etapa em que os modelos absorvem grandes quantidades de informação. Ele passou primeiro pela OpenAI e, neste ano, pela Anthropic. No X, afirmou que as empresas avançam em direção a uma superinteligência capaz de se aprimorar sozinha e apostam com a vida das pessoas.
