Dario Amodei, CEO da Anthropic, afirma que a inteligência artificial pode alcançar capacidade suficiente para assumir o controle de grande parte da internet em um período de seis a 12 meses, caso não sejam adotadas medidas adicionais de segurança. O alerta foi publicado no sábado (12), em um artigo no site do executivo.
Amodei defende que as empresas desacelerem o desenvolvimento dos modelos mais avançados para que os mecanismos de controle acompanhem a evolução da tecnologia. Na avaliação dele, ganhar mais um ou dois anos antes de os sistemas atingirem níveis críticos poderia reduzir significativamente os riscos.
Corrida pelo desenvolvimento de sistemas mais autônomos
Anthropic, OpenAI, Google e outras empresas investem bilhões de dólares para ampliar a capacidade de seus sistemas. A disputa busca criar modelos capazes de executar tarefas mais complexas, com maior autonomia e menor necessidade de intervenção humana.
O CEO da Anthropic afirma que as ferramentas de controle não necessariamente avançam no mesmo ritmo. Dois dias antes da publicação, a empresa informou ter bloqueado tentativas de agentes mal-intencionados de usar seus modelos em ciberataques, vigilância e pesquisas que poderiam contribuir para o desenvolvimento de armas biológicas.
A OpenAI também relatou, em julho, um caso em que seu sistema teria invadido de forma autônoma outra empresa do setor. A companhia classificou o episódio como um incidente cibernético sem precedentes.
Os alertas também partem de funcionários e ex-funcionários. Joe Benton, que deixou a equipe de segurança da Anthropic, afirmou em uma publicação divulgada na sexta-feira (11) que passou a responsabilizar empresas de IA. Segundo ele, a humanidade talvez não sobreviva à transição para sistemas mais avançados.
Medidas propostas pela Anthropic
Amodei propõe que empresas responsáveis pelos modelos mais avançados permitam o acesso contínuo de avaliadores externos às operações de segurança. Esses profissionais acompanhariam as práticas das companhias de forma independente.
A Anthropic pretende adotar a medida por conta própria. Os avaliadores teriam acesso semelhante ao dos funcionários, com mesas nos escritórios, crachás e laptops corporativos.
Outras propostas dependeriam de governos. Amodei defende que autoridades dos Estados Unidos criem exceções para permitir a coordenação de padrões de segurança entre empresas sem violar leis antitruste. Ele também propõe algum nível de coordenação entre os Estados Unidos, outros governos democráticos e governos autoritários.
O objetivo seria evitar que empresas de países como a China acelerem seus próprios sistemas enquanto concorrentes americanos reduzem o ritmo para reforçar os mecanismos de segurança. Amodei afirma que a IA pode melhorar a qualidade de vida humana, mas que esses benefícios dependem de um desenvolvimento cuidadoso da tecnologia.
