A Anthropic vai permitir que especialistas da Accenture trabalhem dentro da empresa para examinar a segurança de seus modelos de inteligência artificial. A equipe pertence à Faculty, divisão de IA da consultoria, e será a primeira avaliadora externa incorporada pela companhia.
A atividade inclui testar salvaguardas, participar de exercícios de red team e verificar se os sistemas seguem valores humanos. Os avaliadores também terão acesso em nível de funcionário, conforme a proposta apresentada pelo CEO da Anthropic, Dario Amodei. O formato busca permitir a análise direta das práticas de segurança e a comunicação de incidentes.
Financiamento e responsabilidade
Anthropic e Accenture planejam investir pelo menos US$ 1 bilhão, cerca de R$ 5,3 bilhões, para desenvolver essa capacidade ao longo dos próximos cinco anos. A Anthropic afirma que vai financiar diretamente o trabalho da Accenture devido à importância e à urgência da iniciativa.
A empresa diz que, no longo prazo, espera que esse tipo de avaliação seja bancado por recursos compartilhados ou governamentais. Essa possibilidade está prevista no Advanced AI Framework, apresentado pela Anthropic em junho. Como essas estruturas ainda não existem, a companhia pretende testar diferentes avaliadores e modelos de financiamento.
A Accenture não será a única organização envolvida. A Anthropic também conversa com a METR, entidade de pesquisa sem fins lucrativos, e com outras instituições que podem participar do processo. A empresa ressalta que continuará responsável pela segurança dos próprios modelos, mesmo com a presença de avaliadores externos.
“Estamos compartilhando esses primeiros esforços agora para que as pessoas e outros desenvolvedores de IA possam ver nosso processo”, afirmou a Anthropic. A companhia diz que pretende aperfeiçoar a abordagem conforme o setor amadurecer e divulgar novas informações quando o trabalho começar e novos avaliadores forem incorporados.
Plano para desacelerar sistemas avançados
A entrada da Accenture transforma em estrutura operacional uma parte da proposta de Amodei para desacelerar o desenvolvimento dos sistemas de IA mais avançados. Ao apresentar o plano, o executivo afirmou que a Anthropic assumiria “unilateralmente” esse primeiro compromisso e estimulou outras empresas a adotarem a mesma medida.
A proposta recebeu apoio de Sam Altman, CEO da OpenAI, e de Elon Musk, CEO da Tesla e da SpaceX. Jensen Huang, CEO da Nvidia, rejeitou as preocupações e disse que não seriam necessárias novas regulamentações. O plano também gerou dúvidas sobre sua aplicação prática, enquanto a Anthropic se prepara para uma possível abertura de capital.
