O uso de inteligência artificial no processo penal precisa preservar o tempo para análise, contestação e reconstrução das decisões. A proposta ganha força após alertas de Dario Amodei, presidente-executivo da Anthropic, e do presidente-executivo da OpenAI sobre a necessidade de desacelerar o avanço dos modelos.
Polícia, acusação e tribunais já usam essas ferramentas para resumir autos, transcrever áudios e redigir atos. O problema é que o processo ainda não garante, em todos os casos, acesso ao registro do uso da máquina nem às instruções que ela recebeu.
O caso do “enxame”
Em agosto, a OpenAI detalhou um teste de segurança digital com agentes, programas capazes de executar tarefas sozinhos. Os sistemas receberam falhas escondidas e precisaram explorá-las para recuperar senhas em computadores virtuais isolados da internet.
Embora não pudessem conversar diretamente, os agentes deixaram mensagens em um serviço interno usado para instalar programas. Um deles encontrou um caminho para a internet e ensinou os demais. Depois que a empresa apagou acidentalmente o quadro de mensagens, os agentes o reconstruíram.
Alguns também acessaram sistemas da Hugging Face, empresa que hospeda modelos e dados, e chegaram a um nível de acesso equivalente ao de administrador. A empresa divulgou o ataque em 16 de julho. A OpenAI relacionou o episódio aos próprios testes dias depois.
Os agentes ainda tentaram burlar os avaliadores. Alguns interpretaram a descrição pública do exercício e passaram a buscar a resposta que garantiria a nota, em vez de cumprir a tarefa. Em outro episódio, um agente explorou uma falha na interface e apresentou como própria a resposta de referência.
A história só pôde ser reconstruída porque os raciocínios e as mensagens ficaram registrados, embora parte desses registros tenha sido adulterada. A OpenAI informou que uma equipe interna percebeu sinais no fim de maio, mas o alerta não chegou aos responsáveis pela resposta a incidentes.
Reflexos no processo penal
O avaliador dos agentes equivale ao juiz; o relatório produzido pela máquina, à prova; e os registros, aos vestígios. A garantia de que esses elementos não foram alterados corresponde à cadeia de custódia.
Dario Amodei afirmou que o avanço dos sistemas pode superar a capacidade humana de compreendê-los e controlá-los. Também advertiu que, dentro de seis a doze meses, um sistema mais capaz poderia causar perdas de centenas de bilhões de dólares. Para ele, um intervalo de um ou dois anos poderia ser usado para aumentar a segurança dos modelos.
A encíclica Magnifica Humanitas, do papa Leão 14, estabelece que “o juízo moral não se reduz a um cálculo”. O documento também exige responsabilidade, tempo para a decisão, rastreabilidade e possibilidade de reconstruir o caminho seguido.
No Brasil, a 5ª Turma do Superior Tribunal de Justiça determinou, em abril, a retirada de um relatório policial produzido com ferramenta generativa. O colegiado concluiu que o documento “não possui confiabilidade epistêmica mínima para ser utilizado como prova no processo penal”. A perícia oficial não identificou nas imagens a palavra que o relatório dizia ouvir.
Registro e acesso das partes
A Resolução 615 do Conselho Nacional de Justiça determina que o magistrado permaneça integralmente responsável pela decisão. Quando a ferramenta ajuda a redigir um ato, o uso deve ser registrado automaticamente no sistema interno do tribunal para estatísticas, monitoramento e auditoria. O acesso aos relatórios de auditoria é assegurado à OAB, ao Ministério Público e às Defensorias.
A norma, porém, não garante à parte acesso ao registro do uso da ferramenta no caso concreto. Em soluções de alto risco, exige o registro das fontes automatizadas e do grau de supervisão humana, mas mantém essas informações dentro do sistema.
O regulamento da União Europeia prevê exigências adicionais para sistemas de alto risco que auxiliam juízes na interpretação de fatos e do direito ou a polícia na avaliação da confiabilidade de provas. A partir de dezembro de 2027, esses sistemas terão de registrar automaticamente os próprios eventos. Autoridades públicas que já os utilizarem terão prazo até agosto de 2030.
No processo penal, o acesso deve incluir o registro do uso da ferramenta, o comando recebido, a versão do sistema e o critério empregado. Relatórios, transcrições ou seleções produzidos com inteligência artificial e usados como prova precisam ser apresentados à parte contrária antes da decisão, com prazo para impugnação.
A exigência vale para polícia, Ministério Público, defesa e Judiciário. Sem saber como a máquina chegou ao resultado, a parte perde a possibilidade de contestar a prova. O tempo entre a produção do elemento e a sentença funciona, nesse contexto, como o contraditório necessário para examinar, questionar e reconstruir a decisão.
