A prova produzida por inteligência artificial deve ser examinada a partir do problema que o sistema foi criado para resolver, de seu desenvolvimento, dos testes realizados, da possibilidade de explicar seu funcionamento e do risco de erro. Esse é o roteiro proposto por Paul Grimm para orientar decisões sobre a admissão desse tipo de evidência.
No caso State v. Puloka, Joshua Puloka responde por três homicídios após um tiroteio ocorrido em 2021. A defesa queria apresentar uma gravação feita pelo celular de uma testemunha. Como o vídeo tinha baixa resolução e borrões provocados pelo movimento, um software de IA foi usado para ampliar e dar nitidez às imagens.
O juiz recusou a exibição. O algoritmo empregado pelo perito da defesa não havia passado por revisão por pares nem alcançado aceitação geral entre especialistas. O próprio perito também não sabia como o sistema tinha sido treinado, se havia sido submetido a testes de confiabilidade ou como funcionava. A decisão ocorreu sob o teste de Frye, que exige aceitação geral da metodologia na comunidade científica relevante.
O que deve ser verificado
A autenticação da prova pode ocorrer, no modelo norte-americano, pelo testemunho de quem tem conhecimento pessoal, pela descrição do processo ou sistema ou por certificação. Em todos os casos, é necessário demonstrar que o sistema produz um resultado acurado. Essa etapa não comprova, por si só, que o conteúdo é verdadeiro; indica apenas que ele pode ser apresentado como aquilo que a parte afirma ser.
Para Grossman e Grimm, a acurácia é necessária, mas não suficiente. O magistrado deve avaliar a validade — se a ferramenta mede ou prevê o que promete —, a confiabilidade — se repete o resultado em condições semelhantes — e o viés, entendido como distorção sistemática causada por fatores indevidos, como dados de treinamento preconceituosos ou falhas de amostragem.
A abordagem Daubert, incorporada à Regra 702, considera se a técnica foi testada empiricamente, submetida à revisão por pares e publicada, além de examinar sua taxa de erro, os padrões operacionais, os controles e o grau de aceitação no campo científico. Cerca de um quarto das jurisdições estaduais norte-americanas ainda adere a Frye; a maioria migrou para Daubert.
Transparência e risco
O National Institute of Standards and Technology estabelece quatro referências: explicação dos resultados, inteligibilidade para os destinatários, correspondência entre a explicação e o processo real de geração da resposta e respeito aos limites de conhecimento do sistema.
Grimm propõe que o juiz pergunte qual problema a IA resolve; como e por quem foi desenvolvida; se validade e confiabilidade foram testadas; se o funcionamento pode ser explicado a advogados, juiz e jurados; e qual é o risco de dano caso uma prova incerta seja admitida.
A análise também pode considerar se houve segredo industrial, taxas de erro inaceitáveis, atalhos no desenvolvimento ou falta de aceitação entre especialistas. No caso Puloka, a ausência de informações sobre treinamento, testes e funcionamento impediu demonstrar que o vídeo aprimorado era suficientemente confiável.
Para Grossman e Grimm, o magistrado deve exigir que as partes revelem a intenção de usar prova produzida por IA, assegurem prazo para impugnação e apresentem informações técnicas sobre desenvolvimento, treinamento, testagem, falsos positivos, falsos negativos e possíveis vieses. O objetivo é transformar a noção ampla de acurácia em uma análise concreta de validade, confiabilidade e viés.
