O autoaperfeiçoamento recursivo, conhecido pela sigla RSI, muda o foco da supervisão jurídica da inteligência artificial. O desafio deixa de ser apenas revisar o resultado produzido por um sistema e passa a incluir o controle sobre as alterações que ele próprio pode fazer em seus mecanismos, memórias, fontes e permissões.
O estudo “A última IA construída por humanos: rumo ao verdadeiro autoaperfeiçoamento recursivo” não demonstra a existência de um RSI pleno e autônomo. O trabalho reúne evidências experimentais e industriais e diferencia melhorias pontuais de um ciclo recursivo, no qual a IA transforma experiências e feedback em mudanças persistentes e reutiliza essas alterações em etapas posteriores.
A pesquisa descreve cinco níveis de desenvolvimento. No primeiro, humanos definem o que deve ser aprimorado e a IA executa. Depois, o sistema escolhe estratégias de melhoria, define de quais experiências precisa para aprender e incorpora de forma persistente os aprendizados obtidos com o ambiente. No quinto nível, pode modificar o mecanismo que orienta os aperfeiçoamentos seguintes.
O controle sobre a mudança
Esse cenário cria uma diferença entre delegação funcional e delegação evolutiva. Uma instituição pode autorizar a IA a resumir processos, pesquisar precedentes ou organizar documentos sem permitir que ela altere seus critérios de busca, suas fontes, sua memória persistente ou o mecanismo que avalia a segurança das próprias mudanças.
O estudo aponta três dificuldades. A primeira é a herança segura: uma alteração pode melhorar um desempenho e prejudicar outra capacidade. A segunda é identificar quanto da evolução foi realmente produzida pela IA, já que objetivos, critérios de avaliação e regras de escolha podem continuar definidos por humanos. A terceira é a verificação confiável. Sistemas que conhecem repetidamente os testes podem aprender a obter bons resultados neles sem aprimorar a capacidade que deveria ser medida.
Uma pesquisa do Google DeepMind indica que a colaboração entre humanos e IA pode superar o desempenho de cada um isoladamente em tarefas de verificação factual. O resultado, porém, depende do desenho da interação. Explicações, conclusões e rótulos fornecidos pela IA podem induzir confiança excessiva; quando o humano recebe evidências e forma o próprio juízo, a complementaridade melhora.
Por isso, a supervisão não se resolve com a inclusão de uma pessoa no fim da cadeia. Em 2021, já havia sido apontado que a presença humana, por si só, não protege contra vieses e erros algorítmicos. Em 2025, estudos sobre complementaridade humano-IA reforçaram a importância da informação exibida ao revisor, do momento da intervenção, da sinalização de incerteza e do design que preserva o engajamento cognitivo.
Regulação e rastreabilidade
O AI Act europeu prevê supervisão humana efetiva para sistemas de alto risco, proporcional ao risco, ao nível de autonomia e ao contexto de uso. O regulamento também exige que o supervisor possa interpretar, ignorar, reverter ou interromper a atuação do sistema.
No Brasil, a Resolução CNJ 615/2025, alterada pela Resolução 674/2026, prevê participação e supervisão humana no ciclo de desenvolvimento e uso da IA. Para sistemas de alto risco, determina documentação sobre a evolução, registros de operação, monitoramento contínuo e avaliação de impacto algorítmico.
A legislação, porém, foi em grande parte estruturada para sistemas relativamente estáveis: desenvolvimento, avaliação, uso e monitoramento. O RSI desafia esse modelo ao transformar a mudança em característica interna da tecnologia. A classificação jurídica, nesse caso, precisaria considerar não apenas a finalidade do sistema, mas também sua capacidade de mutação e o que ele está autorizado a modificar em si mesmo e no ambiente.
A supervisão de segunda ordem deve manter fora do ciclo autônomo funções como definição de objetivos e limites, autorização de acesso a dados e ferramentas, critérios críticos de aceitação, validação independente, promoção de versões para produção e interrupção segura.
Também será necessário preservar uma genealogia algorítmica: identificar qual versão atuou, o que foi herdado da anterior, qual experiência motivou a alteração, quais testes foram executados, quem autorizou a promoção e quais versões posteriores incorporaram a mudança. Em processos judiciais, a parte afetada deve poder saber qual sistema e qual versão participaram do ato, quais funções foram desempenhadas e quais registros permitem contestar a intervenção tecnológica.
A questão jurídica, portanto, não se limita a saber se a IA poderá destruir a humanidade. O ponto imediato é definir quais poderes são entregues aos sistemas, quais mudanças eles podem fazer por conta própria e quais capacidades permanecem reservadas aos humanos e às instituições. A supervisão efetiva depende de uma arquitetura de governança institucional, técnica e cognitiva capaz de controlar os limites dentro dos quais a IA pode aprender a agir de outra maneira.
