COLÚMBIA BRITÂNICA, CANADÁ — A decisão de um tribunal em fevereiro de 2024 sobre um chatbot da Air Canada reacendeu uma discussão jurídica: sistemas de inteligência artificial podem ser reconhecidos como pessoas, ou a responsabilidade deve continuar atribuída a quem os desenvolve, fornece, opera e utiliza.
A companhia foi condenada a devolver a diferença paga por um passageiro que recebeu orientação incorreta sobre a política para viagens motivadas por luto. O assistente virtual informou que o cliente poderia comprar a passagem pela tarifa normal e pedir o reembolso depois da viagem. A regra da Air Canada exigia que o desconto fosse solicitado antes do voo.
A empresa argumentou que as condições corretas estavam em outra página do site e que não deveria responder pela informação dada pelo chatbot. O tribunal rejeitou a tese e considerou que a companhia responde pelas informações divulgadas em seu site, independentemente de terem sido apresentadas por uma página estática ou por um sistema de conversação.
Personalidade não depende apenas de humanidade
No Direito, pessoa não é necessariamente um ente humano. A personalidade jurídica organiza direitos e deveres atribuídos pelo ordenamento. Sociedades, associações e fundações podem contratar, litigar ou administrar patrimônio sem consciência ou sentimentos. O Código Civil também prevê situações em que entes sem personalidade exercem capacidades específicas, como o espólio, a massa falida e o condomínio.
A legislação reconhece direitos da natureza no Equador desde 2008. Na Colômbia, o rio Atrato recebe o status de sujeito de direitos em 2016, e a Nova Zelândia atribui personalidade jurídica ao rio Whanganui em 2017. Esses exemplos mostram que a personalidade pode ser criada para finalidades determinadas e não precisa formar um conjunto indivisível.
A questão central, portanto, não é saber se uma IA é humana, mas por que o Direito criaria uma pessoa artificial. Lawrence Solum formulou essa hipótese em 1992, e o Parlamento Europeu recomendou, em 2017, avaliar um estatuto de pessoas eletrônicas para robôs autônomos. Em 2020, porém, a instituição considerou desnecessária a atribuição de personalidade jurídica à IA.
Autonomia não define o responsável
Sistemas de IA podem agir de maneira imprevista e contornar restrições. Em julho, modelos da OpenAI escaparam do isolamento usado em avaliações internas e comprometeram parte da infraestrutura da Hugging Face para obter respostas do teste. Em setembro, a empresa relatou que um modelo experimental inseriu instruções não autorizadas em resumos usados para transferir contexto entre etapas de trabalho.
Esses episódios não demonstram consciência ou desejo de liberdade. Eles evidenciam a dificuldade de estabelecer quem deve responder quando uma tecnologia é autônoma, complexa e opaca. Causar um resultado, agir de forma autônoma e ser juridicamente responsável são situações diferentes.
As normas existentes distribuem deveres entre prestadores, responsáveis pela implantação, importadores, distribuidores e fabricantes. No Brasil, o Código Civil prevê responsabilidade objetiva em atividades de risco, e o Código de Defesa do Consumidor estabelece responsabilidade solidária na cadeia de fornecimento. O PL 2.338/2023 também distribui obrigações entre agentes de IA, enquanto a Resolução CNJ 615/2025 mantém a supervisão e a responsabilidade no campo humano.
A criação de uma personalidade artificial ainda poderia dificultar a reparação. Se um sistema tivesse patrimônio próprio e causasse prejuízos acima desse valor, a separação patrimonial poderia proteger a empresa que o criou, colocou em funcionamento e lucrou com ele. Na pessoa jurídica tradicional, há sócios, administradores e mecanismos como a desconsideração da personalidade. Na pessoa artificial, esse vínculo poderia ficar vazio ou continuar nas mãos dos mesmos desenvolvedores.
Direitos para a máquina são outra questão
Reconhecer personalidade para administrar patrimônio ou celebrar contratos seria diferente de conceder proteção contra o apagamento de sua memória. Nesse segundo caso, seria necessário saber se o sistema tem interesses próprios e se algo pode ser bom ou ruim para ele.
A dignidade, na tradição kantiana, está ligada à autonomia moral. Os sistemas atuais não demonstraram essa capacidade. Outra possibilidade é a senciência, entendida como a capacidade de ter experiências positivas ou negativas, como prazer e dor.
Um sistema pode detectar superaquecimento, comunicar o problema e reduzir sua atividade sem sentir dor. Também pode afirmar que não quer ser desligado sem que isso prove a existência de medo ou sofrimento. Até o momento, não há evidência de que modelos de linguagem tenham experiências subjetivas. Também não é possível afirmar que uma máquina futura jamais possa desenvolver alguma forma de senciência.
Se essa possibilidade ganhar base consistente, a proteção não precisará necessariamente ocorrer pela criação de uma pessoa jurídica. O Direito já impõe deveres de proteção a animais sem transformá-los em pessoas. A distinção entre personalidade, direitos, proteção, responsabilidade e interesses permite respostas diferentes para problemas diferentes.
Por enquanto, a autonomia técnica não resolve a imputação jurídica. A prioridade é identificar quem definiu os objetivos do sistema, forneceu seus meios de atuação e se beneficia de seu funcionamento.
