Tribunal do Quebec anula sentença arbitral baseada em raciocínio fabricado por IA
As histórias são agrupadas entre idiomas, reescritas num formato editorial fixo e ligadas às fontes originais. Como informamos.
Resumo
- Um tribunal do Quebec anulou uma sentença arbitral que se apoiou fortemente em fontes jurídicas geradas por IA que não existiam.
- A decisão trazia doutrina apócrifa, citações judiciais sem relação com o caso e uma decisão arbitral fictícia.
- O tribunal alerta para a abdicação da responsabilidade na arbitragem para a IA, sem condenar ferramentas de IA em si.
- O caso levanta questões sobre transparência e limites no uso de IA em procedimentos arbitrais.
Visão geral
Um tribunal do Quebec anulou uma decisão arbitral após concluir que o núcleo do raciocínio estava apoiado em fontes jurídicas fabricadas, geradas por uma ferramenta de inteligência artificial. A decisão chamou a atenção da comunidade de arbitragem quanto aos limites e aos riscos do uso de IA generativa em processos decisórios.
O que aconteceu
O caso envolveu uma arbitragem em que o árbitro usou IA generativa para produzir o raciocínio jurídico da sentença.
A decisão problematizada continha citação de doutrina apócrifa e não rastreável, três decisões judiciais citadas que não tinham relação com os fatos do caso e referência a uma sentença arbitral inexistente.
Ao revisar o conteúdo, o tribunal do Quebec entendeu que o árbitro delegou seu mandato avaliativo crítico a uma ferramenta de IA e que as referências produzidas pela IA formavam o núcleo do raciocínio arbitral.
Diante disso, o tribunal anulou a sentença, emitindo um alerta para o setor de arbitragem sobre o uso acrítico de IA.
Contexto
A decisão não proíbe categoricamente o uso de ferramentas de IA por árbitros. O relatório observa que o tribunal reconheceu expressamente a utilidade de IA confiável para tarefas como resumir documentos extensos ou traduções, desde que o raciocínio final reflita o julgamento próprio do árbitro.
A análise citada no relatório estabelece quatro critérios cumulativos para assegurar o uso legítimo de IA: manter a decisão arbitral a cargo do árbitro, verificar as fontes, preservar a rastreabilidade e o caráter autêntico do raciocínio e manter a proporcionalidade na dependência da ferramenta de IA. O não atendimento a esses padrões pode levar à invalidação de uma sentença.
Alguns órgãos reguladores e diretrizes na Espanha e em outros lugares permitem rascunhos gerados por IA, desde que estejam sujeitos a uma revisão humana minuciosa, enquanto outros estabeleceram proibições mais rígidas à influência da IA em decisões substanciais.
Porque importa
- A anulação destaca os riscos profissionais e éticos significativos para árbitros e advogados quando materiais gerados por IA são usados sem supervisão humana adequada.
- O uso impróprio de IA pode afetar a validade e a capacidade de execução de sentenças arbitrais, tanto sob a Convenção de Nova York quanto sob leis nacionais.
- O relatório sugere que o caso é visto como um forte alerta e pode não ser o último incidente desse tipo à medida que a IA for sendo mais amplamente usada em processos arbitrais.