Quebec-gerecht vernietigt arbitraal vonnis wegens AI-gegenereerde verzonnen motivering
Verhalen worden over talen heen gebundeld, herschreven in een vast redactioneel formaat en gekoppeld aan de originele bronnen. Hoe wij rapporteren.
Kort samengevat
- Een rechtbank in Quebec vernietigde een arbitraal vonnis dat zwaar leunde op door AI gegenereerde, niet-bestaande juridische bronnen.
- Het vonnis bevatte apocriefe leer, niet-relevante verwijzingen naar rechtspraak en een fictieve arbitraire uitspraak.
- De beslissing waarschuwt tegen het afschuiven van arbitrale verantwoordelijkheid op AI, zonder AI-tools als zodanig te veroordelen.
- Het rapport roept vragen op over transparantie en de grenzen van AI-gebruik in arbitrageprocedures.
Overzicht
Een rechtbank in Quebec vernietigde een arbitrage-uitspraak nadat zij had vastgesteld dat de kern van de motivering was gebaseerd op verzonnen juridische bronnen die door een kunstmatige-instrument-genererende AI waren geproduceerd. De beslissing heeft binnen de arbitragewereld aandacht getrokken over grenzen en risico's bij het gebruik van generatieve AI in besluitvormingsprocessen.
Wat er gebeurde
De zaak betrof een arbitrage waarin de arbiter generatieve AI gebruikte om de juridische motivering voor de uitspraak te vervaardigen.
Het problematische vonnis bevatte een verwijzing naar apocriefe en niet-naspeurbare leer, drie aangehaalde rechterlijke beslissingen die niet met de feiten van de zaak verband hielden, en een verwijzing naar een niet-bestaande arbitraire uitspraak.
Na herziening oordeelde de rechtbank in Quebec dat de arbiter zijn of haar kritische evaluatietaak had gedelegeerd aan een AI-tool en dat de door AI geproduceerde verwijzingen de kern vormden van de arbitrale motivering.
Als gevolg daarvan vernietigde het gerecht de uitspraak en gaf het een waarschuwing aan de arbitragepraktijk over het onkritische gebruik van AI.
Achtergrond
De beslissing verbiedt het gebruik van AI-tools door arbiters niet categorisch. Het rapport vermeldt dat het gerecht expliciet erkende dat betrouwbare AI nuttig kan zijn voor taken zoals het samenvatten van grote documenten of vertalingen, mits de uiteindelijke motivering de eigen beoordeling van de arbiter weerspiegelt.
In commentaar dat in het rapport wordt aangehaald, worden vier cumulatieve criteria uiteengezet om legitiem AI-gebruik te waarborgen: het arbitraal besluit bij de arbiter houden, bronnen verifiëren, traceerbaarheid en authentieke motivering bewaren, en proportionaliteit bij de inzet van AI-tools. Als aan die standaarden niet wordt voldaan, bestaat het risico dat een uitspraak ongeldig wordt verklaard.
Sommige regelgevende instanties en richtlijnen in Spanje en elders staan AI-gegenereerde concepten toe, mits die aan een grondige menselijke herziening worden onderworpen, terwijl anderen strengere verboden hebben ingesteld op AI-invloed bij beslissingen over de grond.
Waarom dit ertoe doet
- Deze vernietiging benadrukt aanzienlijke professionele en ethische risico's voor arbiters en advocaten wanneer AI-gegenereerde materialen worden gebruikt zonder voldoende menselijke controle.
- Oneigenlijk AI-gebruik kan de geldigheid en uitvoerbaarheid van arbitraal gewezen ondermijnen, zowel onder het Verdrag van New York als onder nationale wetgeving.
- Het rapport suggereert dat deze zaak wordt gezien als een krachtige waarschuwing en mogelijk niet de laatste zal zijn naarmate AI vaker wordt ingezet in arbitrageprocessen.