Quebec-domstol ogiltigförklarar skiljedomslut baserat på AI-genererad påhittad motivering
Artiklar grupperas över språk, skrivs om i ett fast redaktionellt format och länkas till originalkällor. Så rapporterar vi.
Kort sagt
- En Quebec-domstol ogiltigförklarade ett skiljedomslut som i hög grad byggde på AI-genererade, icke-existerande rättskällor.
- Avgörandet innehöll påhittad doktrin, irrelevanta rättsliga hänvisningar och ett påhittat skiljedomstolsavgörande.
- Domstolens beslut varnar för att abdikera skiljemannens ansvar till AI, utan att samtidigt fördöma AI-verktyg som sådana.
- Fallet väcker frågor om transparens och gränser för användning av AI i skiljeförfaranden.
Översikt
En domstol i Quebec ogiltigförklarade ett skiljedomslut efter att ha funnit att avgörandets centrala motivering grundades på påhittade rättskällor som genererats av ett verktyg baserat på artificiell intelligens. Beslutet har uppmärksammats inom skiljemannakretsar när det gäller gränser och risker med att använda generativ AI i beslutsfattande.
Vad hände
Målet gällde ett skiljeförfarande där skiljemannen använde generativ AI för att ta fram den rättsliga motiveringen till avgörandet.
Det problematiska avgörandet innehöll en hänvisning till apokryf och oåtkomlig doktrin, tre åberopade domstolsavgöranden som saknade koppling till omständigheterna i målet, samt en hänvisning till ett icke-existerande skiljedomslut.
När domstolen prövade saken fann den att skiljemannen hade delegerat sin kritiska utvärderande uppgift till ett AI-verktyg och att de referenser som tagits fram av AI utgjorde kärnan i den skiljedomsliga motiveringen.
Som ett resultat ogiltigförklarade domstolen avgörandet och utfärdade en varning till skiljefältet om oreflekterad användning av AI.
Kontext
Avgörandet förbjuder inte kategoriskt användning av AI-verktyg av skiljemän. Enligt rapporten erkände domstolen uttryckligen att tillförlitlig AI kan vara användbar för uppgifter som att sammanfatta stora dokument eller göra översättningar, förutsatt att den slutliga motiveringen speglar skiljemannens eget omdöme.
Kommentarer som återges i rapporten anger fyra kumulativa kriterier för att säkerställa legitim användning av AI: att skiljedomslutet förbehålls skiljemannen, att källor kontrolleras, att spårbarhet och autentisk motivering upprätthålls, samt att beroendet av AI är proportionerligt. Om dessa krav inte uppfylls finns risk att ett avgörande underkänns.
Vissa reglerande organ och riktlinjer i Spanien och på andra håll tillåter AI-genererade utkast, om de underkastas en grundlig mänsklig genomgång, medan andra har infört striktare förbud mot att AI påverkar materiella avgöranden.
Varför det spelar roll
- Denna ogiltigförklaring belyser de betydande professionella och etiska riskerna för skiljemän och ombud när AI-genererat material används utan tillräcklig mänsklig kontroll.
- Felaktig användning av AI kan undergräva giltigheten och verkställbarheten av skiljedomar, både enligt New York-konventionen och nationell lagstiftning.
- Rapporten indikerar att detta fall ses som en tydlig varning och att det kan komma att finnas fler liknande incidenter när AI används allt oftare i skiljeförfaranden.