Gericht in Québec hebt Schiedsspruch wegen KI-erzeugter, fingierter Begründung auf
Beiträge werden sprachübergreifend gebündelt, in ein festes Format gebracht und mit den Originalquellen verlinkt. Wie wir berichten.
Kurzfassung
- Ein Gericht in Québec hob einen Schiedsspruch auf, weil die zentrale Begründung stark auf von KI erzeugten, nicht existierenden Rechtsquellen beruhte.
- Der Schiedsspruch enthielt apokryphe Lehre, nicht einschlägige Gerichtsverweise und einen erfundenen Schiedsspruch.
- Die Entscheidung warnt vor dem Verzicht auf die eigene Schiedsverantwortung zugunsten von KI, verurteilt KI-Tools jedoch nicht pauschal.
- Der Beitrag wirft Fragen nach Transparenz und Grenzen bei der Nutzung von KI in Schiedsverfahren auf.
Überblick
Ein Gericht in Québec hob einen Schiedsspruch auf, nachdem es festgestellt hatte, dass die Kernbegründung des Spruchs auf fingierten Rechtsquellen gestützt war, die von einem KI-Tool generiert worden waren. Die Entscheidung hat in der Schiedswelt Aufmerksamkeit dafür geschaffen, wo die Grenzen und Risiken bei der Verwendung generativer KI in Entscheidungsprozessen liegen.
Was passiert ist
Der Fall betraf ein Schiedsverfahren, in dem der Schiedsrichter generative KI nutzte, um die rechtliche Begründung für den Schiedsspruch zu erstellen.
Der beanstandete Schiedsspruch enthielt einen Verweis auf apokryphe und nicht nachverfolgbare Lehre, drei zitierte Gerichtsentscheidungen, die nicht mit dem Sachverhalt des Falls zusammenhingen, sowie einen Bezug auf einen nicht existierenden Schiedsspruch.
Im Zuge der Überprüfung stellte das Gericht in Québec fest, dass der Schiedsrichter seine entscheidende wertende Beurteilungsaufgabe an ein KI-Tool delegiert hatte und dass die von der KI erzeugten Verweise den Kern der schiedsrichterlichen Begründung bildeten.
Infolgedessen hob das Gericht den Schiedsspruch auf und richtete eine Warnung an die Schiedsbranche zum unkritischen Einsatz von KI.
Kontext
Die Entscheidung untersagt den Einsatz von KI-Tools durch Schiedsrichter nicht pauschal. Der Beitrag hält fest, dass das Gericht ausdrücklich die Nützlichkeit zuverlässiger KI bei Aufgaben wie dem Zusammenfassen umfangreicher Dokumente oder bei Übersetzungen anerkannt habe, sofern die abschließende Begründung die eigene richterliche bzw. schiedsrichterliche Bewertung widerspiegelt.
In dem im Beitrag zitierten Kommentar werden vier kumulative Kriterien genannt, um eine legitime Nutzung von KI sicherzustellen: Die schiedsrichterliche Entscheidung soll dem Schiedsrichter vorbehalten bleiben, Quellen müssen überprüft werden, Nachvollziehbarkeit und authentische Begründung müssen gewahrt werden, und der KI-Einsatz ist verhältnismäßig zu halten. Bei Nichterfüllung dieser Standards droht die Unwirksamkeit eines Schiedsspruchs.
Einige Aufsichtsstellen und Leitlinien in Spanien und anderswo erlauben KI-generierte Entwürfe, sofern sie einer gründlichen menschlichen Überarbeitung unterzogen werden; andere haben strengere Verbote vorgesehen, wenn KI Einfluss auf sachliche Entscheidungen hat.
Warum es wichtig ist
- Diese Aufhebung macht die erheblichen beruflichen und ethischen Risiken für Schiedsrichter und Rechtsvertreter deutlich, wenn auf KI-generierte Materialien ohne ausreichende menschliche Kontrolle vertraut wird.
- Eine unsachgemäße Nutzung von KI kann die Wirksamkeit und Durchsetzbarkeit von Schiedssprüchen beeinträchtigen - sowohl unter dem New York Convention als auch nach nationalem Recht.
- Der Beitrag legt nahe, dass dieser Fall als eindringliche Warnung verstanden wird und nicht der letzte sein dürfte, wenn KI in Schiedsverfahren weiter breiter eingesetzt wird.