בית המשפט בקוויבק מבטל פסק בוררות על בסיס נימוקים מומצאים שנוצרו בעזרת AI
הכתבות מקובצות בין שפות, מנוסחות מחדש במבנה עריכתי קבוע ומקושרות למקורות המקוריים. איך אנחנו מדווחים.
בתמצית
- בית דין בקוויבק ביטל פסק בוררות שהסתמך במידה רבה על מקורות משפטיים שנוצרו באמצעות AI ולא היו קיימים.
- הפסק כלל דוקטרינה אפוקריפית, הפניות משפטיות שאינן קשורות, ופסיקה בוררותית פיקטיבית.
- החלטת בית המשפט מדגישה את הסיכון שבוויתור על אחריות הבורר ל-AI, מבלי לגנות את כלי ה-AI עצמם באופן גורף.
- הדיווח מעלה שאלות על שקיפות ועל גבולות השימוש ב-AI בהליכי בוררות.
סקירה
בית משפט בקוויבק ביטל פסק בוררות לאחר שקבע כי נימוקי הליבה של הפסק נשענו על מקורות משפטיים מומצאים שנוצרו על ידי כלי בינה מלאכותית. ההחלטה משכה תשומת לב בקהילת הבוררות בנוגע לגבולות ולסיכונים של שימוש ב-AI גנרטיבי בתהליכי קבלת החלטות.
מה קרה
העניין נסב על בוררות שבה הבורר השתמש ב-AI גנרטיבי כדי לייצר את הנימוקים המשפטיים לפסק.
הפסק הבעייתי כלל ציטוט לדוקטרינה אפוקריפית ובלתי ניתנת לאיתור, שלוש החלטות שיפוטיות שצוטטו אך לא היו קשורות לעובדות המקרה, והתייחסות לפסק בוררות שאינו קיים.
בבחינה מעמיקה קבע בית המשפט בקוויבק כי הבורר הסמיך כלי AI את תפקיד ההערכה הקריטי שלו, וכי ההפניות שהופקו על ידי ה-AI היוו את ליבת הנימוקים הבוררותיים.
כתוצאה מכך בית המשפט ביטל את הפסק, תוך מתן אזהרה לתחום הבוררות בדבר שימוש לא ביקורתי ב-AI.
רקע
ההחלטה אינה אוסרת באופן קטגורי על שימוש בכלי AI מצד בוררים. הדיווח מציין כי בית המשפט הכיר במפורש בתועלת של AI אמין למשימות כמו סיכום מסמכים בהיקף גדול או תרגומים, בתנאי שהנימוק הסופי משקף את שיקול הדעת של הבורר עצמו.
הערה שצוטטה בדיווח מפרטת ארבעה תנאים מצטברים כדי להבטיח שימוש לגיטימי ב-AI: הבטחת החלטת הבוררות אצל הבורר, אימות מקורות, שמירה על יכולת עקיבות ונימוק אותנטי, ומידתיות בהסתמכות על כלי ה-AI. אי-עמידה בסטנדרטים אלה עלולה להביא לפסילת פסק.
חלק מגופי רגולציה והנחיות בספרד ובמקומות אחרים מאפשרים טיוטות שנוצרו ב-AI, אם הן נתונות לעריכה אנושית מקיפה, בעוד שאחרים קבעו איסורים מחמירים יותר על השפעת AI בהחלטות מהותיות.
מדוע זה חשוב
- ביטול זה מדגיש את הסיכונים המקצועיים והאתיים המשמעותיים לבוררים ולעורכי דין כאשר מסתמכים על חומרים שנוצרו ב-AI ללא פיקוח אנושי הולם.
- שימוש בלתי תקין ב-AI עלול לערער את תוקפן ואכיפתן של החלטות בוררות, הן לפי אמנת ניו יורק והן לפי דינים לאומיים.
- הדיווח מצביע על כך שלפי תפיסת המקרה מדובר באזהרה חזקה, וייתכן שזה לא האירוע האחרון מסוג זה ככל ש-AI ייעשה שימוש נרחב יותר בתהליכי בוררות.