עע"מ 63194-08-25

תקציר

להלן ניתוח משפטי מקיף של פסק הדין, תוך התמקדות בעקרונות משפטיים ובחידושים העולים ממנו: **רקע ועיקר המחלוקת:** פסק הדין עוסק בערעור שהוגש לבית המשפט העליון על החלטת בית המשפט המחוזי שלא לפסוק הוצאות למערער (נבו בן כהן) כנגד עיריית רמת גן (המשיבה). המחלוקת נסובה סביב זכאותו של הקטין, הלומד בחינוך מיוחד, להסעות למוסד החינוכי מבית אביו, זאת במסגרת הסדרי הורות משותפת. ההחלטה המקורית של העירייה לדחות את בקשת ההסעה התבססה, לטענתה, על חוזר מנכ"ל משרד החינוך ועל פסיקה עדכנית. המערער טען, באמצעות אביו, כי ההחלטה שגויה, ובהמשך, כי החוזרים והפסיקה עליהם התבססה העירייה אינם קיימים, וכי מדובר בשימוש פסול ו"מופרך" בבינה מלאכותית. **היבטים משפטיים ועקרונות מרכזיים:** 1. **שימוש בבינה מלאכותית על ידי רשויות מינהליות:** זהו הנושא המרכזי והחדשני בפסק הדין. בית המשפט העליון, ובפרט המשנה לנשיא סולברג, מתייחסים באופן מעמיק לשימוש בלתי מבוקר בבינה מלאכותית, הן במסגרת ההליך המשפטי והן ביחסים הישירים שבין הרשות לאזרח. * **הזיות AI (AI Hallucinations):** בית המשפט מדגיש כי "הזיות" של מערכות בינה מלאכותית, הכוללות הפניות לאסמכתאות שאינן קיימות או קביעות מומצאות, מהוות בעיה חמורה. * **חובת בקרה ופיקוח:** נקבע כי אין להסתפק בשימוש במערכות בינה מלאכותית, אלא יש להפעיל בקרה אנושית יעילה, לבחון ולאמת את תוצרי המערכת לפני קבלת החלטה. זוהי דרישה מחמירה יותר מ"human in the loop" פורמלי. * **הבחנה בין הליך משפטי ליחסים ישירים עם האזרח:** בית המשפט מבחין בין מקרים בהם שימוש פסול ב-AI נעשה במסגרת הליך משפטי (שם עורך דין ובית המשפט יכולים לזהות טעויות), לבין מקרים בהם הרשות משתמשת ב-AI ביחסיה הישירים עם האזרח (שם פערי הכוח גדולים יותר והסיכוי לזיהוי טעויות קטן יותר). * **השלכות משפטיות:** שימוש בלתי מבוקר ב-AI עלול להביא לפסילת החלטות מינהליות, שכן הן עלולות להיות שרירותיות, חסרות הנמקה, ומהוות הפרה של חובת ההגינות המוגברת המוטלת על רשויות המינהל. 2. **חובת ההגינות המוגברת של רשויות מינהליות:** בית המשפט מדגיש כי רשויות מינהליות חבות בחובת הגינות מוגברת, הנובעת מפערי הכוח הדרמטיים בינן לבין האזרח. שימוש בלתי מבוקר ב-AI מחמיר פגם זה, שכן הוא עלול להטעות את האזרח ולנצל את חוסר הידע שלו. 3. **שרירותיות ואובדן שיקול דעת:** שימוש ב"הזיות" של AI, כפי שקרה במקרה זה (הסתמכות על חוזר מנכ"ל שאינו קיים), עולה כדי התפרקות משיקול דעת, ועלול להביא לפסילת ההחלטה מכוח עילת השרירות. ההחלטה שלא לצרף את האם להליך, למשל, מהווה דוגמה לכך. 4. **חובת ההנמקה:** החלטה המבוססת על "הזיות" של AI קשה מאוד לראותה כעומדת בחובת ההנמקה, שהיא יסוד מרכזי במשפט המינהלי. 5. **פסיקת הוצאות והרתעה:** * **החלטת המחוזי:** בית המשפט המחוזי דחה את בקשת ההוצאות, בין היתר בהתחשב בכך שהושג פתרון לפנים משורת הדין. * **החלטת העליון:** בית המשפט העליון מקבל את הערעור ומחייב את העירייה בתשלום הוצאות משפט גבוהות (30,000 ₪). זאת, לאור חומרת השימוש הבלתי מבוקר בבינה מלאכותית, ההתנהלות החוזרת ונשנית של העירייה (גם לאחר שהתגלו הכשלים), והצורך להציב "תמרור אזהרה" ולהרתיע רשויות מינהליות מפני התנהלות דומה בעתיד. * **הרתעת חסר:** בית המשפט מציין את החשש מפני "הרתעת חסר" כאשר רשויות מינהליות יודעות שההחלטות שלהן לא יעמדו בפני בקרה שיפוטית קפדנית. * **השלכות על עורכי דין:** בית המשפט מדגיש את האחריות האישית של עורך הדין החתום על כתבי הטענות, ודוחה את הטענה כי האחריות לתקלות נבעה מהסתייעות במתמחים או במערכות AI. 6. **התפתחות טכנולוגית ומשפט:** בית המשפט מכיר בכך שהמשפט מדדה בעצלתיים אחר חידושי הטכנולוגיה, ובפרט בתחום הבינה המלאכותית. הוא קורא לרשויות המחוקקת והמבצעת להידרש באופן דחוף לאתגרים המשפטיים והרגולטוריים העולים משימוש ב-AI. **חידושים משפטיים:** * **הכרה ברורה בחומרת "הזיות AI" כפגם מהותי בהחלטות מינהליות:** פסק הדין מציב גבול ברור וקובע כי שימוש לא מבוקר ב-AI, המוביל להמצאת אסמכתאות והנמקות, אינו מקובל ועלול להוביל לפסילת החלטות. * **החלת עקרונות המשפט המינהלי (שרירות, הנמקה, הגינות) על החלטות שהתבססו על AI:** פסק הדין מבהיר כיצד עקרונות אלה רלוונטיים וכיצד שימוש שגוי ב-AI מפר אותם. * **קביעת הצורך בבקרה אנושית יעילה (ולא פורמלית) על מערכות AI:** מעבר ל"human in the loop", נדרשת מעורבות משמעותית יותר, הכוללת הבנה של מגבלות ה-AI, יכולת לדחות המלצותיו, וניטור מתמיד. * **הדגשת פערי הכוח בין הרשות לאזרח בהקשר של AI:** בית המשפט מנתח לעומק כיצד שימוש לא מבוקר ב-AI מחמיר את פערי הכוח ומגביר את הפגיעה באזרח. * **קביעת עקרונות ראשוניים בנוגע לחובות רגולטוריות (הצעות עתידיות):** בית המשפט מעלה לדיון את הצורך בחובת גילוי בדבר שימוש ב-AI, ואת הצורך להבטיח שהטכנולוגיה תתיישב עם כללי המשפט המינהלי. * **קביעת תקדים לפסיקת הוצאות גבוהות במקרים של שימוש פסול וחמור ב-AI:** הדבר מהווה מסר מרתיע ברור לרשויות המינהליות. **הערות נוספות:** * **הסכמה לפשרה:** בית המשפט מציין כי למרות חומרת התנהלות העירייה, הסכסוך לגופו כבר בא על פתרונו באמצעות הסכמה (שניתנה לפנים משורת הדין). זהו שיקול שהיה עשוי להוביל לדחיית בקשת ההוצאות, אך חומרת השימוש ב-AI גברה על כך. * **תקנה 138(א)(5) לתקנות סדר הדין האזרחי:** בית המשפט משתמש בסמכותו לקבל את הערעור על יסוד הכתובים, דבר המעיד על ברורות הממצאים העובדתיים והמשפטיים. לסיכום, פסק הדין מהווה אבן דרך משמעותית בהתמודדות המשפט הישראלי עם השלכות השימוש בבינה מלאכותית, ובפרט מצד רשויות המינהל. הוא מציב עקרונות ברורים, מזהיר מפני סכנות, ומבהיר כי שימוש בלתי מבוקר בטכנולוגיה זו אינו עולה בקנה אחד עם עקרונות המשפט המינהלי, ויחייב תגובה שיפוטית קשה.