ביטול החלטה מנהלית שגויה אינו מפצה על הנזק שכבר נגרם. כשהחלטה נתמכת בינה מלאכותית פוגעת בתושב, הרשות עלולה לחוב גם בנזיקין. מדריך: ההבדל בין המסלול המנהלי למסלול הפיצוי, מתי הסתמכות על מודל בלי בקרה היא רשלנות, ומדוע אשמת הספק אינה מגינה על הרשות כלפי התושב.
כשתושב תוקף החלטה מנהלית שגויה, התרופה הרגילה היא ביטול ההחלטה. אך ביטול אינו מחזיר את מה שאבד: עסק שנסגר בגלל שלילת רישיון שגויה, הכנסה שלא התקבלה, או נזק שנגרם בזמן שההחלטה עמדה בתוקף. כאן נפתח מסלול שני, שונה מהתקיפה המנהלית: אחריות הרשות בנזיקין. כשההחלטה נתמכה בבינה מלאכותית, המסלול הזה מקבל גוון חדש.
מאמר זה מסביר את ההבדל בין שני המסלולים, מתי הסתמכות על מודל עולה כדי רשלנות, ומדוע אשמת הספק אינה מגינה על הרשות כלפי התושב.
חשוב להבחין בין שתי דרכים נפרדות:
- **המסלול המנהלי:** תקיפה של ההחלטה, כדי לבטלה או להחזירה לדיון. הוא מתקן את ההחלטה, לא בהכרח את הנזק.
- **המסלול הנזיקי:** תביעת פיצוי על נזק שנגרם בפועל. הוא אינו שואל רק אם ההחלטה הייתה שגויה, אלא אם הרשות התרשלה, ואם מהתרשלות נגרם נזק.
החלטה יכולה להתבטל בלי שתקום אחריות לפיצוי, ולהפך. שני המסלולים חיים זה לצד זה.
עוולת הרשלנות בוחנת אם הרשות נהגה כרשות סבירה. רשות שמפעילה כלי בינה מלאכותית חבה חובת זהירות כלפי מי שההחלטה נוגעת בו, והשאלה אינה אם הכלי טעה, אלא אם הרשות נקטה את האמצעים שגוף סביר היה נוקט. הסתמכות עיוורת על פלט מודל, בלי אימות מול המקור, בלי בקרת אדם מוסמך ובלי נוהל, היא בדיוק סוג ההתנהגות שעלול להיחשב התרשלות.
ככל שההשפעה הצפויה על התושב גדולה יותר, כך רף הזהירות הנדרש גבוה יותר. על בקרת האדם הנדרשת הרחבנו בפיקוח אנושי אפקטיבי על מערכות AI.
בנזיקין צריך לקשור בין ההתרשלות לנזק. כשההחלטה יצאה מתוך מודל שקשה להסביר, דווקא היעדר התיעוד פוגע ברשות: אם אין רישום שאדם מוסמך בדק ואישר, קשה לרשות להראות שפעלה בזהירות. לכן התיעוד אינו רק חובת שקיפות כלפי התושב אלא הגנה ראייתית של הרשות עצמה. על חובת ההנמקה והרישום הרחבנו בחובת ההנמקה והשקיפות בהחלטה נתמכת AI.
כשהמערכת הגיעה מספק חיצוני, הרשות אחראית כלפי התושב גם אם מקור הטעות אצל הספק. האחריות החיצונית נשארת על הרשות, ולה עשויה לקום זכות שיפוי מהספק על בסיס ההסכם ביניהם. זו בדיוק הסיבה שההתקשרות צריכה לכלול מראש הסדרי שיפוי ואחריות, ולא להשאיר את הרשות חשופה לבדה. על מה לדרוש בחוזה ובמכרז הרחבנו ברכש ומכרז AI ברשות מקומית.
- **לתעד בקרה אנושית:** רישום שאדם מוסמך בדק ואישר כל החלטה בעלת השפעה, כהגנה ראייתית.
- **לדרג לפי סיכון:** ככל שהנזק הצפוי גדול יותר, כך בקרה הדוקה יותר לפני הפעולה.
- **לעגן שיפוי מהספק:** להבטיח בהסכם זכות חזרה אל הספק ואחריות ברורה לפגמים.
- **להסדיר ביטוח וטיפול באירוע:** לכלול את השימוש בבינה מלאכותית בכיסוי הביטוחי ובנוהל טיפול בתקלה.
- **לקבל בדיקה משפטית לשימושים רגישים:** לפני הפעלה בתחומים שבהם טעות גורמת נזק ממשי.
הנושא יושב בלב תחום ה-AI & Law של המשרד, ונפגש גם עם הנדל״ן: שלילת רישיון עסק או החלטת תכנון שגויה הן מהמקרים שבהם נזק כספי ממשי נגרם לתושב, והחשיפה הנזיקית מצטרפת לתקיפה המנהלית. על מפת השימושים ראו את עוגן הסדרה, בינה מלאכותית ברשות מקומית.
ד״ר עו״ד אברהם ללום מלווה רשויות מקומיות ותאגידים עירוניים בניהול החשיפה הנזיקית שבשימוש בבינה מלאכותית. העמדה שד״ר ללום מיישם קבועה: רשות שאינה יכולה להראות שאדם מוסמך בדק ואישר, מתקשה להראות שפעלה בזהירות, ולכן התיעוד הוא גם חובה וגם הגנה.
מאמר זה מתבסס על עקרונות דיני הנזיקין והמשפט המנהלי הישראלי, ובהם עוולת הרשלנות וחובת הזהירות של רשות ציבורית, ומתאר את המסגרת הכללית. אין באמור ייעוץ משפטי, ויישום ברשות מסוימת מחייב בחינה פרטנית מול עורך דין מורשה.
ביטול מתקן את ההחלטה, לא בהכרח את הנזק. תביעת פיצוי שואלת אם הרשות התרשלה ואם מההתרשלות נגרם נזק.
כשהרשות הסתמכה על פלט בלי אימות מול המקור, בלי בקרת אדם ובלי נוהל. ככל שההשפעה הצפויה גדולה יותר, רף הזהירות גבוה יותר.
לא כלפי התושב. האחריות נשארת על הרשות, ולה עשויה לקום זכות שיפוי מהספק לפי ההסכם.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה