תושב שקיבל החלטה מרשות מקומית זכאי לדעת מדוע, גם כשההחלטה נסמכה על בינה מלאכותית. מדריך לרשות: חובת ההנמקה בהחלטה נתמכת AI, מה חייבים לגלות במענה לבקשת חופש מידע על האלגוריתם, והיכן נפגש הצורך בשקיפות עם טענת הסוד המסחרי של הספק.
תושב שקיבל החלטה מרשות מקומית, בקשה שנדחתה, קנס שהוטל או זכאות שנשללה, זכאי לדעת מדוע. חובת ההנמקה היא מאבני היסוד של המשפט המנהלי, והיא אינה נעצרת כשבינה מלאכותית סייעה בהחלטה. אלא שכאן מתחיל הקושי האמיתי של הרשות: חלק מההיגיון שמאחורי ההחלטה עשוי לחיות בתוך קופסה שחורה של ספק חיצוני. מאמר זה ממקד בצלע אחת של השימוש בבינה מלאכותית ברשות, המעגל שבין הרשות לתושב: חובת ההנמקה, השקיפות, וזכות העיון בהחלטה נתמכת AI.
רשות ציבורית חבה בהנמקת החלטותיה, מכוח חוק לתיקון סדרי המינהל (החלטות והנמקות), התשי״ט-1958, ומכוח כללי המשפט המנהלי בכלל. הנמקה פירושה נימוקים של הרשות, לא של הכלי. החלטה שכל נימוקה הוא ציון שהפיק מודל אינה החלטה מנומקת, אלא העדר הנמקה שהתחפש למספר. הגורם המוסמך צריך להיות מסוגל להצביע על הנימוקים שלו, ולהראות שבחן את תוצר המכונה ולא רק אימץ אותו.
חובת ההנמקה וחובת הפעלת שיקול הדעת העצמאי הן שני צדדים של אותו מטבע: החלטה מנומקת היא ההוכחה שהרשות הפעילה שיקול דעת ולא האצילה אותו למודל. לכן תיעוד הנימוק האנושי, בנפרד מתוצר המודל, אינו פורמליות אלא ההגנה המעשית מפני טענת אצילת סמכות אסורה.
כשרשות מפעילה בינה מלאכותית, השקיפות נדרשת בשלושה מעגלים, ולכל אחד נמען אחר:
- **כלפי התושב בהחלטה הפרטנית:** חובת ההנמקה. התושב זכאי לנימוקים שמאפשרים לו להבין את ההחלטה ולהשיג עליה.
- **כלפי הציבור:** ראוי שהרשות תגלה שהיא נעזרת בבינה מלאכותית בסוג מסוים של החלטות, ותפרסם את מדיניותה. על הנוהל הכתוב הרחבנו במדיניות שימוש ב-AI ברשות מקומית.
- **כלפי מבקש מידע:** מכוח חוק חופש המידע, התשנ״ח-1998, תושב עשוי לבקש לדעת כיצד התקבלה החלטה שנגעה לו, באיזה כלי נעזרה הרשות, אילו נתונים הוזנו ומה משקלם.
כאן נוצר המתח המעשי. ספקי מערכות נוטים לטעון שאופן הפעולה של המודל הוא סוד מסחרי. חוק חופש המידע אכן מכיר בחריגים, ובהם מידע שגילויו עלול לפגוע בסוד מסחרי, אך החריגים אינם מוחלטים: הם מאוזנים מול עניין הציבור בגילוי, ומול זכותו של התושב להבין החלטה שפגעה בו.
המסקנה המעשית חדה: הרשות אינה יכולה להסתתר מאחורי "הספק לא מגלה לנו". אם הרשות התקשרה בלי להבטיח לעצמה את זכות ההסבר והביקורת, היא זו שתימצא מפרה את חובותיה כלפי התושב וכלפי בית המשפט, לא הספק. לכן השקיפות מתחילה כבר במכרז ובהסכם, לא בשלב התלונה. על מה לדרוש מהספק הרחבנו ברכש ומכרז AI ברשות מקומית.
- **לא מספיק:** "המערכת נתנה ציון סיכון גבוה", או "הכלי המליץ לדחות".
- **כן נדרש:** הנימוקים המהותיים שהגורם המוסמך אימץ, ראיה לכך שאדם מוסמך בדק את תוצר המודל מול המקור, ורישום שמתעד שאדם עמד מאחורי ההחלטה ויכול היה לשנותה.
ככל שההשפעה על התושב גדולה יותר, כך נדרשת בקרה אנושית הדוקה יותר, לפני הפעולה ולא אחריה. על עקרון הפיקוח האנושי האפקטיבי הרחבנו בפיקוח אנושי אפקטיבי על מערכות AI.
- **לתעד את הנימוק האנושי בנפרד:** לעצב את תהליך ההחלטה כך שהנימוק של הגורם המוסמך נרשם לצד תוצר המודל, ולא במקומו.
- **להכין תבנית מענה לבקשת חופש מידע על אלגוריתם:** לדעת מראש מה הרשות מגלה על הכלי, הנתונים והמשקל, וכיצד היא מאזנת מול סוד מסחרי.
- **להבטיח זכות שקיפות מהספק:** לעגן בהסכם זכות הסבר, ביקורת ושיתוף פעולה בבירור משפטי.
- **לרשום את הבדיקה האנושית:** בהחלטות בעלות השפעה גבוהה, לתעד שאדם מוסמך אימת את התוצר.
- **לעגן בנוהל כתוב:** לחבר הכל למדיניות שימוש כתובה, כך שהשקיפות אינה תלויה בפקיד בודד.
הנושא יושב בלב תחום ה-AI & Law של המשרד, ונפגש גם עם הנדל״ן: רבות מההחלטות הנתמכות AI ברשות הן החלטות רישוי ותכנון, שם שיקול הדעת הסטטוטורי שייך לוועדה ואינו ניתן להאצלה, כפי שהרחבנו בשיקול הדעת ברישוי ובתכנון.
ד״ר עו״ד אברהם ללום מלווה רשויות מקומיות ותאגידים עירוניים בבניית ממשל בינה מלאכותית שעומד בחובות המשפט המנהלי. העמדה שד״ר ללום מיישם קבועה: החלטה שהרשות אינה יכולה להסביר ולתעד אינה מוכנה לצאת אל התושב, גם אם המכונה בטוחה בה.
מאמר זה מתבסס על עקרונות המשפט המנהלי הישראלי ועל חוקי ההנמקה וחופש המידע, ומתאר את המסגרת הכללית. אין באמור ייעוץ משפטי, ויישום ברשות מסוימת מחייב בחינה פרטנית מול עורך דין מורשה.
כן. ההנמקה חייבת להיות של הרשות, לא של הכלי. החלטה שכל נימוקה הוא ציון שהפיק מודל אינה החלטה מנומקת.
מכוח חוק חופש המידע הוא עשוי לבקש לדעת כיצד התקבלה ההחלטה, באיזה כלי נעזרה הרשות, אילו נתונים הוזנו ומה משקלם.
לא. אם לא הבטיחה לעצמה זכות הסבר וביקורת, היא זו שתימצא מפרה את חובותיה. השקיפות מתחילה כבר במכרז.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה