נוהל שימוש בבינה מלאכותית ברשות מקומית אינו יכול להיות העתק של נוהל ארגוני פרטי: רשות היא גוף מנהלי עם חובות הגינות, שוויון, הנמקה ואיסור אצילת סמכות. מדריך למה שחייב להיות בנוהל, למיפוי לפי מידת ההשפעה, לרכש מול ספק, ולפרטיות מידע תושבים.
רשות מקומית שמכניסה בינה מלאכותית לעבודתה זקוקה לנוהל שימוש כתוב, בדיוק כמו כל ארגון. אלא שנוהל של רשות אינו יכול להיות העתק של נוהל ארגוני פרטי, משום שרשות מקומית היא רשות מנהלית, וחלות עליה חובות שאינן חלות על חברה: הגינות מנהלית מוגברת, שוויון במתן שירות ציבורי, חובת הנמקה, חופש מידע, ואיסור על אצילת סמכות סטטוטורית.
נוהל שמתעלם מהשכבה הזו נותן ביטחון מדומה. מאמר זה מפרט מה חייב להיות בנוהל שימוש ב-AI ברשות מקומית, ובמה הוא נבדל מנוהל ארגוני רגיל.
נוהל שימוש ארגוני טוב מגדיר אילו כלים מאושרים, אילו סוגי מידע אסור להזין, מתי תוצר מחייב אימות אנושי, ומי אחראי. כל אלה נחוצים גם ברשות, אך הם רק הבסיס. רשות ציבורית נושאת בחובות שחברה פרטית אינה כפופה להן: חובת ההגינות המנהלית, מוגברת כשמדובר ברשות, האיסור על אפליה במתן שירות לתושבים, חובת ההנמקה של החלטות, זכות התושב לדעת כיצד התקבלה החלטה שנגעה לו מכוח חופש המידע, והכלל שאסור להאציל שיקול דעת סטטוטורי למכונה.
נוהל שלא כתב את השכבה המנהלית הזו משאיר את הרשות חשופה דווקא בנקודות שבהן בית המשפט בוחן אותה.
הנוהל צריך לפתוח במיפוי, כי לא כל שימוש נושא אותו סיכון. מענה אוטומטי לתושב, סימון לאכיפה, מיון בקשות רישוי ותכנון, וסיוע בהכנת החלטה פנימית נמצאים על רצף של השפעה הולכת וגוברת, וכבר פורטו בנפרד במדריכים של המשרד לשירות לתושב, לאכיפה אלגוריתמית ולרישוי ותכנון. העיקרון המנחה אחד: ככל שההשפעה על זכויות התושב גדולה יותר, כך הבקרה האנושית הנדרשת לפני הפעולה הדוקה יותר, והקו בין סיוע מותר להכרעה אסורה חד יותר.
מיפוי כזה הופך את הנוהל ממסמך כללי לכלי שמצמיד לכל שימוש את רמת הבקרה שמתאימה לו.
מעבר למיפוי, נוהל שעומד בביקורת כולל: תיחום מפורש של השימושים המותרים והאסורים לכל סוג החלטה; דרישת בקרה אנושית עם סמכות אמיתית לעצור ולשנות, לא חותמת; הפרדה מפורשת בין סיוע לעיבוד מידע לבין הכרעה, עם איסור להעביר שיקול דעת סטטוטורי למודל; דרישה שכל החלטה תהיה ניתנת להנמקה בשפה שאדם מבין, בלי להפנות למכונה; בדיקת הטיה ואכיפה בררנית; הגנה על פרטיות ומידע התושבים; תיעוד ושמירת מסלול ביקורת; והגדרה ברורה מי בעל האחריות לכל שימוש.
נוהל בלי האחריות המוגדרת הזו מתפזר ברגע האמת.
רוב הרשויות אינן מפתחות את המערכת בעצמן אלא רוכשות אותה, והאחריות המשפטית כלפי התושב וכלפי בית המשפט נשארת על הרשות גם אז. לכן הנוהל צריך לחייב שהמכרז וההסכם מול הספק יכללו זכות ביקורת של הרשות, שקיפות לגבי אופן הפעולה והמגבלות של הכלי, הסדר לשיתוף פעולה בבירור משפטי, והבטחות לגבי מיקום המידע ואי שימוש בו לאימון.
תנאי שלא נדרש במכרז קשה מאוד להשיג אחריו בדיעבד, ולכן מקומו בנוהל, לפני הפרסום.
מערכת בינה מלאכותית ברשות נוגעת כמעט תמיד במידע על תושבים, ולכן הנוהל כפוף לדיני הגנת הפרטיות: בסיס חוקי לעיבוד, צמצום המידע לנדרש בלבד, שקיפות לגבי השימוש, ואבטחה. הזנת מידע אישי של תושבים לכלי חיצוני בלי בסיס ובלי בקרה היא חשיפה כפולה, מול התושב ומול הרגולטור. הנוהל צריך לקבוע אילו סוגי מידע מותר להזין לאיזה כלי, ומתי נדרשת אנונימיזציה או הסכמה.
בעע״מ 63194-08-25 (רשומה מאומתת במאגר הפסיקה של האתר) נמתחה ביקורת על רשות מקומית שהסתמכה על בינה מלאכותית מול אזרח בלי לוודא את נכונות התוצר. הוטלו הוצאות מוגברות, ונקבע כי החובה שהופרה אינה עצם השימוש בכלי אלא השימוש בו ללא בקרה שמאמתת את התוצר, מתוך חובת הגינות דיונית מוגברת החלה על רשות ציבורית. בהערות אגב הוסיף בית המשפט שהעברת ההכרעה עצמה לכלי, בלי הפעלת שיקול דעת אנושי, עלולה לעלות כדי אצילת סמכות אסורה.
הלקח לנוהל ישיר: נוהל שאינו מחייב אימות אנושי של כל תוצר שיוצא לתושב אינו ממלא את החובה שבית המשפט עמד עליה.
נוהל שימוש ב-AI ברשות מקומית אינו מסמך טכני אלא מסמך משפטי: הוא המקום שבו הרשות מתרגמת את חובותיה המנהליות לכללי עבודה יומיומיים. כדאי לבנותו סביב מיפוי השימושים, להצמיד לכל שימוש את רמת הבקרה שלו, לעגן את הדרישות המנהליות (הנמקה, שוויון, איסור אצילת סמכות, הליך הוגן), ולקבל בדיקה משפטית עצמאית לשימושים בעלי ההשפעה הגבוהה לפני ההפעלה.
המשרד, בהובלת ד״ר עו״ד אברהם ללום, מלווה רשויות מקומיות ותאגידים עירוניים בכתיבת נוהל כזה ובהטמעתו. העיקרון שד״ר ללום חוזר אליו קבוע: נוהל טוב אינו זה שמתיר הכי הרבה, אלא זה שמבהיר מה הרשות עדיין חייבת להסביר בעצמה.
הערה: אין באמור ייעוץ משפטי או תחליף לו. כתיבת נוהל לרשות מסוימת מחייבת בחינה פרטנית של השימושים, של הדין המנהלי החל, של דיני הגנת הפרטיות ושל הנחיות הרגולטור, מול עורך דין מורשה.
מאמר זה הוא חלק מסדרת המדריכים של LALUM לבינה מלאכותית ברשות המקומית. לתמונה המלאה ראו את סקירת ארבעת השימושים וגבול החוקיות.
כי רשות היא רשות מנהלית, וחלות עליה חובות שאינן חלות על חברה: הגינות מוגברת, שוויון בשירות, הנמקה, חופש מידע, ואיסור אצילת סמכות סטטוטורית.
אילו כלים מאושרים, אילו סוגי מידע אסור להזין, מתי תוצר מחייב אימות אנושי, ומי אחראי.
את שכבת המשפט המנהלי: בקרת אדם בהחלטות על תושב, הנמקה, שוויון, ואיסור האצלת שיקול דעת סטטוטורי.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה