מערכת שטועה בהחלטה אחת היא תקלה, מערכת שטועה באלפי החלטות בבת אחת היא אירוע. מדריך תגובה לרשות: לעצור, למפות את ההיקף, לתקן יזומה את ההחלטות שנפגעו, להודיע לנפגעים, ולשמר תיעוד. העיקרון המרכזי: השעון מתחיל ברגע הגילוי, לא ברגע שתושב מתלונן.
מערכת שטועה בהחלטה אחת היא תקלה שמטפלים בה במסלול הערעור הרגיל. מערכת שטועה באלפי החלטות בבת אחת, סיווג שגוי שהוחל על רחוב שלם, הטיה שנפלה על קבוצה, או דליפת מידע דרך הספק, היא אירוע. אירוע כזה דורש תגובה מסודרת ומהירה, לא טיפול פרטני בכל תלונה. מאמר זה הוא מדריך לניהול אירוע AI ברשות, והוא נשען על עיקרון אחד: חובת ההגינות מחייבת את הרשות לפעול מרגע שגילתה את הטעות, לא מרגע שתושב התלונן.
זו הנקודה הקריטית. כשהרשות יודעת שהחלטות שגויות יצאו, היא אינה רשאית להמתין שכל נפגע יגלה בעצמו ויערער. חובת ההגינות המנהלית מחייבת אותה לתקן יזומה את מה שידוע לה כשגוי. שתיקה והשהיה אינן ניטרליות, הן מעמיקות את הפגיעה ואת החשיפה, כפי שהרחבנו באחריות הרשות לנזק מהחלטת AI שגויה.
- **לעצור:** להשהות את המערכת כדי למנוע נזק נוסף. ליכולת הזו, סמכות אדם לעצור, יש ערך דווקא ברגע הזה. על כך ראו פיקוח אנושי אפקטיבי על מערכות AI.
- **למפות היקף:** מי נפגע, כמה, אילו החלטות, ומה הנזק.
- **לתקן יזומה:** להפוך או לקבל מחדש את ההחלטות שנפגעו, בלי להמתין לערעור של כל אחד.
- **להודיע לנפגעים:** וכשמעורב מידע אישי, לקיים גם את חובת ההודעה על אירוע אבטחת מידע.
- **לשמר תיעוד:** לשמור את הלוגים ואת רצף האירועים, לצורך הבירור ולצורך ההגנה המשפטית.
- **לדווח פנימית:** להנהלה ולדרג האחראי, ולרגולטור היכן שנדרש.
- **לברר שורש ולתקן לפני חידוש:** לא להחזיר את המערכת לפעולה לפני שהסיבה טופלה, ולהעמיד את הספק באחריותו.
בלי לוגים שמראים מה קרה, מתי התגלה ומה נעשה, הרשות מתקשה להראות שפעלה בסבירות, וקשה לה לברר את ההיקף. התיעוד שנשמר שגרתית הוא שמאפשר תגובה מהירה בשעת אירוע, ולכן הוא חלק מההיערכות, לא ממנה והלאה.
אירוע מנוהל טוב הוא כזה שנערכו אליו מראש: נוהל תגובה כתוב, יכולת עצירה, לוגים, וסעיף בהסכם שמחייב את הספק לשתף פעולה בבירור. על סעיפי הספק ראו הסכם עיבוד ושיתוף נתונים עם ספק AI, ועל הודעה והגנת מידע ראו הגנת פרטיות ומידע תושבים.
- **להכין נוהל תגובה מראש:** מי מחליט לעצור, מי ממפה, מי מודיע.
- **לפעול מרגע הגילוי:** לתקן יזומה, לא להמתין לתלונות.
- **לתעד הכול:** לוג מלא של האירוע והטיפול.
- **להודיע ולדווח:** לנפגעים, להנהלה, ולרגולטור היכן שחובה.
- **לא לחדש לפני תיקון שורש:** כולל העמדת הספק באחריותו.
הנושא יושב בלב תחום ה-AI & Law של המשרד. על מפת השימושים ברשות ראו את עוגן הסדרה, בינה מלאכותית ברשות מקומית.
ד״ר עו״ד אברהם ללום מלווה רשויות מקומיות בהיערכות ובניהול של אירועי כשל במערכות בינה מלאכותית. העמדה שד״ר ללום מיישם קבועה: ברגע שהרשות יודעת שההחלטה שגויה, חובת התיקון שלה מתחילה, והיא אינה תלויה בשאלה אם התושב כבר הבחין.
מאמר זה מתבסס על עקרונות המשפט המנהלי ודיני הגנת המידע בישראל, ומתאר מסגרת כללית. אין באמור ייעוץ משפטי, ויישום ברשות מסוימת מחייב בחינה פרטנית מול עורך דין מורשה.
מרגע שהרשות גילתה את הטעות, לא מרגע שתושב התלונן. חובת ההגינות המנהלית מחייבת תיקון יזום.
לעצור את המערכת כדי למנוע נזק נוסף, ואז למפות את היקף הפגיעה: מי נפגע, כמה, אילו החלטות ומה הנזק.
לא. הרשות צריכה לתקן יזומה את ההחלטות שנפגעו ולהודיע לנפגעים, וכשמעורב מידע אישי גם לקיים חובת הודעה על אירוע אבטחה.
היערכות מראש: נוהל תגובה כתוב, יכולת עצירה, לוגים, וסעיף בהסכם שמחייב את הספק לשתף פעולה בבירור.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה