כל נוהל AI מתחיל באותה הוראה, למפות את השימושים ולסווג לפי השפעה, אך מעטים מסבירים איך. מדריך צעד אחר צעד: לבנות את מצאי השימושים (כולל הסמויים), לסווג לפי מבחן שלוש שאלות, ולהתאים בקרה לכל רמה, מהטיוטה הפנימית ועד ההחלטה שמשנה את חיי התושב.
כל נוהל שימוש בבינה מלאכותית ברשות פותח באותה הוראה: "למפות את השימושים ולסווג אותם לפי רמת ההשפעה". אבל ההוראה הזו נשארת לרוב סיסמה, כי אף אחד לא מסביר איך עושים אותה בפועל. בלי מיפוי וסיווג אמיתיים, הנוהל הוא מסמך על מדף, והרשות אינה יודעת היכן באמת הסיכון שלה. מאמר זה הוא מדריך מעשי, צעד אחר צעד, לבניית מצאי שימושי ה-AI ברשות ולסיווגם לפי סיכון.
זו השדרה התפעולית שעליה נשענות כל שאר ההגנות שתיארנו בנוהל שימוש ב-AI ברשות מקומית.
ראשית, רשימה של כל מקום שבו הרשות נעזרת בבינה מלאכותית: צ'אטבוט לתושבים, סימון עבירות, ארנונה, רווחה, רישוי ותכנון, גיוס עובדים, מצלמות, וגם סיוע פנימי בניסוח ובסיכום. חשוב לכלול גם את השימוש הסמוי, עובדים שמשתמשים בכלים ציבוריים על דעת עצמם, שכן מה שלא מופיע במצאי אינו מנוהל. לכל שימוש נרשם מי אחראי עליו, איזה מידע הוא נוגע בו, ומי הספק.
את הסיווג אפשר לפשט לשלוש שאלות על כל שימוש:
- **האם הוא נוגע בתושב?** שימוש פנימי טהור שונה משימוש שפוגש אדם.
- **האם הוא משפיע על החלטה?** כלי שרק מסכם שונה מכלי שקובע תוצאה.
- **כמה הפיך הנזק?** טעות שאפשר לתקן בקלות שונה מטעות שפוגעת בזכות, בכסף או בחירות.
התשובות ממקמות כל שימוש באחת משלוש רמות:
- **נמוכה:** יעילות פנימית בלבד, בלי החלטה שנוגעת בתושב (סיכום מסמך, טיוטה ראשונית).
- **בינונית:** סיוע להחלטה שאדם מקבל, בהשפעה מוגבלת.
- **גבוהה:** השפעה ישירה על זכות, כסף, חירות או שלום התושב (שלילת סיוע, אכיפה, חיוב ארנונה, רווחה, זיהוי פנים).
ככל שהרמה גבוהה יותר, הבקרה הדוקה יותר:
- **נמוכה:** נוהל קל, הנחיה לא להזין מידע אישי לכלים חיצוניים.
- **בינונית:** בקרת אדם על התוצר, תיעוד, והבהרה לתושב.
- **גבוהה:** בקרת אדם עם סמכות לעצור, חוות דעת משפטית לפני הפעלה, בדיקת הטיה, תיעוד מלא, שקיפות ומסלול ערעור. על עקרון הבקרה ראו פיקוח אנושי אפקטיבי על מערכות AI, ועל חובת ההנמקה והשקיפות ראו חובת ההנמקה והשקיפות בהחלטה נתמכת AI.
מצאי הוא לא מסמך חד-פעמי. שימוש חדש נבדק ומסווג לפני שהוא עולה לאוויר, שינוי בשימוש קיים מחייב סיווג מחדש, ולכל שימוש יש אחראי שנדרש לדווח. מצאי שלא מתעדכן הופך תוך חודשים לבדיון.
- **לבנות מצאי מלא:** כולל השימוש הסמוי, עם אחראי ומידע לכל פריט.
- **לסווג במבחן שלוש השאלות:** נגיעה בתושב, השפעה על החלטה, הפיכות הנזק.
- **להתאים בקרה לרמה:** החמורה שבהן לשימושים בעלי ההשפעה הגבוהה.
- **לבדוק לפני עלייה לאוויר:** שימוש חדש אינו מופעל לפני סיווג ובקרה.
- **לעדכן:** המצאי חי, לא ארכיוני.
הנושא יושב בלב תחום ה-AI & Law של המשרד. על מפת השימושים וגבולותיהם ראו את עוגן הסדרה, בינה מלאכותית ברשות מקומית, ועל מה לדרוש מהספק ראו רכש ומכרז AI ברשות מקומית.
ד״ר עו״ד אברהם ללום מלווה רשויות מקומיות בבניית מצאי וסיווג סיכון לשימושי בינה מלאכותית. העמדה שד״ר ללום מיישם קבועה: אי אפשר לנהל סיכון שלא מופה, ולכן המצאי הוא הצעד הראשון, לא ההצהרה על מדיניות.
מאמר זה מתבסס על עקרונות ממשל הסיכונים והמשפט המנהלי, ומתאר מסגרת כללית. אין באמור ייעוץ משפטי, ויישום ברשות מסוימת מחייב בחינה פרטנית מול עורך דין מורשה.
בשלוש שאלות: האם הוא נוגע בתושב, האם הוא משפיע על החלטה, וכמה הפיך הנזק. התשובות ממקמות כל שימוש ברמה נמוכה, בינונית או גבוהה.
כי מה שלא מופיע במצאי אינו מנוהל. עובדים משתמשים בכלים ציבוריים על דעת עצמם, ובלי מיפוי הרשות אינה יודעת היכן הסיכון שלה.
בקרת אדם עם סמכות לעצור, חוות דעת משפטית לפני הפעלה, בדיקת הטיה, תיעוד מלא, שקיפות ומסלול ערעור.
לא. שימוש חדש נבדק ומסווג לפני שהוא עולה לאוויר, ושינוי בשימוש קיים מחייב סיווג מחדש. מצאי שאינו מתעדכן הופך תוך חודשים לבדיון.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה