הסיכון הגדול ב-AI ברשות אינו תמיד המערכת המאושרת, אלא העובד שמדביק תיק תושב לכלי ציבורי חינמי על דעת עצמו. מדריך: למה שימוש סמוי עוקף את כל ההגנות, מדוע איסור בלי חלופה רק מסתיר את הבעיה, ואיך רשות מחזירה את השליטה דרך נוהל, כלי מאושר, הדרכה וגילוי.
כשחושבים על סיכוני בינה מלאכותית ברשות, מדמיינים מערכת גדולה שהרשות רכשה והטמיעה. אבל לעיתים קרובות הסיכון החמור ביותר שקט בהרבה: עובד שמדביק תיק של תושב לכלי ציבורי חינמי, כדי לנסח מכתב או לסכם מסמך, על דעת עצמו ובלי שאיש יודע. זה נקרא Shadow AI, שימוש סמוי שלא עבר אישור ואינו מנוהל. מאמר זה מסביר למה הוא מסוכן במיוחד ברשות, ואיך מחזירים את השליטה בלי לדחוק אותו עמוק יותר למחתרת.
כל ההגנות שרשות בונה סביב בינה מלאכותית, הסכם עם הספק, איסור אימון על הנתונים, בקרת אדם, תיעוד, מניחות שהשימוש עובר דרך מערכת מאושרת. שימוש סמוי עוקף את כולן בבת אחת:
- **אין חוזה:** מידע תושבים שהודבק לכלי ציבורי אינו מוגן בשום סעיף, והכלי עשוי לשמור אותו או להתאמן עליו. סעיף איסור האימון שתיארנו בהסכם עיבוד ושיתוף נתונים עם ספק AI פשוט לא קיים כאן.
- **אין בקרה ואין תיעוד:** התוצר משמש בלי אימות ובלי רישום, וכל עקרונות הפיקוח נעקפים.
- **הפרה של הרשות:** האחריות על מידע התושבים היא של הרשות, גם כשעובד בודד הוא שהדליף אותו. על חובות הגנת המידע ראו הגנת פרטיות ומידע תושבים.
שימוש סמוי אינו זדון לרוב, אלא יעילות. הכלים חינמיים, מהירים ומועילים, העובד רוצה לחסוך זמן, ואין לו נוהל ברור או חלופה מאושרת שתעשה את אותה עבודה. ככל שהרשות משאירה ואקום, העובדים ממלאים אותו בכלים שלהם.
הפיתוי הוא לאסור. אבל איסור גורף בלי חלופה אינו מבטל את הצורך, הוא רק דוחק את השימוש עמוק יותר למחתרת, היכן שאי אפשר לראות אותו. נוהל חכם עושה את ההפך: מגדיר בבירור מה מותר ומה אסור, ובעיקר מעמיד כלי מאושר ובטוח שעושה את העבודה, כך שלעובד אין סיבה לפנות לכלי הסמוי. על הנוהל הכתוב ראו נוהל שימוש ב-AI ברשות מקומית.
- **נוהל ברור:** מה מותר, ומעל הכול, איסור חד להזין מידע אישי של תושבים לכלים ציבוריים.
- **חלופה מאושרת:** כלי בטוח ומכוסה בהסכם, שמייתר את הצורך בכלי הסמוי.
- **הדרכה:** עובדים רבים אינם יודעים שהדבקת תיק לכלי ציבורי היא דליפת מידע. הסבר משנה התנהגות.
- **גילוי:** למפות היכן השימוש הסמוי מתרחש, כחלק מהמצאי. על בניית המצאי ראו מדריך מיפוי וסיווג שימושי ה-AI ברשות.
- **להקל על הדרך הנכונה:** כשהאפשרות המאושרת היא גם הנוחה, השימוש הסמוי מתייתר.
הנושא יושב בלב תחום ה-AI & Law של המשרד. על מפת השימושים ברשות ראו את עוגן הסדרה, בינה מלאכותית ברשות מקומית.
ד״ר עו״ד אברהם ללום מלווה רשויות מקומיות בזיהוי ובטיפול בשימוש סמוי בבינה מלאכותית בקרב העובדים. העמדה שד״ר ללום מיישם קבועה: אי אפשר לאסור את מה שלא מציעים לו חלופה, ולכן הדרך לצמצם שימוש סמוי היא להעמיד כלי מאושר נוח, ולא רק להזהיר מפני האסור.
מאמר זה מתבסס על עקרונות הגנת המידע והמשפט המנהלי בישראל, ומתאר מסגרת כללית. אין באמור ייעוץ משפטי, ויישום ברשות מסוימת מחייב בחינה פרטנית מול עורך דין מורשה.
שימוש של עובדים בכלי בינה מלאכותית ציבוריים על דעת עצמם, בלי אישור ובלי ניהול, לעיתים תוך הזנת מידע תושבים.
הוא עוקף את כל ההגנות: אין חוזה שמגן על המידע, אין בקרה ואין תיעוד, והאחריות נשארת על הרשות.
לא. איסור בלי חלופה רק דוחק את השימוש למחתרת. הפתרון הוא נוהל ברור, כלי מאושר ונוח, הדרכה וגילוי.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה