כל מערכת בינה מלאכותית שרשות מחברת היא גם דלת חדשה אל המידע הרגיש של התושב, ולרוב דלת שמחזיק צד שלישי. השאלה אינה כמה המודל חכם, אלא מי יכול לעבור בדלת. מדריך: איך AI מרחיב את משטח התקיפה, מה דורשות תקנות אבטחת המידע ותיקון 13 מול סעיף 32 ל-GDPR, ואילו הגנות חייבות להיות.
כל מערכת בינה מלאכותית שרשות מחברת לעצמה אינה רק כלי, היא גם דלת חדשה אל המידע הרגיש ביותר של התושב, ולרוב דלת שמחזיק בה צד שלישי. בהתלהבות מהיכולות קל לשכוח את השאלה הפשוטה והחשובה: לא כמה המודל חכם, אלא מי יכול לעבור בדלת הזו, ומה קורה אם היא נפרצת. מאמר זה ממקד באבטחת המידע של מערכות AI ברשות: כיצד הבינה המלאכותית מרחיבה את משטח התקיפה, מה דורש הדין הישראלי מול העולם, ואילו הגנות חייבות להיות.
מערכת מסורתית מחזיקה מידע במקום אחד. מערכת בינה מלאכותית פורסת אותו על פני שרשרת: הספק, הענן, צינור העיבוד, המידע בתנועה, ולעיתים המודל עצמו. כל חוליה היא יעד. נוספים לכך סיכונים ייחודיים ל-AI: דליפת מידע שהוזן לכלי ציבורי, שימור המידע אצל הספק לצורכי אימון, זיהוי חוזר של מידע שהיה אמור להיות אנונימי, ומניפולציה של הקלט כדי להטות את הפלט.
משטח התקיפה גדל, ואיתו חובת ההגנה.
בישראל, תקנות אבטחת המידע וחיזוקן בתיקון 13 מחייבות רמת אבטחה ההולמת את רגישות המידע ואת היקפו, ומעמידות את הרשות בפני עיצומים אם תיכשל. באירופה, ה-GDPR דורש אמצעי אבטחה טכניים וארגוניים מתאימים לסיכון. העיקרון המשותף זהה: ככל שהמידע רגיש יותר והעיבוד רחב יותר, ההגנה חייבת להיות הדוקה יותר. על חובות תיקון 13 הרחבנו במדריך אבטחת המידע בתיקון 13, ועל התמונה ההשוואתית בהגנת הפרטיות ב-AI ברשות, ישראל מול ה-GDPR.
- **מזעור מידע:** מה שלא נאסף לא יכול לדלוף. ככל שהמערכת ניזונה בפחות, החשיפה קטנה.
- **בקרת גישה והצפנה:** רק מי שצריך רואה, והמידע מוצפן במנוחה ובתנועה.
- **ניטור ותיעוד:** לוגים שמאפשרים לזהות חדירה ולשחזר מה קרה, גם לצורך ניהול אירוע.
- **אבטחת הספק בחוזה:** התחייבויות אבטחה, הודעה על אירוע, ואיסור אימון על המידע, מעוגנים בהסכם. ראו הסכם עיבוד ושיתוף נתונים עם ספק AI.
- **מניעת דליפה דרך כלים ציבוריים:** איסור הזנת מידע תושבים לכלים לא מאושרים. על הסיכון ראו Shadow AI ברשות.
אבטחה אינה רק מניעה, היא גם היערכות לכשל. אירוע אבטחה שחושף מידע תושבים מפעיל חובת הודעה ותגובה מסודרת, והתיעוד שנשמר הוא שמאפשר לברר את ההיקף ולהגן על הרשות. על הפעלת מערך התגובה ראו ניהול אירוע כשל מערכת AI ברשות, ועל חובות הגנת המידע הרחבות ראו הגנת פרטיות ומידע תושבים.
- **למפות את זרימת המידע:** לדעת היכן המידע עובר ומי נוגע בו בכל חוליה.
- **לדרג ולהגן לפי רגישות:** אבטחה הדוקה יותר ככל שהמידע רגיש והיקפו רחב.
- **לעגן אבטחה בחוזה הספק:** כולל הודעה על אירוע ואיסור אימון.
- **לחסום דליפה דרך כלים ציבוריים:** נוהל ברור וכלי מאושר חלופי.
- **להיערך לאירוע:** ניטור, תיעוד, ונוהל תגובה מוכן מראש.
הנושא יושב בלב תחום ה-AI & Law של המשרד. על מפת השימושים ברשות ראו את עוגן הסדרה, בינה מלאכותית ברשות מקומית.
ד״ר עו״ד אברהם ללום מלווה רשויות מקומיות באבטחת מידע ובהיערכות לאירועים סביב מערכות בינה מלאכותית. העמדה שד״ר ללום מיישם קבועה: כל מערכת AI היא גם דלת למידע התושב, ולכן שאלת האבטחה, מי עובר בדלת ומה קורה אם היא נפרצת, קודמת לשאלה מה המערכת יודעת לעשות.
מאמר זה מתבסס על תקנות אבטחת המידע ותיקון 13 בישראל ועל עקרונות ה-GDPR, ומתאר מסגרת כללית. אין באמור ייעוץ משפטי, ויישום ברשות מסוימת מחייב בחינה פרטנית מול עורך דין ומומחה אבטחת מידע.
הוא פורס את המידע על פני שרשרת, הספק, הענן, צינור העיבוד והמודל, ומוסיף סיכונים ייחודיים כמו דליפה לכלי ציבורי ושימור המידע לצורכי אימון.
בישראל תקנות אבטחת המידע ותיקון 13, ובאירופה ה-GDPR, דורשים אבטחה ההולמת את רגישות המידע והיקפו. ככל שהמידע רגיש יותר, ההגנה הדוקה יותר.
מזעור מידע, בקרת גישה והצפנה, ניטור ותיעוד, אבטחת הספק בחוזה, וחסימת דליפה דרך כלים ציבוריים.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה