בתי ספר, מכללות ומוסדות ציבור מאמצים בינה מלאכותית, אך מוסד ציבורי כפוף לחובות מוגברות, ומידע על קטינים רגיש במיוחד. מדריך: מה מותר ומה אסור לעובד ולתלמיד, מדוע החלטה על תלמיד אינה ניתנת להאצלה למודל, ומה חייב לכלול נוהל שימוש במוסד שמשרת ציבור ובפרט קטינים.
בתי ספר, מכללות, ספריות ומוסדות ציבור מאמצים בינה מלאכותית במהירות: תלמידים נעזרים בה בלימוד, מורים ועובדים בהכנת חומרים ובמינהל, והמוסד עצמו בניהול ובקבלת החלטות. אלא שמוסד ציבורי אינו ארגון פרטי, הוא כפוף לחובות מוגברות של הגוף הציבורי, ובמוסד חינוך מצטרף רובד נוסף: המידע נוגע לקטינים, והוא רגיש במיוחד.
מאמר זה ממקד בגבולות השימוש ובחובות של מוסד חינוך ושל גוף ציבורי, ובמה שחייב להיכלל בנוהל שלהם.
כשהמוסד מופעל בידי רשות או ממומן ציבורית, חלות עליו אותן חובות שחלות על רשות מנהלית: הגינות, שוויון ושקיפות, והחובה להפעיל שיקול דעת עצמאי ולא להאציל אותו לכלי. העקרונות שפירטנו למדיניות שימוש ב-AI ברשות מקומית חלים כאן ישירות, שכן הרשות המקומית היא שמפעילה חלק גדול ממוסדות החינוך.
על המסגרת הארגונית הכללית ראו גם את מדיניות שימוש בבינה מלאכותית בארגון.
מידע על תלמיד, ובפרט על קטין, מחייב זהירות גבוהה מהרגיל. הזנת פרטים מזהים, הישגים או מידע רגיש של תלמידים אל תוך כלי בינה מלאכותית חיצוני עלולה להיות העברת מידע לצד שלישי ללא בסיס ובלי הסכמה. הכלל המעשי פשוט: מידע אישי של תלמידים אינו מוזן לכלי ציבורי פתוח. על חובות הגנת המידע הרחבנו בהגנת פרטיות ומידע תושבים.
מיון, שיבוץ, הערכת הישגים וצעד משמעתי הם החלטות שמשפיעות על עתידו של תלמיד, ושיקול הדעת בהן שייך לגורם המוסמך. מודל יכול לסייע, לסכם ולהציף, אך ההכרעה אנושית. ציון או צעד משמעתי שנקבעו על בסיס פלט מודל בלבד, בלי בדיקה ובלי אפשרות ערעור בפני אדם, חשופים לתקיפה. ככל שההחלטה נוגעת עמוק יותר בתלמיד, כך נדרשת בקרה אנושית הדוקה יותר.
על עקרון הפיקוח הרחבנו בפיקוח אנושי אפקטיבי על מערכות AI.
- **שימושים מותרים ואסורים:** להגדיר במפורש למה הכלי משמש, ולאסור הזנת מידע אישי של תלמידים או מידע רגיש לכלים חיצוניים.
- **שקיפות וגילוי:** להודיע למורים, לתלמידים ולהורים היכן המוסד נעזר בבינה מלאכותית.
- **בקרת אדם בהחלטות על תלמיד:** לקבוע שכל החלטה בעלת השפעה נבדקת ומאושרת בידי גורם מוסמך, עם מסלול ערעור.
- **שוויון ונגישות:** לוודא שהכלי אינו מפלה בין תלמידים ושהשירות נגיש, בדומה לחובת השוויון בכל הקצאה ציבורית.
- **הדרכה ואחריות:** למנות אחראי, להדריך את הצוות, ולתעד את השימוש.
הנושא יושב בלב תחום ה-AI & Law של המשרד, ומתחבר ישירות לאשכול הרשות המקומית, שכן הרשות היא בעלת הבית של מערכת החינוך המקומית. על מפת השימושים ברשות וגבולותיהם ראו את עוגן הסדרה, בינה מלאכותית ברשות מקומית.
ד״ר עו״ד אברהם ללום מלווה רשויות מקומיות, מוסדות חינוך וגופים ציבוריים בבניית נוהל שימוש בבינה מלאכותית שמותאם לחובות הגוף הציבורי ולרגישות מידע הקטינים. העמדה שד״ר ללום מיישם קבועה: מידע אישי של תלמידים אינו נכנס לכלי ציבורי פתוח, והחלטה על עתידו של תלמיד אינה יוצאת ממכונה בלי אדם שבדק ואישר.
מאמר זה מתבסס על עקרונות המשפט המנהלי והגנת הפרטיות הישראליים, ומתאר את המסגרת הכללית. אין באמור ייעוץ משפטי, ויישום במוסד מסוים מחייב בחינה פרטנית מול עורך דין מורשה.
לא. מידע על קטין רגיש במיוחד, והזנתו לכלי חיצוני עלולה להיות העברת מידע לצד שלישי בלי בסיס ובלי הסכמה.
לא. מיון, הערכת הישגים וצעד משמעתי הם החלטות מקצועיות של גורם מוסמך. מודל יכול לסייע, אך ההכרעה אנושית, עם מסלול ערעור.
שימושים מותרים ואסורים, שקיפות להורים ולתלמידים, בקרת אדם בהחלטות על תלמיד, שוויון ונגישות, ואחראי מוגדר.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה