מדיניות שימוש ב-AI היא המסמך שקובע מה מותר, איזה מידע אסור להזין, מתי נדרשת בקרה אנושית ומי אחראי לפלט. מה חייב להיכלל בה, ולמה מדיניות שאוסרת הכול היא הכישלון הנפוץ ביותר.
כשארגון נשאל מי אחראי לפלט של מערכת הבינה המלאכותית שלו, התשובה אמורה להיות כתובה במסמך אחד: מדיניות השימוש. ברוב הארגונים המסמך הזה לא קיים, או שהוא קיים ואיש אינו פועל לפיו. שתי הבעיות נראות שונות ומקורן זהה.
בהליך משפטי, בבדיקת נאותות או מול רגולטור, השאלה אינה אם השתמשתם בבינה מלאכותית. השאלה היא אם הייתה שיטה. מדיניות כתובה שמיושמת היא ההוכחה שהייתה. היעדרה הופך כל שימוש פרטני לאירוע שצריך להסביר בדיעבד.
הניסוח הזהיר ביותר הוא גם המסוכן ביותר. ארגון שאוסר שימוש בכלי בינה מלאכותית לא מונע את השימוש, הוא רק מוציא אותו מהשדה הנראה. העובדים ממשיכים, מחשבונות פרטיים, בכלים שאיש לא בדק, עם מידע שאיש לא אישר. זה נקרא AI צללים, וזה מצב גרוע בהרבה משימוש מוסדר.
מדיניות עובדת מתחילה מרשימת כלים מאושרים, ולא מאיסור.
רשימת הכלים המאושרים, בשמות, עם ציון מי מאשר תוספת לרשימה וכיצד.
הגדרה חדה של מידע אסור: מידע אישי, מידע רפואי, מסמכי לקוחות, סודות מסחריים וקוד קנייני. הניסוח צריך להיות קונקרטי. "מידע רגיש" אינו הנחיה, כי כל אחד מפרש אותו אחרת.
חובת בקרה אנושית, מדורגת לפי השלכה. פלט ששימש לניסוח פנימי אינו זהה לפלט שנשלח ללקוח או ששימש בסיס להחלטה. המדיניות צריכה לומר איפה עובר הגבול ומי חותם מעליו.
חובת תיעוד: מה תועד, איפה, ולכמה זמן. זו הנקודה שהכי מרבים לדלג עליה, והיא זו שקובעת בדיעבד.
כללי גילוי: מתי מיידעים לקוח או צד שלישי שנעשה שימוש בבינה מלאכותית. בחלק מהמקרים זו חובה משפטית, ובאחרים זו החלטה עסקית שעדיף לקבל מראש.
נוהל אירוע: מה עושים כשמידע דלף לכלי חיצוני, או כשפלט שגוי כבר יצא החוצה. נוהל שנכתב בזמן אמת נכתב גרוע.
מדיניות פנימית טובה אינה שווה הרבה אם הסכם הרישוי של הכלי אומר דבר אחר. שאלות שצריכות תשובה לפני האישור: האם הקלט משמש לאימון המודל, היכן מאוחסן המידע, מה תקופת השמירה, ומי נושא באחריות לפלט שגוי.
ברוב הסכמי הרישוי האחריות לפלט מוטלת על המשתמש. זה לגיטימי, אבל זה צריך להיות החלטה מודעת ולא גילוי מאוחר.
מסמך שנשלח במייל ונקרא פעם אחת אינו מדיניות. שלושה דברים מבדילים בין מסמך שקיים למדיניות שפועלת: הדרכה קצרה וממוקדת ולא מצגת בת שעה, נקודת אישור אחת וברורה לתוספת כלי, ובדיקה תקופתית של הפער בין מה שכתוב למה שקורה.
הבדיקה התקופתית היא החשובה מכולן, כי ארגונים מאמצים כלים חדשים מהר בהרבה מהקצב שבו הם מעדכנים מסמכים.
הערה: אין באמור ייעוץ משפטי או תחליף לו, והוא אינו מהווה חוות דעת מחייבת. כל מקרה מחייב בחינה פרטנית מול עורך דין מוסמך.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ נדל״ן והתחדשות עירונית · ייעוץ AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · תיאום פגישה