כשבינה מלאכותית מדרגת עובדים ומזינה החלטות על קידום או פיטורים, הדירוג אינו החלטה. מדריך לבקרה אנושית אפקטיבית, לזכות השימוע בהחלטה שלילית, להטיה בהערכה, ולתיעוד שיקול הדעת שמגן על שני הצדדים.
השימוש הרגיש ביותר בבינה מלאכותית במשאבי אנוש אינו הגיוס אלא מה שקורה אחריו: הערכת ביצועים של עובדים, ודירוג שמשמש להחלטות על קידום, תגמול, או סיום העסקה. כאן הכלי אינו ממיין זרים אלא נוגע באנשים שכבר עובדים, בפרנסתם ובמעמדם, ולכן זהו המקום שבו חובות המעסיק, תום הלב, ההגינות וזכות השימוע, מתנגשות ישירות עם הפיתוי להישען על ציון אלגוריתמי.
מאמר זה עוסק בבקרה האנושית ובהליך ההוגן הנדרשים כשבינה מלאכותית מעורבת בהחלטות על עובדים.
כמו בכל תחום, יש להפריד בין מה שהכלי עושה למה שהוא לא. מערכת יכולה לדרג ביצועים או לסמן עובד כ"בסיכון", אך ההחלטה על העובד מסורה לאדם מוסמך. דירוג שמתקבל כהחלטה, בלי שאדם בחן את הנסיבות הקונקרטיות, הוא בדיוק הכשל: מדדים חלקיים או מוטים הופכים לגזר דין על עובד. ככל שההחלטה גורלית יותר, כך הדירוג האלגוריתמי צריך להיות קלט אחד מני רבים, לא הפלט שמכריע.
מנהל שמאשר את דירוג המערכת בלחיצה, בלי יכולת או זמן לבחון אותו, אינו מפעיל שיקול דעת אלא מעניק לציון חותמת. בקרה אפקטיבית מחייבת שלאדם תהיה סמכות אמיתית לחלוק על הדירוג ולשנותו, גישה לנתונים שעליהם הוא מבוסס, והבנה של מגבלותיו. אם ההחלטה למעשה נקבעת על ידי המערכת, האחריות נשארת על המעסיק, אך ההגנה שלו נחלשת, כי הוא אינו יכול להראות ששקל את המקרה לגופו.
החלטה שלילית על עובד, ובמיוחד פיטורים, מחייבת תום לב, הגינות, וברוב המקרים זכות שימוע אמיתית: הזדמנות לעובד להגיב לפני שההחלטה מתגבשת. שימוע שמתבסס על "המערכת קבעה", בלי שהעובד יכול לחלוק על הנתונים ועל הדירוג, אינו שימוע אמיתי. העובד צריך לדעת על מה מבוססת ההחלטה ברמה שמאפשרת לו להתגונן, ופלט אטום שאיש אינו יכול להסביר שומט את הקרקע תחת ההליך ההוגן.
מערכת הערכה שאומנה על נתוני עבר עלולה לשכפל הטיות, ולהעניש דפוסי עבודה של קבוצות מסוימות, או לתגמל מדדים שאינם משקפים תרומה אמיתית. הטיה בהערכה חמורה במיוחד כי היא מצטברת לאורך זמן ומעצבת קריירות, ולעיתים היא בלתי נראית מאחורי מספר שנחזה אובייקטיבי. בדיקת הטיה ובחינה של מה המערכת באמת מודדת אינן מותרות אלא תנאי לשימוש הוגן.
כדי שהחלטה על עובד תהיה ברת הגנה, צריך לתעד לא רק את הדירוג אלא את שיקול הדעת האנושי: מה המערכת הראתה, מה המנהל בחן, ומה הנימוק להחלטה. תיעוד כזה מגן על המעסיק מפני טענת שרירות, ועל העובד מפני החלטה שהתקבלה בלי בחינה. היעדר תיעוד הופך כל מחלוקת לשאלה של זיכרון, בדיוק במקום שבו מוטלת על הכף פרנסתו של אדם.
מעסיק שמשתמש בבינה מלאכותית בהערכת עובדים ובהחלטות עליהם צריך להתייחס לדירוג כקלט ולא כהכרעה, לשמר בקרה אנושית אפקטיבית עם סמכות לשנות, להבטיח זכות שימוע אמיתית בהחלטות שליליות, לבדוק הטיה, ולתעד את שיקול הדעת. המשרד, בהובלת ד״ר עו״ד אברהם ללום, מלווה מעסיקים בבניית תהליכי הערכה והחלטה שעומדים בחובות ההגינות וההליך ההוגן.
העיקרון שד״ר ללום חוזר אליו קבוע: ככל שההחלטה נוגעת יותר לפרנסתו של אדם, כך פחות מותר שהמכונה תכריע בה, ויותר נדרש שאדם יסביר אותה.
הערה: אין באמור ייעוץ משפטי או תחליף לו. הערכת עובדים והחלטות על סיום העסקה כפופות לדיני העבודה, לחובת תום הלב ולזכות השימוע, ומחייבות בחינה פרטנית מול עורך דין מורשה.
מאמר זה הוא חלק מסדרת המדריכים של LALUM לבינה מלאכותית במשאבי אנוש. לתמונה המלאה ראו את מיפוי השימושים והחשיפה המשפטית.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה