כלי גיוס מבוסס בינה מלאכותית חוסך זמן אך עלול להפלות מועמדים, לרוב בעקיפין ובלי כוונה. מדריך לאופן שבו נוצרת אפליה בכלי גיוס, לבעיית השקיפות כשמועמד נדחה בלי הסבר, לחובת ההנמקה והבקרה האנושית, ולמה המעסיק צריך לעשות כדי להשתמש בכלי באופן בר הגנה.
השימוש הנפוץ ביותר בבינה מלאכותית במשאבי אנוש הוא בגיוס: סינון קורות חיים, דירוג מועמדים, וניתוח ראיונות. היתרון ברור, חיסכון עצום בזמן מול מאות מועמדים. אבל גיוס הוא גם המקום שבו טעות של הכלי הופכת לאפליה פסולה, לעיתים בלי שאיש התכוון, ולחשיפה של המעסיק לתביעה. מאמר זה עוסק בשלושת הסיכונים המרכזיים בגיוס מבוסס AI: אפליה, היעדר שקיפות, וחובת ההנמקה.
מערכת גיוס לומדת מנתוני עבר, ואם בעבר גויסו בעיקר מועמדים מפרופיל מסוים, הכלי עלול ללמוד להעדיף אותו ולהפלות אחרים. האפליה לרוב עקיפה: הכלי אינו "יודע" על מאפיין מוגן, אך לומד מתאמים שמשמשים לו תחליף, למשל כתובת מגורים, פערי תעסוקה, או ניסוח בקורות חיים. התוצאה היא סינון שיטתי של קבוצה, בדיוק מה שדיני השוויון בעבודה אוסרים, והעובדה שההחלטה "אובייקטיבית" לכאורה מקשה עוד יותר לזהות את ההטיה.
כשמועמד נדחה על ידי מערכת, לרוב אין לו, ואף לא למעסיק, הסבר ברור מדוע. אטימות כזו בעייתית בשני מישורים: היא מונעת מהמעסיק לוודא שההחלטה עניינית, והיא פוגעת ביכולת המועמד לדעת אם הופלה. בזירה האירופית מתווספת זכות לקבל הסבר ולהתנגד להחלטה אוטומטית משמעותית. מעסיק שאינו יכול להסביר מדוע מועמד נדחה חשוף בדיוק כשתעלה טענת אפליה.
"המערכת דירגה נמוך" אינו נימוק. החלטת גיוס צריכה להיות ניתנת להסבר בקריטריונים ענייניים הקשורים לתפקיד, ולא בפלט אטום. לכן נדרשת בקרה אנושית אפקטיבית: אדם שבוחן את ההמלצה, יכול לדחות אותה, ומתעד את הנימוק. ככל שהכלי מכריע יותר בסינון, כך הבקרה חייבת להיות מהותית יותר, ולא אישור אוטומטי של דירוג המכונה.
סינון שבו בני אדם נפסלים בלי שאדם בחן הוא החשיפה הגדולה ביותר.
כדי להשתמש בכלי גיוס באופן בר הגנה, על המעסיק לבדוק הטיה על הנתונים ועל התוצאות, לתעד את הקריטריונים הקשורים לתפקיד, לשמר בקרה אנושית על הדחיות, ולהבטיח שקיפות ברמה שמאפשרת להסביר החלטה. חשוב גם לבחון מה הספק עושה עם נתוני המועמדים, ולוודא שאינם משמשים למטרה אחרת. בדיקה מסודרת מראש זולה בהרבה מתביעת אפליה או מפסילת הליך גיוס בדיעבד.
גיוס מבוסס בינה מלאכותית מותר ויעיל, אך הוא שימוש רגיש שמחייב בקרת הטיה, שקיפות, ובקרה אנושית על ההחלטות. המשרד, בהובלת ד״ר עו״ד אברהם ללום, מלווה מעסיקים בבניית תהליך גיוס בר הגנה שמנצל את הכלי בלי לחשוף את המעסיק לטענות אפליה. העיקרון שד״ר ללום חוזר אליו קבוע: כלי שמסנן בני אדם חייב להיות ניתן להסבר, שאם לא כן אי אפשר להראות שההחלטה הייתה עניינית ולא מפלה.
הערה: אין באמור ייעוץ משפטי או תחליף לו. שימוש בבינה מלאכותית בגיוס כפוף לדיני השוויון בעבודה ולדיני הגנת הפרטיות, ומחייב בחינה פרטנית מול עורך דין מורשה.
מאמר זה הוא חלק מסדרת המדריכים של LALUM לבינה מלאכותית במשאבי אנוש. לתמונה המלאה ראו את מיפוי השימושים והחשיפה המשפטית.
נושא: חוזים, חברות וקניין רוחני
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה