מדריך מעשי לסיווג מערכת בינה מלאכותית כבעלת סיכון גבוה תחת חוק ה-AI האירופי: שני המסלולים לסיווג, תחומי השימוש הרגישים, שאלות לבדיקה עצמית, החובות שמופעלות, וחשיבות תיעוד ההחלטה.
לא כל מערכת בינה מלאכותית כפופה לאותן חובות תחת חוק ה-AI האירופי (EU AI Act). החוק בנוי על מדרג סיכון, והחובות הכבדות חלות בעיקר על מערכות שמסווגות כבעלות סיכון גבוה. לכן ההחלטה הראשונה, והחשובה ביותר, של כל ארגון היא לסווג נכון את המערכות שלו. מאמר זה נותן דרך מעשית לבדוק אם מערכת מסוימת נכנסת לקטגוריית הסיכון הגבוה.
סיווג שגוי עולה ביוקר בשני הכיוונים. אם תסווגו מערכת בסיכון גבוה כנמוך, תחשפו את הארגון לאי-עמידה בחוק, לקנסות ולעיכוב בכניסה לשוק. אם תסווגו יתר על המידה, תשקיעו משאבים בחובות שאינן נדרשות. סיווג מדויק ומתועד הוא הבסיס לכל תוכנית ציות.
החוק ממיין מערכות לארבע רמות: סיכון בלתי מקובל (אסור), סיכון גבוה (חובות מחמירות), סיכון מוגבל (בעיקר חובות שקיפות), וסיכון מינימלי (כמעט לא מוסדר). מאמר זה מתמקד בזיהוי הרמה השנייה, סיכון גבוה, כי היא זו שמפעילה את עיקר הרגולציה.
מערכת יכולה להיכנס לסיווג סיכון גבוה בשני מסלולים עיקריים. המסלול הראשון: המערכת משמשת כרכיב בטיחות של מוצר שכבר כפוף לרגולציה אירופית, למשל מכשור רפואי, רכב או מכונות. המסלול השני: המערכת פועלת באחד מתחומי השימוש הרגישים המנויים בחוק, ובהם גיוס והערכת עובדים, דירוג אשראי ונגישות לשירותים פיננסיים, חינוך והערכת תלמידים, שירותים ציבוריים חיוניים, תשתיות קריטיות, זיהוי ביומטרי, ואכיפת חוק.
אם המערכת שלכם נוגעת לאחד מאלה, יש להניח סיכון גבוה עד שיוכח אחרת.
כדי לבצע סיווג ראשוני, בדקו: האם המערכת משפיעה על החלטה בעלת השלכה על אדם, כמו קבלה לעבודה, אשראי או נגישות לשירות? האם היא חלק ממוצר בפיקוח? האם היא מעבדת מידע ביומטרי? האם כשל שלה עלול לפגוע בבטיחות או בזכויות? תשובה חיובית לאחת מאלה היא סימן מובהק שנדרשת בדיקה מעמיקה של סיווג סיכון גבוה.
סיווג כסיכון גבוה מפעיל חובות משמעותיות: הקמת מערכת ניהול סיכונים, איכות וממשל נתונים, פיקוח אנושי אפקטיבי, תיעוד טכני מפורט, שקיפות כלפי המשתמש, ולעיתים רישום במאגר ייעודי. ההיערכות לכל אלה מתחילה מוקדם, לפני הכניסה לשוק, ולא בדיעבד.
גם מערכת שפועלת בתחום מנוי אינה בהכרח בסיכון גבוה, אם ניתן להראות שהיא אינה מציבה סיכון ממשי לזכויות או לבטיחות, למשל כשהיא מבצעת משימה צרה ותומכת בלבד. אולם ההסתמכות על חריג כזה מחייבת ניתוח מסודר. תיעוד ההחלטה על נימוקיה הוא קריטי: הוא ההגנה של הארגון מול רגולטור שישאל מדוע סיווגתם כפי שסיווגתם.
ההיערכות מתחילה בשלושה צעדים: מיפוי כל מערכות הבינה המלאכותית בארגון, סיווג כל אחת לרמת הסיכון לפי המסלולים לעיל, ותיעוד הנמקת הסיווג. תשתית סיווג מסודרת חוסכת עבודה כפולה, מונעת חשיפה, ומאפשרת לארגון להתמקד בחובות הנכונות למערכות הנכונות.
הערה: אין באמור ייעוץ משפטי או תחליף לו, והוא אינו מהווה חוות דעת מחייבת. כל מקרה מחייב בחינה פרטנית מול עורך דין מוסמך.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ נדל״ן והתחדשות עירונית · ייעוץ AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · תיאום פגישה