חברות ביטוח משתמשות בבינה מלאכותית בחיתום, בתמחור ובטיפול בתביעות, וכל שימוש כזה מעורר שאלות של הוגנות, שקיפות ואחריות. מדריך לסיכונים המשפטיים ולבקרות שנדרשות.
ביטוח הוא אחד התחומים שבהם בינה מלאכותית משנה את העבודה היומיומית: מודלים מסייעים בהערכת סיכון בעת החיתום, בקביעת פרמיה, בזיהוי חשדות להונאה ובמיון תביעות. מאחר שהחלטה ביטוחית משפיעה ישירות על האפשרות של אדם לקבל כיסוי ועל המחיר שישלם, כל שימוש במודל כזה נושא סיכון משפטי. מאמר זה עובר על שלושה שלבי שימוש עיקריים ומסביר אילו בקרות כדאי להקים בכל אחד מהם.
בחיתום מודל יכול לסנן הצעות, להמליץ על תנאים מיוחדים או לסמן הצעות לבדיקה ידנית. הסיכון המרכזי הוא הטיה: מודל שאומן על נתוני העבר עלול להעתיק דפוסים שאינם רלוונטיים לסיכון עצמו, או להשתמש במשתנים שמהווים תחליף למאפיין שאסור להפלות על פיו. לכן כדאי לבדוק אילו נתונים נכנסים למודל, האם יש בהם משתנים עקיפים בעייתיים, ולהריץ בדיקות תוצאה על קבוצות שונות לפני הפעלה ובמהלכה.
החלטת סירוב שנשענת על פלט מודל צריכה להיות כזו שאפשר להסביר למבוטח במילים פשוטות.
מודלי תמחור מאפשרים לבדל פרמיה בדיוק רב יותר, אך דיוק איננו זהה להוגנות. תמחור שנשען על נתונים התנהגותיים, נתוני מיקום או נתוני צריכה מעלה שאלות של פרטיות, של הסכמה ושל שימוש בנתונים מעבר למטרה שלשמה נאספו. בנוסף, יש להבחין בין תמחור שמבוסס על סיכון לבין תמחור שמבוסס על נכונות לשלם. הדרך המשפטית הבטוחה היא לתעד את הקשר העסקי בין כל משתנה לבין הסיכון המבוטח, ולהיות מסוגלים להציג אותו לרגולטור ולבית המשפט.
בטיפול בתביעות מודל יכול לזרז אישור של תביעות פשוטות ולסמן תביעות חשודות. טעות כלפי מעלה, כלומר סימון תביעה לגיטימית כחשודה, פוגעת במבוטח אמיתי ועלולה להוביל לעיכוב או לדחייה בלתי מוצדקת. טעות כלפי מטה מגדילה הפסדי הונאה. הבקרה החשובה היא שסימון של מודל לעולם אינו מהווה עילה לדחייה בלבד: נדרשת בדיקה אנושית שמסוגלת לשנות את התוצאה, ושקולה את נסיבות המקרה ולא רק את הציון.
ענף הביטוח מפוקח, ולכן כל הטמעה של מודל צריכה להיבחן מול הוראות הרגולטור של שוק ההון, הביטוח והחיסכון, מול דיני הגנת הפרטיות ומול דיני איסור ההפליה, ובמקרה של פעילות מול לקוחות באירופה גם מול רגולציית הבינה המלאכותית האירופית. חובת הגילוי וההגינות כלפי המבוטח אינה נעלמת כשההחלטה מתקבלת בעזרת מודל. בעת הטמעה מומלץ לבדוק מהן החובות הספציפיות החלות על המוצר ועל סוג הלקוח, ולא להניח שעמידה בכללים הכלליים של התחום מספיקה.
רבות מהחברות מפעילות מודלים של ספק חיצוני. האחריות כלפי המבוטח נשארת על חברת הביטוח, ולכן החוזה עם הספק צריך לכלול זכות ביקורת על המודל, חובת שקיפות לגבי נתוני האימון והשינויים בגרסאות, הגבלות על שימוש בנתוני הלקוחות לאימון מודלים אחרים, והסדר לשיתוף פעולה במקרה של בירור רגולטורי או תביעה.
כדאי להקים מסגרת קבועה: מיפוי כל השימושים במודלים והגדרת בעלים לכל אחד, תיעוד של מטרת המודל ושל הנתונים שבהם הוא משתמש, בדיקות הוגנות ודיוק לפני הפעלה ובמהלכה, נוהל לטיפול בפניות ובערעורים של מבוטחים, ופיקוח אנושי אפקטיבי כפי שמתואר במאמר הייעודי בנושא. ד״ר עו״ד אברהם ללום מלווה גופים בבניית מסגרות ממשל כאלה, ועקרון העבודה הקבוע הוא שמה שלא ניתן להסביר ולתעד אינו מוכן להפעלה מול לקוחות.
מאמר זה הוא מידע כללי ואינו מהווה ייעוץ משפטי. הוראות הרגולציה החלות משתנות לפי סוג הגוף והמוצר.
לסקירה מקבילה בענף הפיננסי הסמוך ראו בינה מלאכותית בבנקאות ובפיננסים: רגולציה וסיכונים משפטיים.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה