נאמן, מנהל קרן נדל״ן ונושא משרה חבים חובת אמון: לפעול לטובת הנהנה, להימנע מניגוד עניינים ולהפעיל שיקול דעת עצמאי. הסתמכות על בינה מלאכותית אינה מקהה את החובה ולעיתים מחמירה אותה. מדריך לחובת האמון בעידן האלגוריתמי: ניגוד עניינים נסתר במודל, חובת ההבנה והפיקוח, ומה לוודא לפני שמסתמכים.
מי שמחזיק בתפקיד של אמון, נאמן, מנהל קרן נדל״ן, נאמן לכספי עסקה (Escrow) או נושא משרה בחברה, חב חובת אמון כלפי הנהנה או הלקוח: לפעול לטובתו, להימנע מניגוד עניינים ולהפעיל שיקול דעת עצמאי וזהיר. בינה מלאכותית נכנסת כעת אל ליבת ההחלטות האלה: הערכת שווי, הקצאת כספים, תמחור וניהול סיכונים. השאלה שעולה היא האם הסתמכות על מודל משנה את חובת האמון.
התשובה היא שהיא אינה מקהה אותה, ולעיתים אף מחמירה. מאמר זה ממפה את חובת האמון בעידן האלגוריתמי ואת מה שצריך לוודא לפני שמסתמכים.
חובת האמון נשענת על שני יסודות. חובת הנאמנות (Loyalty) מחייבת לפעול לטובת הנהנה בלבד ולהימנע מניגוד עניינים. חובת הזהירות (Care) מחייבת לקבל החלטות מיודעות, לבדוק, ולהפעיל שיקול דעת סביר. בשני היסודות, האחריות היא אישית ואינה ניתנת להעברה לצד שלישי. נאמן אינו יוצא ידי חובתו בכך שאמר "המערכת המליצה": ההמלצה היא קלט, וההכרעה נותרת שלו.
הסיכון הייחודי של בינה מלאכותית לחובת האמון הוא שניגוד העניינים עלול להיות מובנה בתוך המודל ולא גלוי לעין. מודל הערכת שווי או תמחור עשוי לשאת הטיה שמעדיפה תוצאה מסוימת, ספק הכלי עשוי להיות בעל אינטרס משלו, ומקורות הנתונים עשויים להטות את התוצאה לכיוון שאינו לטובת הנהנה. נאמן שאינו יכול לראות כיצד המודל הגיע לתוצאה אינו יכול לשלול ניגוד עניינים, וממילא מתקשה לעמוד בחובת הנאמנות.
על החשיפה המשפטית הכללית של מודל שאינו יודע להסביר את עצמו הרחבנו בכשל הקופסה השחורה.
הסתמכות על פלט בלי להבין אותו ובלי לאמת אותו היא כשל בחובת הזהירות. אצל נאמן או נושא משרה הרף גבוה מהרגיל, משום שההחלטה נוגעת לכספו או לנכסו של אחר. "האלגוריתם קבע" אינו הגנה, ובנסיבות מסוימות הסתמכות עיוורת על מודל שאיש לא בדק עלולה להיחשב רשלנות רבתי דווקא בשל הרף המוגבר. ככל שהסכום גדול יותר וההחלטה הרת גורל יותר, כך נדרשת בקרה אנושית הדוקה יותר, לא פחות.
ניהול כספי נאמנות או כספי עסקה בעזרת מודל מוסיף שכבת סיכון. נאמן חייב לשמור על הכספים, להצדיק כל פעולה כלטובת הנהנה, ולתעד אותה. אם סוכן אוטומטי מאשר העברת כספים על בסיס בדיקה שהחמיצה פרט מהותי, זכות סותרת, מסמך חסר או תנאי שלא התקיים, האחריות אינה עוברת אל המערכת. היא נשארת על הנאמן, שהיה אמור לפקח.
על גבול ההסתמכות בעסקאות נדל״ן עצמן הרחבנו בבינה מלאכותית בנדל״ן ובהתחדשות עירונית.
- **שקיפות המודל:** להעדיף מודל שניתן להסביר כיצד הגיע לתוצאה, כדי שאפשר יהיה לשלול הטיה וניגוד עניינים, ולא מודל קופסה שחורה.
- **בדיקת ניגוד עניינים של הספק:** לברר מה האינטרס של ספק הכלי, מה מקורות הנתונים, והאם המודל מוטה לכיוון תוצאה מסוימת.
- **הכרעה אנושית מתועדת:** הנאמן או נושא המשרה מקבל את ההחלטה בעצמו, על בסיס שיקוליו, ומתעד אותה. ההמלצה האוטומטית אינה תחליף.
- **אימות מול המקור:** כל נתון ואסמכתה שההחלטה נשענת עליהם נבדקים במקור.
- **סודיות:** אין להזין לכלי צרכני מידע מזהה או חסוי של נהנה או לקוח. העבודה נעשית בסביבה מבוקרת בלבד.
הנושא יושב בצומת שבו מוביל המשרד: נדל״ן מצד אחד, ובינה מלאכותית וממשל סיכונים מצד שני. על אחריות נושאי המשרה בעידן האלגוריתמי הרחבנו באחריות דירקטורים ונושאי משרה בעידן הבינה המלאכותית.
ד״ר עו״ד אברהם ללום מלווה נאמנים, מנהלי קרנות ונושאי משרה בניהול הסיכון של הסתמכות על בינה מלאכותית. העמדה שד״ר ללום מיישם קבועה: הכלי מזרז, האדם מכריע, וחובת האמון נשארת אישית.
מאמר זה הוא מידע כללי ואינו מהווה ייעוץ משפטי. היקף חובת האמון משתנה לפי סוג התפקיד ונסיבות העניין, ויש לבחון כל מקרה לגופו עם עורך דין.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה