מה בודקים בחברה שהמוצר שלה מבוסס בינה מלאכותית: מקורות נתוני האימון והזכויות בהם, בעלות על המודל ועל הפלט, סיווג הסיכון ברגולציה, ומה קורה כשהמערכת טועה.
משקיע או רוכש שבוחן חברת טכנולוגיה בודק את הקוד, את הלקוחות ואת הדוחות. בחברה שהמוצר שלה מבוסס בינה מלאכותית, שלושת אלה אינם מכסים את החשיפה המרכזית. מודל שאומן על נתונים שאין עליהם זכויות, מערכת שתסווג כבעלת סיכון גבוה באירופה, או פלט שאיש אינו יכול להסביר, הם התחייבויות שאינן מופיעות במאזן ואינן נמצאות במאגר הפטנטים.
הן מתגלות אחרי החתימה.
מאמר זה מפרט מה בודקים בבדיקת נאותות של חברת AI, ומה המשמעות של כל ממצא לתמחור העסקה ולמנגנוני ההגנה בהסכם.
זו השאלה הראשונה, והיא גם זו שהתשובות עליה מעורפלות בדרך כלל. יש להבחין בין נתונים שהחברה יצרה בעצמה, נתונים שרכשה ברישיון, נתונים שקיבלה מלקוחות, ונתונים שנאספו מהאינטרנט.
לכל מקור מעמד משפטי שונה. נתוני לקוחות כפופים להסכם ההתקשרות: לא פעם ההסכם מתיר עיבוד לצורך מתן השירות ללקוח, ואינו מתיר אימון מודל כללי שישרת גם מתחרים שלו. נתונים שנאספו מהאינטרנט כפופים לתנאי השימוש של האתרים ולזכויות היוצרים בתוכן. נתונים ברישיון כפופים להיקף הרישיון, ובכלל זה לשאלה אם הוא מתיר שימוש מסחרי ואם הוא מתיר יצירת מודל נגזר.
הבדיקה המעשית: לבקש את רשימת מקורות הנתונים, את ההסכמים או הרישיונות שמאחורי כל אחד מהם, ואת התיעוד שמראה מה נכנס לאימון ומתי. חברה שאינה יכולה להציג את זה אינה בהכרח מפרה זכויות, אבל היא גם לא יכולה להוכיח שאינה מפרה, וזה הפער שנכנס לתמחור.
בחברת תוכנה השאלה הזו פשוטה יחסית. בחברת AI היא מתפצלת: הבעלות על הקוד, הבעלות על המשקלים של המודל המאומן, הזכויות בנתוני האימון, והמעמד של הפלט שהמערכת מייצרת.
אם המודל נבנה על גבי מודל יסוד של ספק חיצוני, יש לבדוק מה תנאי הרישיון של אותו ספק: אילו שימושים מותרים, האם מותרת הפצה מחדש, האם יש מגבלה על תחומי שימוש, ומה קורה אם הספק משנה את התנאים או מפסיק את השירות. חברה שכל המוצר שלה יושב על ממשק אחד של ספק אחד, בלי הסכם שמבטיח המשכיות, מחזיקה בסיכון תפעולי ומשפטי גם יחד.
לגבי הפלט: יש לבדוק מה ההסכם מול הלקוחות אומר על בעלות בתוצרים, ומי נושא באחריות אם הפלט מפר זכות של צד שלישי.
מערכת שנמכרת לשוק האירופי כפופה ל-EU AI Act, וסיווג הסיכון שלה קובע אילו חובות חלות ומה עלות הציות. מערכת שתסווג כבעלת סיכון גבוה גוררת חובות תיעוד, ניהול סיכונים, איכות נתונים, פיקוח אנושי ובקרת דיוק. אלה אינן חובות תיאורטיות אלא עלות שוטפת שיש להכניס לתחזית.
יש לבדוק גם אם החברה נחשבת ספק או מפעיל של המערכת, כי לכל תפקיד חובות שונות, וכן אם הפעילות נוגעת לתחומים שמעוררים חובות נוספות: גיוס עובדים, אשראי, ביטוח, חינוך, בריאות ושירותים ציבוריים.
הממצא שמשנה תמחור אינו רק הסיווג עצמו, אלא הפער בין הסיווג לבין מה שהחברה עשתה בפועל: האם קיים תיעוד טכני, האם יש הליך לניהול סיכונים, והאם מישהו הגדיר איפה נדרשת הכרעה אנושית.
לכל מערכת אלגוריתמית יש שיעור שגיאה. השאלה המשפטית אינה אם היא טועה אלא מה קורה כשהיא טועה: מי אחראי, מה מתועד, ואיך מוכיחים בדיעבד מה המערכת עשתה ולמה.
הבדיקה כוללת את הסכמי הלקוחות (הגבלת אחריות, שיפוי, התניות על שימוש), את הכיסוי הביטוחי, ואת יכולת השחזור. מערכת שאינה שומרת גרסה של המודל, את הקלט ואת הפלט בחתימת זמן, אינה יכולה להגן על עצמה בהליך משפטי, ולכן כל תביעה עתידית מתחילה מעמדת נחיתות.
בדיקת נאותות אינה מסתיימת בממצאים אלא בתרגום שלהם למנגנונים. שלושה מנגנונים חוזרים בעסקאות AI:
מצג ואחריות ייעודיים לנתוני האימון ולזכויות בהם, ולא רק מצג כללי על קניין רוחני. שיפוי ממוקד לתביעות שעילתן הפרת זכויות בנתוני אימון או בפלט, לרוב עם תקרה נפרדת ותקופה ארוכה יותר. ותנאי מתלה או נאמנות חלקית עד להשלמת פערי תיעוד ורגולציה שהתגלו בבדיקה.
כאשר החברה הנרכשת מוכרת לשוק האירופי, כאשר המוצר פועל בתחום שמעורר חובות מוגברות, כאשר מקורות הנתונים אינם מתועדים במלואם, וכאשר הצוות המשפטי של הרוכש מנוסה בעסקאות טכנולוגיה אך לא בממשל בינה מלאכותית. בדיקה מוקדמת זולה ומהירה מהתמודדות עם ממצא שמתגלה אחרי החתימה, כשהמחיר כבר נקבע.
הערה: אין באמור ייעוץ משפטי או תחליף לו, והוא אינו מהווה חוות דעת מחייבת. כל עסקה מחייבת בחינה פרטנית מול עורך דין.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ נדל״ן והתחדשות עירונית · ייעוץ AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · תיאום פגישה