רשות שרוכשת בינה מלאכותית נשארת אחראית כלפי התושב וכלפי בית המשפט, אך את התנאים שמגינים עליה אפשר להשיג רק לפני החתימה. מדריך לסעיפי החוזה שחובה לדרוש מהספק, לשכבת דיני המכרזים הציבורית, ולמה האחריות המנהלית אינה עוברת לספק.
רוב הרשויות המקומיות אינן מפתחות מערכת בינה מלאכותית בעצמן אלא רוכשות אותה מספק, ודווקא כאן נקבע חלק גדול מהחשיפה המשפטית: האחריות כלפי התושב וכלפי בית המשפט נשארת על הרשות גם כשהכלי חיצוני, אך את התנאים שמגינים עליה אפשר להשיג רק לפני החתימה, במפרט המכרז ובחוזה. מאמר זה מפרט מה רשות צריכה לדרוש מספק AI, אילו סעיפים חייבים להופיע בחוזה, ומה מוסיף דין המכרזים הציבורי מעבר להתקשרות מסחרית רגילה.
אחרי החתימה הרשות כבולה למה שסוכם, ולדרוש בדיעבד זכות ביקורת, שקיפות או מחיקת מידע כמעט בלתי אפשרי. לפני הפרסום, לעומת זאת, הרשות מגדירה את הכללים. לכן כל דרישה מהותית צריכה להיכנס כבר למפרט ולתנאי הסף, לא להישאר למשא ומתן מאוחר. מכרז שמנוסח בלי הדרישות המשפטיות הנכונות אינו רק החמצה, הוא מנציח לאורך שנות ההתקשרות פער שאי אפשר לסגור.
חוזה רכש AI של רשות צריך לעגן, לכל הפחות: זכות ביקורת של הרשות על אופן הפעולה ועל הביצועים; שקיפות לגבי שיטת הפעולה ומגבלות הכלי, ברמה שמאפשרת לרשות להסביר החלטה שהתבססה עליו; הסדר מידע ברור, היכן נשמר מידע התושבים, איסור שימוש בו לאימון מודלים, ומחיקה בתום ההתקשרות; התחייבות לשיתוף פעולה בבירור משפטי (עתירה מנהלית, בקשת חופש מידע, הליך בבית המשפט); אחריות ושיפוי של הספק לנזק מכשל במערכת; רמת שירות ותחזוקה; ומנגנון יציאה שמונע תלות בספק יחיד, כולל ניוד המידע והיכולת להחליף ספק.
סעיף שלא נדרש במכרז קשה להחזיר אחריו.
כלי שאי אפשר להסביר כיצד הגיע לתוצאה מעמיד את הרשות במצב שבו היא אינה יכולה לעמוד בחובת ההנמקה שלה. לכן הסברתיות אינה דרישה טכנית נחמדה אלא תנאי לחוקיות השימוש, וצריך לנסח אותה כדרישת סף ולא כיתרון. בפועל פירוש הדבר שהספק מתחייב לספק הסבר ברמה שאדם מוסמך ברשות יכול לפרוש בפני תושב ובפני בית המשפט, ושמגבלות הכלי מתועדות מראש.
רשות שמוותרת על זה במכרז קונה חשיפה, לא פתרון.
רכש של רשות כפוף לדיני המכרזים, ומכאן נוספות חובות שאין בחוזה פרטי. המכרז צריך להגדיר דרישות פונקציונליות ולא לתפור את עצמו סביב מוצר אחד של ספק מסוים, שכן תפירת מכרז פוגעת בשוויון ההזדמנויות וחושפת לתקיפה. בחירת הזוכה טעונה הנמקה עניינית. וקריטריונים ייחודיים ל-AI, כמו בדיקת הטיה, הסברתיות, אבטחת מידע והסדר הבעלות על המידע, הם שיקולים לגיטימיים שראוי לשקלל במפורש באמות המידה, כך שהמכרז בוחר לא רק את הזול אלא את מי שעומד בחובות שחלות על הרשות עצמה.
גם כשהמערכת פותחה ותוחזקה בידי ספק, התושב תוקף את הרשות, ובית המשפט בוחן את הרשות. שיפוי חוזי מהספק עשוי לכסות נזק כספי, אך הוא אינו מעביר את החובה המנהלית: הרשות היא שחייבת בהגינות, בשוויון ובהנמקה, והיא שתישא בתוצאה אם ההחלטה פגומה. לכן הרכש אינו מהלך טכני של מחלקת רכש בלבד, אלא החלטה שצריכה ליווי משפטי שמוודא שהחובות הציבוריות תורגמו לתנאי המכרז.
בעע״מ 63194-08-25 (רשומה מאומתת במאגר הפסיקה של האתר) נמתחה ביקורת על רשות מקומית שהסתמכה על בינה מלאכותית מול אזרח בלי לוודא את נכונות התוצר. הוטלו הוצאות מוגברות, ונקבע כי החובה שהופרה אינה עצם השימוש בכלי אלא השימוש בו ללא בקרה שמאמתת את התוצר, מתוך חובת הגינות דיונית מוגברת החלה על רשות ציבורית. בהערות אגב הוסיף בית המשפט שהעברת ההכרעה עצמה לכלי, בלי הפעלת שיקול דעת אנושי, עלולה לעלות כדי אצילת סמכות אסורה.
הלקח לרכש ישיר: אם האחריות לתוצר נשארת על הרשות, החוזה והמכרז חייבים להבטיח לה את היכולת לאמת, לבקר ולהסביר, ולא להסתפק בהבטחות הספק.
רשות שלקראת רכש AI צריכה לבנות את מפרט המכרז יחד עם ליווי משפטי ומקצועי לפני הפרסום, לעגן את דרישות השקיפות, המידע, האחריות והיציאה כתנאי סף ולא כנושאים למשא ומתן מאוחר, ולשקלל את הקריטריונים הייחודיים ל-AI באמות המידה. המשרד, בהובלת ד״ר עו״ד אברהם ללום, מלווה רשויות מקומיות ותאגידים עירוניים בבניית מכרזים וחוזי רכש כאלה.
העיקרון שד״ר ללום חוזר אליו קבוע: מה שלא עוגן במכרז אי אפשר לדרוש אחריו, ולכן ההגנה על הרשות נכתבת לפני הפרסום, לא אחרי החתימה.
הערה: אין באמור ייעוץ משפטי או תחליף לו. מכרז ורכש של רשות מסוימת מחייבים בחינה פרטנית של השימוש המבוקש, של דיני המכרזים החלים, של הדין המנהלי ושל הנחיות הרגולטור, מול עורך דין מורשה.
מאמר זה הוא חלק מסדרת המדריכים של LALUM לבינה מלאכותית ברשות המקומית. לתמונה המלאה ראו את סקירת ארבעת השימושים וגבול החוקיות.
לתמונה הרחבה על הסיכון במכרזי AI ציבוריים ומוסדיים בכלל ראו רכש קופסאות שחורות: הסיכון השקט במכרזי AI ציבוריים ומוסדיים.
אחרי החתימה הרשות כבולה לסיכום, ולדרוש בדיעבד זכות ביקורת או מחיקת מידע כמעט בלתי אפשרי. לפני הפרסום הרשות מגדירה את הכללים.
זכות ביקורת על אופן הפעולה והביצועים, איסור אימון על מידע הרשות, שקיפות ומגבלות, מיקום שמירת המידע, קבלני משנה, מדדי דיוק, אחריות ונזק, והחזרת המידע ביציאה.
דרישות סף ושקיפות מעבר להתקשרות מסחרית רגילה, שצריכות להיכנס כבר למפרט ולתנאי הסף.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה