תשובה שיוצאת מצ'אטבוט עירוני היא תוצר של הרשות, ותושב שהסתמך עליה פעל לפיה. מדריך לסיכון ההסתמכות, להבחנה בין מידע כללי למצג מחייב, לחובות הנגישות בשפות ולמוגבלות, ולמסלול למענה אנושי מחייב.
צ'אטבוט עירוני ומענה אוטומטי לתושבים חוסכים תורים ושעות עבודה, ולכן רשויות רבות ממהרות להטמיע אותם. אלא שתשובה שיוצאת מערוץ רשמי של הרשות אינה סתם טקסט: תושב שהסתמך עליה פעל לפיה, והאחריות לתוכן נשארת על הרשות גם כשכלי ניסח אותו. לכך מצטרפות חובות שחלות על גוף ציבורי ולא על חברה פרטית: נגישות השירות בשפות שהציבור משתמש בהן ולאנשים עם מוגבלות, ומסלול אמיתי למענה אנושי מחייב.
מאמר זה מברר היכן עוברת החשיפה המשפטית בצ'אטבוט עירוני, ומה צריך כדי שיהיה שירות ולא מלכודת.
הסכנה אינה טכנית אלא משפטית. צ'אטבוט שמשיב בביטחון תשובה שגויה על זכות, על אגרה או על מועד גורם לתושב לפעול על בסיס מידע לא נכון, והנזק נגרם דווקא משום שהמקור נראה רשמי ואמין. ככל שהתושב הסתמך בתום לב על מצג של הרשות, כך גדל הסיכוי שהרשות תימצא קשורה בו או אחראית לתוצאותיו. ביטחון מילולי של המודל אינו ראיה לנכונות, והוא בדיוק מה שמסוכן בו: הוא מזמין הסתמכות גם כשאין לה בסיס.
הקו המשפטי עובר בין מתן מידע כללי לבין יצירת מצג שהרשות מחויבת לו. צ'אטבוט צריך להיות מנוסח כך שברור שהוא מספק מידע כללי לנוחות, אינו תחליף להחלטה פורמלית, ואינו יוצר התחייבות שהרשות לא התכוונה אליה. ובו בזמן, הרשות אינה יכולה להסתתר מאחורי כתב ויתור כדי להטעות: אם הערוץ מוצג כמוסמך, ניסוח של הסתייגות בשוליים לא יציל תשובה שגויה שהובילה תושב לפעול לרעתו.
האיזון הזה, בין שימושיות לבין אחריות, הוא שצריך להנחות את התיחום.
הבקרה הנדרשת פשוטה בעיקרה: לתחום את הנושאים שבהם הכלי עונה, ולהגדיר במפורש נושאים שבהם הוא אינו משיב אלא מפנה לאדם, בדרך כלל כל מה שנוגע לזכות, לכסף או למועד מחייב. התוכן שהכלי מגיש צריך להישען על מקור מאומת ולהתעדכן כשהדין או התעריף משתנים, אחרת הצ'אטבוט ממשיך להשיב נכון לאתמול. ותיעוד השיחות, בכפוף לפרטיות, מאפשר לזהות היכן הכלי טועה ולתקן, במקום לגלות את הטעות דרך תלונה או תביעה.
כאן נפרדת הרשות מחברה פרטית. שירות ציבורי חייב להיות נגיש בשפות שהציבור משתמש בהן, לא רק בעברית רהוטה, ונגיש לאנשים עם מוגבלות לפי דרישות הנגישות החלות על גופים ציבוריים. צ'אטבוט שמבין היטב רק משתמש אחד, ומתקשה עם ערבית, עם עברית לא תקנית או עם משתמש שנעזר בטכנולוגיה מסייעת, אינו רק פחות טוב, הוא מדיר חלק מהציבור משירות שהוא זכאי לו.
נגישות אינה שכבה שמוסיפים בסוף אלא דרישה שצריכה להיות בתיחום מראש.
צ'אטבוט טוב יודע את גבולו. חייב להיות מסלול ברור ונגיש שבו תושב עובר מהמענה האוטומטי לטיפול אנושי מוסמך, ובמיוחד כשהשאלה חורגת מהנושאים שתוחמו או כשהתושב מבקש זאת. בלי מסלול כזה, המערכת לא רק מתסכלת אלא מסכנת: היא דוחפת את התושב להכריע על בסיס תשובה אוטומטית במקום שבו הגיעה לו הכרעה אנושית מחייבת. היציאה לאדם היא חלק מהשירות, לא תקלה בו.
שיחה עם צ'אטבוט עירוני אוספת לא פעם מידע אישי של התושב, ולכן חלים עליה דיני הגנת הפרטיות: בסיס לעיבוד, צמצום המידע לנדרש, ושקיפות לגבי מה נאסף ולאן הוא עובר. כשהמענה מופעל דרך ספק חיצוני, הרשות נשארת האחראית על המידע, והסדריו צריכים להיות מעוגנים בחוזה, בדיוק כפי שנדרש בכל שימוש אחר של הרשות בבינה מלאכותית.
בעע״מ 63194-08-25 (רשומה מאומתת במאגר הפסיקה של האתר) נמתחה ביקורת על רשות מקומית שהסתמכה על בינה מלאכותית מול אזרח בלי לוודא את נכונות התוצר. הוטלו הוצאות מוגברות, ונקבע כי החובה שהופרה אינה עצם השימוש בכלי אלא השימוש בו ללא בקרה שמאמתת את התוצר, מתוך חובת הגינות דיונית מוגברת החלה על רשות ציבורית. בהערות אגב הוסיף בית המשפט שהעברת ההכרעה עצמה לכלי, בלי הפעלת שיקול דעת אנושי, עלולה לעלות כדי אצילת סמכות אסורה.
הלקח לצ'אטבוט ישיר: מענה שיוצא לתושב הוא תוצר של הרשות, והיא אחראית לנכונותו, לא הכלי שניסח אותו.
צ'אטבוט עירוני הוא פרויקט משפטי לא פחות מטכנולוגי. כדאי להקים אותו עם תיחום נושאים מראש, ניסוח שמבהיר שמדובר במידע כללי בלי להסתתר מאחורי ההסתייגות, נגישות בשפות ולמוגבלות מההתחלה, מסלול אמיתי למענה אנושי מחייב, תוכן שנשען על מקור מאומת ומתעדכן, ותיעוד ובקרה שמזהים טעויות מוקדם. המשרד, בהובלת ד״ר עו״ד אברהם ללום, מלווה רשויות מקומיות ותאגידים עירוניים בהקמת שירות כזה.
העיקרון שד״ר ללום חוזר אליו קבוע: אם הרשות אינה מוכנה לעמוד מאחורי תשובה של הצ'אטבוט כאילו נתן אותה פקיד מוסמך, היא אינה מוכנה לפרסם אותה מול הציבור.
הערה: אין באמור ייעוץ משפטי או תחליף לו. הפעלת צ'אטבוט ברשות מסוימת מחייבת בחינה פרטנית של הנושאים, של חובות הנגישות, של דיני הגנת הפרטיות ושל הדין המנהלי החל, מול עורך דין מורשה.
מאמר זה הוא חלק מסדרת המדריכים של LALUM לבינה מלאכותית ברשות המקומית. לתמונה המלאה ראו את סקירת ארבעת השימושים וגבול החוקיות.
לרשות. תשובה שיוצאת מערוץ רשמי אינה סתם טקסט, ותושב שהסתמך עליה פעל לפיה. האחריות לתוכן נשארת על הרשות גם כשכלי ניסח אותה.
נגישות השירות בשפות שהציבור משתמש בהן ולאנשים עם מוגבלות, ומסלול אמיתי למענה אנושי מחייב.
הוא אינו ראיה לנכונות, אך הוא מזמין הסתמכות גם כשאין לה בסיס, והנזק נגרם דווקא משום שהמקור נראה רשמי ואמין.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה