חובת הסימון והשקיפות לתוכן שנוצר בבינה מלאכותית הופכת לסטנדרט, ב-EU AI Act ומעבר לו. אך איך מיישמים אותה בפועל בארגון: מה חייבים לסמן, מתי, ואיך לנסח מדיניות שעומדת ברגולציה ובציפיית הלקוח. מדריך מעשי מהחובה המשפטית אל הנוהל.
סימון ותיוג של תוכן שנוצר בבינה מלאכותית עוברים מעיקרון לחובה. ה-EU AI Act מחייב לסמן תוכן סינתטי ולגלות אינטראקציה עם מערכת אוטומטית, רגולטורים וזירות פרסום מחמירים את הדרישה, והציפייה של לקוחות וקוראים לדעת אם מולם אדם או מכונה רק גוברת. אך בין ההכרה בחובה ליישום שלה יש פער: ארגון יודע שהוא צריך לסמן תוכן שהופק בבינה מלאכותית, אך לא תמיד יודע מה לסמן, מתי, ואיך לנסח מדיניות שתעמוד במבחן.
מאמר זה הוא הגשר המעשי מהחובה המשפטית אל הנוהל.
העיקרון המשפטי פשוט: אדם סביר זכאי לדעת מתי תוכן נוצר או עובד באופן מהותי בידי בינה מלאכותית, ובמקרים מסוימים החוק מחייב זאת במפורש. ה-EU AI Act מטיל חובות שקיפות על מי שמפעיל מערכות ג'נרטיביות: סימון של מדיה סינתטית (תמונה, וידאו, קול), גילוי כשמשתמש מדבר עם מערכת אוטומטית, וסימון מובהק של זיוף עמוק (Deepfake).
הרחבנו על החובות האלה בחובות השקיפות של ה-EU AI Act. הכיוון אינו ייחודי לאירופה, והוא מתפשט לרגולציה, לכללי פלטפורמות ולדיני הגנת הצרכן.
- **מדיה סינתטית:** תמונה, וידאו או קול שנוצרו או שונו באופן מהותי בבינה מלאכותית, ובמיוחד כאלה שעלולים להיתפס כאותנטיים.
- **טקסט שמתחזה לאנושי:** תוכן שמתפרסם כאילו נכתב בידי אדם, במיוחד כשהוא נושא מסר מקצועי או מוכר מוצר.
- **אינטראקציה עם מערכת אוטומטית:** צ'אטבוט או מענה אוטומטי צריכים לגלות שאינם אדם.
- **זיוף עמוק:** כל ייצוג של אדם אמיתי שנוצר בבינה מלאכותית מסומן באופן ברור.
כלל האצבע: היכן שהעדר סימון עלול להטעות לגבי מקור התוכן, או היכן שהחוק דורש זאת, מסמנים.
מדיניות שנשארת כהצהרה אינה שווה דבר. מדיניות שעובדת מגדירה:
- **היקף:** איזה תוכן נכנס, אילו צוותים, ואילו ערוצים (אתר, פרסום, שירות לקוחות).
- **תקן סימון:** תווית גלויה לקורא, ובמידת האפשר גם סימון קריא-מכונה (מטא-נתונים או סימן מים), כדי שהסימון ישרוד העתקה והפצה.
- **שלב ואחריות:** מי מסמן, באיזה שלב בתהליך, ומי מאשר לפני פרסום.
- **תיעוד:** רישום של מה הופק או עובד בעזרת בינה מלאכותית, כבסיס לביקורת ולהגנה אם תתעורר שאלה.
- **חריגים וביקורת:** מתי אין צורך בסימון, ומי בודק שהמדיניות מיושמת בפועל.
הסימון אינו רק ציות, הוא בניין אמון. קורא או לקוח שמגלה בדיעבד שתוכן שהוצג לו כאנושי הופק במכונה מאבד אמון, וחשיפה כזו עלולה אף לעלות כדי הטעיה לפי דיני הגנת הצרכן. סימון שקוף מראש הופך לנכס מוניטין, לא לנטל.
- **פרסומת עם מדיה סינתטית לא מסומנת**, שעלולה להיחשב מטעה. על הסיכון הזה בפרסום הרחבנו בבינה מלאכותית בשיווק ובפרסום.
- **מצג מקצועי שנכתב בבינה מלאכותית** ומוצג כחוות דעת אנושית בלי גילוי.
- **צ'אטבוט שאינו מגלה שהוא מכונה**, במיוחד כשהוא מוסר מידע מהותי.
- **תוכן שיווקי בנדל״ן**, כמו הדמיות נכס או תיאורי דירה שהופקו בבינה מלאכותית, שעלול להציג מצג לא מדויק של הנכס בלי שהצרכן יודע שמדובר בתוצר אוטומטי.
- מיפוי: היכן בארגון נוצר תוכן שהופק בבינה מלאכותית ומגיע לגורם חיצוני.
- תקן סימון אחיד, גלוי וקריא-מכונה.
- שילוב הסימון בתהליך העבודה, ולא כצעד שנזכרים בו בסוף.
- תיעוד מה הופק בעזרת הכלי.
- בדיקה תקופתית שהמדיניות מיושמת.
הנושא נוגע לשני התחומים שבהם מוביל המשרד: ממשל הבינה המלאכותית מצד אחד, ושיווק ותוכן בנדל״ן מצד שני. על מסגרת מדיניות ה-AI הרחבה בארגון הרחבנו במדיניות שימוש בבינה מלאכותית בארגון.
ד״ר עו״ד אברהם ללום מלווה ארגונים בבניית מדיניות שקיפות וסימון לתוכן שנוצר בבינה מלאכותית. העמדה שד״ר ללום מיישם פשוטה: שקיפות מראש זולה מהתיקון בדיעבד, והיא גם מה שהחוק והלקוח מצפים לו.
מאמר זה הוא מידע כללי ואינו מהווה ייעוץ משפטי. היקף חובות השקיפות משתנה לפי השיפוט ולפי סוג התוכן, ויש לבחון כל מקרה לגופו עם עורך דין.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה