מאוגוסט 2026 חלות חובות השקיפות של חוק ה-AI האירופי: מתי חובה לומר למשתמש שהוא מדבר עם מכונה, מתי חובה לסמן תוכן מסונתז, מה נדרש מספקי מודלי יסוד, ומה כל זה אומר לחברה ישראלית שמוכרת לאירופה.
חובות השקיפות של חוק ה-AI האירופי (EU AI Act) הן החלק שנוגע למספר הרב ביותר של ארגונים. בניגוד לחובות הכבדות שחלות רק על מערכות בסיכון גבוה, חובות השקיפות חלות גם על מערכות שנחשבות סיכון נמוך, ובכללן כלים שארגונים משתמשים בהם כבר היום: צ'אטבוט באתר, כלי שמייצר תמונות לשיווק, ומערכת שמנסחת טקסטים. מאמר זה מסביר מה נדרש, ממי, ומה המשמעות לארגון ישראלי.
מדרג התחולה של החוק פרוס על פני מספר שנים, וחובות השקיפות נכנסות לתחולה בשלב מאוחר יחסית, באוגוסט 2026. ארגונים רבים דחו את הטיפול בהן בדיוק בגלל זה. התוצאה היא שרבים מהם מפעילים היום כלים שכפופים לחובות שכבר חלות, בלי שנעשתה בדיקה.
הראשונה נוגעת למערכות שמנהלות אינטראקציה עם בני אדם. אם המשתמש מתקשר עם מערכת בינה מלאכותית, יש ליידע אותו בכך, אלא אם הדבר ברור מאליו לאדם סביר בנסיבות העניין. צ'אטבוט שירות לקוחות שמתחזה לנציג אנושי הוא הדוגמה המובהקת.
השנייה נוגעת למערכות לזיהוי רגשות ולקטגוריזציה ביומטרית. כאן חובה ליידע את מי שנחשף למערכת, וזאת בנוסף לחובות הנפרדות שנובעות מדיני הגנת הפרטיות.
השלישית נוגעת לספקי מערכות שמייצרות תוכן מסונתז: טקסט, תמונה, אודיו או וידאו. הפלט צריך להיות מסומן בפורמט קריא למכונה, כך שניתן יהיה לזהות אותו כתוצר של מערכת ולא כתוצר אנושי.
הרביעית נוגעת למי שמפעיל מערכת כזו ומפרסם את התוצר. תוכן שהוא דיפפייק מחייב גילוי, וטקסט שמתפרסם כדי ליידע את הציבור בעניינים בעלי עניין ציבורי מחייב גילוי גם הוא, אלא אם התוכן עבר בקרה אנושית ויש גורם שנושא באחריות עריכתית עליו.
חובת הסימון של תוכן מסונתז אינה מוגבלת לדיפפייק ואינה מוגבלת לתוכן שנועד להטעות. היא חלה על הפלט מעצם היותו מסונתז. ארגון שמייצר תמונות מוצר לקמפיין, או מנסח תיאורי מוצר אוטומטית, נמצא בתחולה גם כשאין לו שום כוונה להטעות איש.
ההבחנה השנייה שחשוב להפנים היא בין ספק לבין מפעיל. חובת הסימון הטכני חלה על ספק המערכת. חובת הגילוי לציבור חלה על מי שמפרסם את התוכן. ארגון שמשתמש בכלי חיצוני הוא מפעיל, ולכן חובת הגילוי היא שלו, גם אם הספק מילא את חלקו.
על ספקי מודלים למטרות כלליות (General Purpose AI) חלה מערכת חובות משלה: תיעוד טכני של המודל, מידע שיאפשר לספקים במורד השרשרת לעמוד בחובות שלהם, מדיניות לעמידה בדיני זכויות יוצרים, ותקציר פומבי בדבר התוכן ששימש לאימון.
מודלים שמסווגים כבעלי סיכון מערכתי, בדרך כלל בשל עוצמת חישוב חריגה, כפופים לשכבה נוספת: הערכת מודל שיטתית, בדיקות עמידות יזומות, דיווח על תקריות חמורות, ואמצעי הגנת סייבר.
רוב הארגונים אינם ספקי מודל יסוד, אבל כמעט כולם צרכנים שלו. המשמעות המעשית היא שהמידע שהספק חייב למסור הוא המידע שהארגון צריך כדי לעמוד בחובות שלו. אם הספק לא מספק אותו, זו נקודה שצריכה לעלות בחוזה ולא אחרי אירוע.
החוק אינו שואל היכן החברה רשומה אלא היכן נמצאים המשתמשים והיכן נעשה שימוש בפלט. חברה ישראלית עם לקוחות באירופה, או מוצר שמשרת משתמשים שם, נמצאת בתחולה. שאלת המקום שבו נמצאים השרתים אינה מכריעה.
נקודה נוספת שקל לפספס: החובות עוברות בשרשרת. ספק ישראלי שמשלב מודל של צד שלישי במוצר שלו ומוכר אותו ללקוח אירופי, נדרש להעביר הלאה את המידע ואת הסימון, ולא רק להסתמך על כך שהספק שלו עשה זאת.
ההיערכות מתחילה במיפוי: אילו כלים ג'נרטיביים פועלים בארגון, מי הספק של כל אחד, ומה הפלט שלהם. אחריה באה הכרעה לגבי כל כלי: האם הארגון ספק או מפעיל, ואיזו חובה חלה עליו בהתאם. לבסוף, שני צעדים שנוטים להידחות ולא כדאי לדחות: ניסוח נוסח הגילוי שיוצג למשתמשים, ובדיקה של החוזה מול הספק כדי לוודא שהמידע שהארגון זקוק לו אכן יימסר לו.
תשתית מסודרת כאן זולה. אותה עבודה תחת לחץ של לקוח שדורש תשובה, או במסגרת בדיקת נאותות, יקרה בהרבה.
הערה: אין באמור ייעוץ משפטי או תחליף לו, והוא אינו מהווה חוות דעת מחייבת. כל מקרה מחייב בחינה פרטנית מול עורך דין מוסמך.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ נדל״ן והתחדשות עירונית · ייעוץ AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · תיאום פגישה