מכונה יכולה לסמן. השאלה היא איפה הדין והמסגרות המקובלות דורשים או מציעים שאדם יכריע. כאן שש נקודות כאלה, כל אחת בלשון המקור ועם קישור אליו, כדי שאפשר יהיה לבדוק אותן בעצמכם.
AI Act Article 14(1), חיקוק מחייב. האדם נכנס כבר בתכנון: המערכת צריכה להיבנות כך שאדם יוכל לפקח עליה בזמן השימוש.
High-risk AI systems shall be designed and developed in such a way, including with appropriate human-machine interface tools, that they can be effectively overseen by natural persons during the period in which they are in use.
AI Act Article 14(3), חיקוק מחייב. עוצמת הפיקוח האנושי נקבעת לפי הסיכון, מידת האוטונומיה והקשר השימוש.
The oversight measures shall be commensurate with the risks, level of autonomy and context of use of the high-risk AI system
AI Act Article 14(4)(b), חיקוק מחייב. מי שמפקח צריך להישאר מודע לנטייה להסתמך על פלט המכונה באופן אוטומטי או יתר על המידה.
to remain aware of the possible tendency of automatically relying or over-relying on the output produced by a high-risk AI system (automation bias)
AI Act Article 14(4)(d), חיקוק מחייב. האדם יכול להחליט שלא להשתמש במערכת, או להתעלם מהפלט שלה, לעקוף אותו או להפוך אותו.
to decide, in any particular situation, not to use the high-risk AI system or to otherwise disregard, override or reverse the output of the high-risk AI system
AI Act Article 14(4)(e), חיקוק מחייב. האדם יכול להתערב בפעולת המערכת ולעצור אותה, באמצעות כפתור עצירה או הליך דומה.
to intervene in the operation of the high-risk AI system or interrupt the system through a 'stop' button or a similar procedure that allows the system to come to a halt in a safe state.
NIST AI RMF GOVERN 3.2, מסגרת וולונטרית. ארגון מגדיר מראש מי אחראי על מה כשאדם ומכונה עובדים יחד, ומי מפקח.
Policies and procedures are in place to define and differentiate roles and responsibilities for human-AI configurations and oversight of AI systems.
סעיף 14 חל על מערכות בינה מלאכותית מסווגות high-risk בלבד, ולא על כל מערכת AI. ה-AI RMF אינו חיקוק. ארגון מאמץ אותו מרצונו, והוא אינו מחייב איש.
קריאה נוספת: פיקוח אנושי אפקטיבי על מערכות AI: איך מיישמים בפועל
הציטוטים נבדקו מול שני מקורות רשמיים בתאריך 17.10.2026. מה שלא נבדק בשני מקורות אינו מופיע כאן.
העמוד מספק מידע כללי ואינו ייעוץ משפטי. הוא מתאר מה כתוב בשני מסמכים, ולא אם ומה חל על ארגון מסוים, וזו שאלה שמחייבת בחינה פרטנית. כל הציטוטים באנגלית כלשונם במקור.
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה