בינה מלאכותית ברפואה מזרזת אבחון, הדמיה ותיעוד, אך היא תמיכה בהחלטה ולא החלטה, והאחריות נשארת על הרופא והמוסד. מדריך לאחריות הרפואית, לרגולציה של תוכנה כמכשיר רפואי, לפרטיות מידע בריאותי, ולשיקול דעת קליני שאינו ניתן להאצלה.
בינה מלאכותית נכנסת לרפואה במהירות: תמיכה באבחון, פענוח הדמיה, מיון ותעדוף מטופלים, תיעוד קליני, וניהול. ההבטחה גדולה, אך רפואה היא בדיוק התחום שבו טעות של כלי פוגעת ישירות באדם, והמסגרת המשפטית סביבה צפופה: אחריות רפואית, רגולציה של תוכנה כמכשיר רפואי, פרטיות מוגברת של מידע בריאותי, הסכמה מדעת, ושיקול דעת קליני שאינו ניתן להאצלה.
מאמר זה ממפה היכן AI נכנס לרפואה והיכן מתרכזת החשיפה המשפטית של רופאים ושל מערכות בריאות.
רוב השימושים כיום הם תמיכה בהחלטה, לא החלטה: מערכת שמסמנת ממצא בהדמיה, כלי שמתעדף פניות לפי דחיפות, סיוע בכתיבת סיכום קליני, התראות על אינטראקציות בין תרופות, וייעול תהליכים מנהליים. בכל אלה הכלי מזרז ומצמצם עומס, ובלבד שהוא עזר לרופא ולא תחליף לשיקול דעתו. התקלה מתחילה כשההמלצה האלגוריתמית הופכת, בשתיקה, לבסיס ההחלטה בלי שרופא מוסמך בחן אותה לגופה.
זו שאלת הליבה. כלי בינה מלאכותית אינו רופא מורשה, אין לו אחריות מקצועית, והיא נשארת על הרופא ועל המוסד הרפואי. "המערכת המליצה" אינו הגנה: הרופא אחראי לבדוק את התוצר ולהפעיל שיקול דעת, והמוסד אחראי להטמיע את הכלי באופן בטוח ולפקח עליו. לצד זה עשויה לקום אחריות נוספת של יצרן הכלי, אך היא אינה גורעת מאחריות נותן הטיפול כלפי המטופל.
ככל שההשפעה על המטופל גדולה יותר, כך נדרשת בקרה אנושית הדוקה יותר לפני הפעולה.
כלי בינה מלאכותית המשמש להחלטה קלינית עשוי להיות כפוף לרגולציה של מכשור רפואי, הן בישראל והן במסגרות בינלאומיות, ובאירופה שימוש קליני נוטה להיכנס לקטגוריית סיכון גבוה תחת רגולציית ה-AI. שימוש בכלי שלא עבר את האישור המתאים לשימוש קליני, או שימוש בו מעבר למה שאושר, הוא חשיפה בפני עצמו. המוסד צריך לדעת לא רק שהכלי "עובד", אלא שהוא מורשה לשימוש שנעשה בו בפועל, ושהשימוש תואם את תחולת האישור.
מידע רפואי הוא מהמידע הרגיש ביותר, ונהנה מהגנה מוגברת. הזנת מידע מטופלים לכלי בינה מלאכותית, ובמיוחד לכלי של ספק חיצוני, מחייבת בסיס חוקי, צמצום המידע לנדרש, אבטחה, ובקרה על שימוש משני. הסכנה הגדולה היא שימוש במידע מטופלים לאימון מודלים בלי בסיס, או העברתו לצד שלישי בלי הסדר. כמו בכל שימוש של גוף באחריות ציבורית או מקצועית, האחריות על המידע נשארת על המוסד הרפואי גם כשהעיבוד נעשה אצל ספק.
ההכרעה הקלינית מסורה לרופא המורשה ואינה ניתנת להעברה למכונה. הכלי יכול להציף, לסכם ולהציע, אך הרופא הוא שמחליט, מאמת מול המטופל הקונקרטי, ומתעד את נימוקיו. במקרים המתאימים, מעורבות של בינה מלאכותית בטיפול היא חלק מהמידע שהמטופל זכאי לו במסגרת הסכמה מדעת. רופא שמאמץ המלצה אלגוריתמית בלי בדיקה עצמאית אינו ממלא את חובת הזהירות שלו, גם אם הכלי מדייק בממוצע.
מודל שאומן על אוכלוסייה שאינה מייצגת עלול לטעות דווקא בקבוצות שלא היו מיוצגות בנתונים, וברפואה טעות כזו מתורגמת לפגיעה בבריאות. לכן תיקוף הכלי על האוכלוסייה הרלוונטית, מעקב אחר ביצועיו לאורך זמן, ובדיקת הטיה אינם שיקולים תאורטיים אלא תנאי לבטיחות ולחוקיות השימוש. כלי בטוח בממוצע אינו בהכרח בטוח במקרה הקונקרטי שלפני הרופא.
מוסד רפואי או נותן שירות שמכניס בינה מלאכותית צריך לתקף את הכלים לשימוש שנעשה בהם, לשמר את אחריות הרופא ואת שיקול דעתו, להגן על מידע המטופלים ולהסדיר שימוש משני, לבדוק הטיה ובטיחות, ולקבל בדיקה משפטית לפני הטמעה קלינית. המשרד, בהובלת ד״ר עו״ד אברהם ללום, מלווה גופים וארגונים בבניית ממשל כזה לשימוש בבינה מלאכותית.
העיקרון שד״ר ללום חוזר אליו קבוע: ברפואה, מה שלא ניתן להסביר, לתעד ולהעמיד לבדיקה אנושית אינו מוכן לשמש בהחלטה שנוגעת לגוף אדם.
הערה: אין באמור ייעוץ משפטי או רפואי או תחליף להם. השימוש בבינה מלאכותית ברפואה כפוף לדין המשתנה, לרגולציה של מכשור רפואי ולדיני הגנת הפרטיות, ומחייב בחינה פרטנית מול עורך דין מורשה ומול הגורמים המוסמכים.
מאמר זה הוא עמוד העוגן של סדרת LALUM על בינה מלאכותית ברפואה. להעמקה לפי נושא ראו את הטמעת מערכת קלינית מול הספק, הסכמה מדעת ושקיפות, אבחון ופענוח הדמיה, ואת פרטיות מידע בריאותי.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה