כלי בינה מלאכותית מסמן ממצאים בהדמיה ובמעבדה, אך סימון אינו אבחנה. מדריך לתיקוף הכלי על האוכלוסייה הרלוונטית, להטיה שמסוכנת כשההחלטה נראית אובייקטיבית, לאחריות הרופא והמוסד, ולתיעוד שרשרת ההחלטה.
אחד השימושים הבולטים של בינה מלאכותית ברפואה הוא בתמיכה באבחון ובפענוח הדמיה: מערכת שמסמנת ממצא חשוד בצילום, בבדיקת MRI או בתשובת מעבדה, או שמדרגת מקרים לפי סבירות. היכולת מרשימה, אך כאן בדיוק נדרשת זהירות כפולה, משום שהתוצאה נוגעת לאבחנה של אדם, והכלי עלול לפספס, להתריע יתר על המידה, או לטעות דווקא במקרה החריג.
מאמר זה עוסק בבקרה, בתיקוף ובאחריות סביב שימוש כזה.
כמו בכל תחום, חשוב להפריד בין מה שהכלי עושה למה שהוא לא. מערכת מזהה ומסמנת ממצא אפשרי, אך האבחנה היא פעולה רפואית ששייכת לרופא המוסמך. סימון שמתקבל כאבחנה בלי בחינה עצמאית, או היעדר סימון שמתקבל כ"אין ממצא" בלי שיקול דעת, שניהם מסוכנים. הכלי הוא עין נוספת, לא העין היחידה, ובמקרה החריג, שבו דווקא נדרשת תשומת לב, הוא עלול להיות פחות אמין.
מערכת אבחון מתוקפת על נתונים מסוימים, ובטיחותה נמדדת בממוצע על אוכלוסייה מסוימת. אבל הרופא מטפל במקרה הקונקרטי, לא בממוצע. אם האוכלוסייה שעליה תוקף הכלי אינה מייצגת את המטופל שלפניו, ביצועיו עשויים להיות שונים בתכלית. לכן תיקוף הכלי על האוכלוסייה הרלוונטית, ומעקב אחר ביצועיו לאורך זמן, אינם פורמליות אלא תנאי לשימוש בטוח.
מוסד שמטמיע מערכת אבחון צריך לדעת על מה היא תוקפה, ולא רק שהיא "מדייקת".
הטיה בכלי אבחון אינה תאורטית: מודל שאומן בעיקר על קבוצה אחת עלול לטעות יותר בקבוצות אחרות, והטעות מתורגמת ישירות לאבחון שגוי או מאוחר. בהדמיה ובמעבדה, שבהן ההחלטה נראית "אובייקטיבית", ההטיה מסוכנת במיוחד כי קשה יותר לחשוד בה. בדיקת הטיה על התוצאה היא חלק מהבטיחות, והיא גם מה שמאפשר למוסד להראות, אם יידרש, שנקט אמצעים סבירים.
כשאבחון מבוסס, כולו או חלקו, על פלט של כלי, האחריות המקצועית נשארת על הרופא ועל המוסד. "המערכת לא סימנה" אינו פוטר רופא מחובת הבחינה, ו"המערכת סימנה" אינו מצדיק פעולה בלי שיקול דעת. לצד זה עשויה לקום אחריות של יצרן הכלי, במיוחד אם הכלי פגום או שווק לשימוש שלא תוקף לו, אך היא אינה גורעת מאחריות נותן הטיפול כלפי המטופל.
ככל שהממצא קריטי יותר, הבקרה האנושית נדרשת לפניו.
כדי שההחלטה תהיה ניתנת להגנה, צריך לתעד לא רק את התוצאה אלא את שרשרת ההחלטה: מה סימן הכלי, מה בחן הרופא, ומה הנימוק להחלטה הסופית. תיעוד כזה מגן על הרופא ועל המוסד, ומאפשר ללמוד מטעויות במקום לגלותן דרך תביעה. מערכת שאי אפשר לשחזר כיצד הגיעה לפלט, ושאינה מתעדת את מעורבות האדם, מחלישה את ההגנה בדיוק במקום הרגיש.
מוסד שמטמיע כלי אבחון או פענוח הדמיה צריך לתקף אותו לאוכלוסייה ולשימוש הרלוונטיים, לשמר את אחריות הרופא ואת שיקול דעתו כגורם המכריע, לבדוק הטיה ולעקוב אחר ביצועים, ולתעד את שרשרת ההחלטה. המשרד, בהובלת ד״ר עו״ד אברהם ללום, מלווה גופים רפואיים בבניית ממשל לשימוש בכלי אבחון מבוססי בינה מלאכותית. העיקרון שד״ר ללום חוזר אליו קבוע: הכלי מסמן, הרופא מאבחן, ומה שלא ניתן לתקף, לבחון ולתעד אינו מוכן לשמש באבחנה של אדם.
הערה: אין באמור ייעוץ משפטי או רפואי או תחליף להם. שימוש בכלי אבחון מבוסס בינה מלאכותית כפוף לדין המשתנה, לרגולציה של מכשור רפואי ולהנחיות הרגולטור, ומחייב בחינה פרטנית מול עורך דין מורשה ומול הגורמים המוסמכים.
מאמר זה הוא חלק מסדרת המדריכים של LALUM לבינה מלאכותית ברפואה. לתמונה המלאה ראו את אחריות רפואית ומסגרת הרגולציה.
נושא: בינה מלאכותית וממשל סיכונים
ייעוץ וחוות דעת נדל״ן · ייעוץ וחוות דעת AI · ייעוץ משפטי · גישור ויישוב סכסוכים · מאמרים · שאלות ותשובות · מבדק מוכנות · לקביעת שיחה