בינה מלאכותית כבר כעת ובוודאי בעתיד תהיה חלק מחיי היום יום שלנו: היא תפעיל מכוניות חכמות, תשתתף בתהליכי קבלה לעבודה וקביעת זכאות לאשראי או לביטוח, תסייע במחקר מדעי, וגם בפיתוחים רפואיים חדשניים של תרופות ובקבלת החלטות רפואיות.
ברור כי לבינה המלאכותית כח עצום לשפר את בריאות הנשים ולפתור בעיות שנזנחו שנים רבות: כך, נעשה שימוש ביישומי בינה מלאכותית על מנת לזהות סרטן צוואר הרחם ללא ביופסיה, לייעל הפריה חוץ גופית תוך שיפור הסיכויים והפחתת הטיפול ההורמונלי, ולקדם אבחון מוקדם של סרטן השד. כך למשל, חוקרים בMIT (Massachusetts Institute of Technology) נתנו לבינה מלאכותית ללמוד עשרות אלפי תמונות ממוגרפיה.
כתוצאה מכך הם מפתחים אלגוריתם לניבוי מוקדם של סרטן השד לא רק בהסתמך על היסטוריה משפחתית וגיל, אלא על מגוון רחב של מאפיינים שהעין האנושית לא יודעת לתפוש. במיוחד מעניין שבעוד שמחקרי עבר התמקדו בנשים לבנות, המחקר הנוכחי כולל גם ניבוי מוקדם ספציפי עבור נשים אפרו-אמריקאיות.
תוכנה מבוססת בינה מלאכותית הקצתה לגבר מסגרת אשראי גדולה פי עשרה מזו של אשתו, כאשר נכסיהם משותפים, חשבון הבנק שלהם משותף ונתונים הפיננסים זהים, תיעדפה חולים לבנים באופן מובהק על פני חולים אפרו-אמריקאים בניתוב לתכניות ביטוח מיטיבות
לצערנו, קיימות גם לא מעט דוגמאות על כך שתוכנה מבוססת בינה מלאכותית הנציחה את יחסי הכוחות הלא מאוזנים בין גברים ונשים או החלישה עוד יותר אוכלוסיות מוחלשות: תוכנה מבוססת בינה מלאכותית הקצתה לגבר מסגרת אשראי גדולה פי עשרה מזו של אשתו, כאשר נכסיהם משותפים, חשבון הבנק שלהם משותף ונתונים הפיננסים זהים, בנוסף, תוכנה של בינה מלאכותית שיושמה בבתי חולים בארצות הברית תיעדפה חולים לבנים באופן מובהק על פני חולים אפרו-אמריקאים בניתוב לתכניות ביטוח מיטיבות.
הסיבות להטייה זו ידועות: בינה מלאכותית מבוססת על אלגוריתם שבוחן ומאתר דפוסים שונים במאגרי מידע, כאלה שלעיתים העין או המוח האנושי לא היה מאתר לעולם. ואולם, פעולה זו אינה "אובייקטיבית" כפי שאולי נדמה.
במקרה של מחקר רפואי קליני בנושא מחלות לב הבינה המלאכותית עלולה לעוות את המידע בין חולות וחולי לב. הבסיס לפתרון הוא הרחבת מאגרי המידע וייצוג האוכלוסיות השונות בו ובהן בוודאי גם נשים
האלגוריתם עובד על מאגר מידע מסוים. ככל שהמידע המצוי במאגר הוא חסר ואינו מייצג את כלל האוכלוסיות, גם המסקנות של האלגוריתם יהיו חלקיות. במקרה של מחקר רפואי קליני בנושא מחלות לב, למשל, אם מאגר המידע התבסס בעיקר על גברים או לא לקח בחשבון את ההטיות הידועות של מטפלים ביחס למחלות לב בנשים, ההמלצות של בינה מלאכותית עלולות להיות בלתי מותאמות לנשים חולות לב, שהמחלה מתבטאת אצלן באופן שונה. ברור, אם כן, כי הבסיס לפתרון הוא הרחבת מאגרי המידע וייצוג האוכלוסיות השונות בו ובהן בוודאי גם נשים.
יותר מכך, אלגוריתמים לזיהוי דפוסים בבדיקות דימות ובמשטחי פתולוגיה מצליחים לזהות גם תמונות שהעין האנושית רואה כתקינות, כבעלות סממנים סרטניים. שילובן של נשים רבות ככל האפשר במאגרי מידע יאפשר לנו לזהות דפוסי מחלה שלא הכרנו, גם באוכלוסיה ה"בריאה", ובכך להתגבר על חלק מההטיות המגדריות ברפואה.
חוץ משילוב נשים במחקרים, מה עוד צריך לקרות כדי שהבינה המלאכותית תהפוך לבטוחה ומועילה יותר עבור נשים?
הפתרון המרכזי הוא שקיפות אלגוריתמית והסברתיות - היכולת להסביר את התהליך שהוביל את האלגוריתם להסקת מסקנותיו. בניגוד לשיטת העבודה של רופאים אשר פועלים לפי תהליכי חשיבה שגרתיים והיוריסטיקות, בינה מלאכותית נראית לרבים כקשה להבנה ולהתחקות אחר דרך פעולתה ("קופסה שחורה").
נראה שאין מנוס משילוב שקיפות והסברתיות בכל תכנון מערכת חדשה על מנת לאפשר בקרה חיצונית של מומחים שיעריכו את נכונות התוצאות ויאתרו הטיות אפשריות בזמן אמת. בחינה זו תאפשר גם לאתר הטיות מגדריות באופן אקטיבי ולנטרל אותן, ואולי אף לשפר את הפתרונות הרפואיים הניתנים כיום לנשים.
העיסוק בבינה מלאכותית חושף את העיוותים הקיימים כיום במאגרי המידע ובאמצעים הרפואיים הקיימים, ומהווה הזדמנות של ממש לבחון ולגבש מחדש פתרונות בתחום בריאות האישה. לצד זאת, על המטופלות, הרופאות והרופאים להיות מודעים לכשלים האפשריים בשימוש בבינה מלאכותית בתחום בריאות האישה, ולקחת אותם בחשבון בעת קבלת החלטות.
הכותבים הם: עו"ד תמר תבורי, יועצת מיוחדת, משרד עו"ד יגאל ארנון ושות. וד"ר איתמר נצר, מומחה בגניקולוגיה ומנהל רפואי, קופת חולים כללית