ד"ר איה סופר: "איך אפשר להפוך AI להוגנת? פשוט לבחון, לדווח ולתקן"

"מה נדרש כדי שנוכל לתת אמון בהחלטות שנעשות על ידי בינה מלאכותית?" שאלה ד"ר איה סופר, סגנית נשיאה לבינה מלאכותית במעבדות המחקר העולמיות של IBM, בוועידת Mind The Tech TLV של כלכליסט ובנק לאומי.

"כבר היום בינה מלאכותית (AI) משמשת ככלי עזר בארגונים להחלטות קריטיות - האם לקבל עובד לעבודה ובאיזה שכר, האם לקבל סטודנט לאוניברסיטה ובארה"ב גם במערכת השיפוט והענשיה לקציבת עונשים".

לדבריה במעבדות של IBM "זיהינו במעבדות שלנו 4 שאלות מרכזיות:

1. האם המערכת הוגנת

2. האם אפשר להבין מדוע קיבלה את ההחלטה

3. האם אני יכולה להיות בטוחה שלא חיבלו בה

4. האם יש שקיפות במערכת"

"אז איך אפשר להפוך AI להוגנת?", שואלת סופר, "רק לפני שבוע שמענו על מערכת שנתנה קו אשראי גבוה פי 20 לגבר מאשר לאישה עם פרמטרים דומים. התשובה היא לבחון, לדווח ולתקן. מה לבחון? את הדאטה, המודלים והתוצאות".

סופר הראתה דוגמה למערכת שממליצה האם לתת הלוואה ללקוח מסוים. במקרה זה המערכת זיהתה שאמריקאי ממוצא אינדיאני מקבל אישור רק 75% מהמקרים בהשווואה למשל ל-90% עבור אמריקאים ממוצא אסיאתי. החשיבות, היא מדגישה, שהמערכת זיהתה את הבעיה והתריעה עליה.

"לגבי השאלה מה עומד מאחורי המערכת", אמר סופר, "זו שאלה מורכבת משום שלכל צד אינטרסים שונים, במקרה הזה למשל הצדדים של הלווה, המלווה והרגולטור. כמה מהפתרונות האפשריים הם למשל לבחור במודלים שהם יותר ברי הסברה. דוגמה פשוטה אחת מהמערכת שלנו היא הסבר מה נכנס לשקלול שהביא לאישור ההלוואה, גורמים בעד ונגד.

"נושא החבלה הוא נושא מאוד חם בעולם היום", אומרת סופר ומספקת כמה דוגמאות לדרכים לעיוות מידע או היתול במערכת המתמחה בזיהוי פנים. "המערכת של IBM מדמה סוגי התקפות ומתאימה להן הגנות הולמות", אמרה.

בתחום השקיפות סופר משווה את הבינה המלאכותית לתוויות המזון שמפרטות אילו רכיבים יש בו ואומרת שבעתיד יש להכיל סטנדרטים דומים על כלי בינה מלאכותית.

"אפשר לתת אמון במערכות בינה מלאכותית בתנאי שיש לנו את המידע המתאים, אני ממליצה שכל ארגון שרוצה לעשות שימוש בבינה מלאכותית ייפתח כלי בדיקה כמו אלה שהראיתי עכשיו", אמרה סופר.