אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר.
מי אחראי להפליה שעושה בינה מלאכותית בין גברים ונשים ולהעדפה של לבנים?

30 דקות או פחות

מי אחראי להפליה שעושה בינה מלאכותית בין גברים ונשים ולהעדפה של לבנים?

בינה מלאכותית נכנסת לעוד ועוד תחומים, ולאט לאט מתגלות הבעיות בשימוש בה. עדי פולק ממיקרוסופט, שנבחרה לאחרונה לאחת מ-25 הנשים המשפיעות בעולם התוכנה, מסבירה מאיפה מגיעות ההטיות שמשפיעות על האלגוריתם ואיך אפשר לטפל בכך

04.12.2019, 12:18 | שירות כלכליסט

לקבלת פנים כזו אפל לא ציפתה: החברה נכנסה השנה לתחום חדש והשיקה לאחרונה כרטיס אשראי ביחד עם גולדמן זאקס, ובמהירות גילתה שמשהו היה חסר בהכנות למהלך. היזם דייוויד היינמאייר הנסון יצא נגד אפל קארד, לאחר שגילה כי האלגוריתם נתן לו פי 20 אשראי משנתן לאשתו. לביקורת שלו הצטרף לא אחר מאשר סטיב ווזניאק, שהקים ביחד עם סטיב ג'ובס את אפל, וטען גם הוא שקיבל אשראי גבוה פי 10 מזה שקיבלה אשתו - למרות שלדבריו כל הנכסים שלהם משותפים.

אפל לא לבד: באמזון החליטו לייעל את תהליך סינון קורות החיים שנשלחים אל החברה, והחלו להשתמש באלגוריתם שיבצע את המשימה. אבל כעבור זמן קצר גילו בחברה שהאלגוריתם נוטה להעדיף גברים לבנים מאזורים מסוימים.

אז מה בדיוק קורה כאן? חשבנו שאלגוריתם ובינה מלאכותית אמורים להיות ניטרליים לחלוטין ולעזור להתגבר על הטיות. עדי פולק, תומכת פיתוח בכירה בענן במיקרוסופט (CDA) שנבחרה לאחרונה לאחת מ-25 הנשים המשפיעות בעולם התוכנה, מגיעה לאולפן הפודקאסט "30 דקות או פחות" ומסבירה שהבעיה יכולה להגיע גם מהמידע שמוזן למערכות וגם מהאלגוריתם עצמו.

עדי פולק עדי פולק עדי פולק

במקרה של אפל, למשל, יכול להיות שאפשר היה לוותר בכלל על פילוח המגדר כקריטריון שעוזר לבחון את גובה האשראי שמעניקים ללקוחות, ויכול להיות שהמידע שהוזן למערכת מבוסס על פערי שכר שעדיין קיימים בין גברים ונשים.

פולק מספרת איך מתמודדים עם ההטיות שמשפיעות על האלגוריתם, מה בודקים חוקרים בתחום, איך בונים מערכת בצורה טובה יותר כדי לנטרל את ההטיות ואיך משתמשים בבינה מלאכותית בצורה שלא תרתיע את הצרכנים.

מי אחראי להפליה שעושה בינה מלאכותית בין גברים ונשים ולהעדפה של לבנים?
 
להאזנה לפודקאסט
לחץ כאןמי אחראי להפליה שעושה בינה מלאכותית בין גברים ונשים ולהעדפה של לבנים?
 
 
מראיינים:

נבות וולק, איש הייטק.

הילה בר, מנהלת מוצר ב-Vonage.

שיתוף בטוויטר שיתוף בוואטסאפ שיתוף בפייסבוק שיתוף במייל

תגיות