מצטערים, התוכנה קבעה שאת יותר מדי אישה בשביל לעבוד באמזון

דו"ח טכנולוגי

מצטערים, התוכנה קבעה שאת יותר מדי אישה בשביל לעבוד באמזון

ליקוי חמור בתוכנת סינון קורות החיים של הענקית האמריקאית הוביל להטייה מיזוגנית קשה בבחירת מועמדים למשרות, מנכ"ל אובר לא מפחד מקאמבק של קודמו המופרע, ומי ישלם 2,000 דולר בשביל סמארטפון מתקפל

10.10.2018, 14:37 | ניצן סדן

החלטנו להמשיך עם מועמד אחר

"הטכנולוגיה תרפא את החברה", טענו האוטופיסטים של ראשית ימי האינטרנט; החיבור בין אנשים יגשר על פערים וידחוף את האנושות קדימה, טענו חברות המדיה החברתית; הבינה המלאכותית תשפר את חיי כולנו, מדקלם עמק הסיליקון; את אישה ולכן אין סיכוי שתתקבלי לעבוד פה, טענה תוכנה חכמה של אמזון. מה קורה פה?

ענקית הקמעונאות האמריקאית, מהחברות הטכנולוגיה החזקות והמשפיעות ביותר, ניסתה לייעל את תהליך גיוס העובדים שלה. אותו גיוס מהווה חלק חשוב מאסטרטגיית התחרות שלה - וחברות בכל הגדלים סובלות ממאמצי אמזון לקטוף את העובדים שלהן. איך מייעלים תהליכים בימינו? עם אוטומציית תוכנה, כמובן.

מטה אמזון בסיאטל, צילום: שאטרסטוק מטה אמזון בסיאטל | צילום: שאטרסטוק מטה אמזון בסיאטל, צילום: שאטרסטוק

מקורות בתוך אמזון מסרו לסוכנות רויטרס שכשהחל פרויקט תוכנת הגיוס האוטומטית ב-2014, התלהבו המפתחים ורבו על הזכות להשתתף בו. התוכנה נבנתה כפנטזיה של כל איש משאבי אנוש: היא סרקה 100 טופסי קו"ח, סיננה מהם חמישה מועמדים מובילים, וחסכה זמן רב. אך הסינון שלה לא היה חכם או מודרני: נשים פשוט הוגדרו אוטומטית כפחות מתאימות. מסתבר שהאלגוריתמיקה מאחוריה נשענה על מסדי נתונים ישנים, בהם אישה שתיארה את ניסיונה בתפקיד "גברי" נתפסה כאנומליה. והתוכנה נועדה לגזור החוצה אנומליות, כך בסוף יתקבלו חמישה כוכבים, לא חמש כוכבות. אם לא די בכך, התוכנה הורידה אוטומטית את הניקוד של קורות החיים ברגע שזיהתה שמדובר באישה - אפילו אם הופיע איזכור בודד לכך (למשל, "נשיאת ליגת השחמט לנשים", לפי המקורות).

הכישלון האתי הזה רץ באין מפריע במשך שנה ויותר; המועמדות קיבלו תגובות "תודה על פנייתך, אך בחרנו להמשיך עם מועמד אחר", כשמילת המפתח פה היא "מועמד". החברה עלתה על הטעות בסופו של דבר, וניטרלה את התוכנה הסוררת.

אמזון אינה חברה מיזוגנית - לפחות לא יותר משאר ענקיות ההייטק בארה"ב; איך נפלה בטעות כזו? פשוט מאוד: גם התוכנה הכי חכמה בעולם צריכה רפרנס, מסד נתונים שמסביר לה איך נראה העולם, ומה מתוכו לשמור. ואם אותו מסד נתונים נבנה בידי אנשים עם מודעות נמוכה לשיוויון במקרה הטוב, או מיזוגניה טורבו במקרה הרע - יונצחו שגיאותיהם בתוכנה. תשתיות תוכנה רבות נשענות על אלגוריתמיקה ישנה ומאגרי מידע מעופשים, שכן הרבה יותר זול לשדרג מערכת מאשר לבנותה מחדש.

שיוויון? סליחה, תקלה שיוויון? סליחה, תקלה שיוויון? סליחה, תקלה

בשנה שעברה העריכה חברת Careerbuilder שכ-55% ממחלקות משאבי האנוש יסתמכו על כלי AI למיניהם בחמש השנים הבאות; אם טעויות כשל אמזון נעשו אצל אחרים (וממש אופתע לגלות אם לא), המשמעות היא שהמיזוגניה הקלאסית הארורה, של "שתי בלטות ליד הכיור", תמשיך לשבת על כתפינו בעתיד. הפיתרון היחידי הוא גוף ביקורת שיבחן ויתן אישורים למערכות גיוס כ"א; במדינות מתוקנות יש חקיקה שאוסרת על אפליה שכזו, אך היא נשענת על תלונות ודיווחים. חובה לבדוק את המערכות הללו לפני שהן פוגעות בנשים, ומשמרות את הפערים העקומים בחברה.

אובר נוסעת, אבל מי נוהג?

דארה קוסרשאהי, מנכ"ל אובר, הוא איש עם ג'וב מאוד קשה; לצד ציפיות הצמיחה ויתר אתגרי הניהול הרגילים, הוא מנווט ספינה שבמשך שנים רבות, נוהלה בידי אנשים מופרעים. קודמו, טראוויס קלאניק, קידם ברינה הטרדות מיניות ואלימות במשרד, עבר על חוקי תעבורה ורישוי היסעים בערך בכל מדינה שיש לה כאלה, פגע בפרטיות המשתמשים והנהגים והפך את אובר לחברה עם מוניטין רעיל. קלאניק אמנם הועזב, אך הרבה רפש נשאר אחריו, ומר קוסרשאהי נתקע עם הספונג'ה.

בראיון לוואניטי פייר, סיפר שהניקיונות הסתיימו. "החברה לא היתה מיושרת כשורה ברמה היסודית", ברר מילותיו. "אך הימים האלה מאחורינו". כשנשאל האם יש סיכוי שקלאניק ישוב לתפקידו לאחר הנפקת אובר שמתוכננת לשנה הבאה, נראה משועשע ואמר שאינו מוטרד מכך.

דארה קוסרשאהי, צילום: גטי אימג דארה קוסרשאהי | צילום: גטי אימג'ס דארה קוסרשאהי, צילום: גטי אימג

אך יתכן שהוא צריך להיות; דירקטוריון אובר מורכב ממשקיעים גדולים וחזקים מאוד, שבזכותם טיפסה לשווי מוערך של 70 מיליארד דולר - לפי ההערכות הכי אופטימיות. קלאניק הוא שהביא את המשקיעים, ולמרות שהם אלה שדחקו אותו הצידה, עדיין יש למייסד אחזקות רבות בחברה - ולפי הערכות, גם לא מעט תומכים ונאמנים בשדרות ההנהלה. אולי הם מתגעגעים לימים בהם דרכה החברה בעליצות על זכויות וחוקים, אולי זוכרים לטובה את קצב הצמיחה המהיר של ימי שלטונו. אך כשתונפק אובר, יהפוך כוחו של קלאניק לכסף, וכסף מדבר. צריך מידה מסוימת של גדלות נפש כדי לתת את החברה שהקמת לניהולו של מישהו אחר. וקלאניק הוא פשוט לא הטיפוס.

קוסרשאהי נמצא במצב לא רע מול הדירקטוריון; הוא זה שבחר בו, ובטח שמח לראות את החברה צומחת עם מבוגר אחראי על ההגה. אך הוא לא מנהיג, איש חזון, או יתר הנוצות שמקשטות את תואר הפאונדר; רק שכיר בכיר ותו לא.

טראוויס קלאניק, צילום: TechCrunch טראוויס קלאניק | צילום: TechCrunch טראוויס קלאניק, צילום: TechCrunch

ובינתיים, ממשיכה אובר להתמודד עם לחץ מצד הנהגים שלה, שרוצים לקבל תנאי עבודה מינימליים; השבוע אף פרצה שביתה כוללת בקרב נהגיה באנגליה - מחאה ארצית ראשונה מסוגה. יכול להיות שאם קוסרשאהי היה מייסד אובר, היה נענה לדרישותיהם, אפילו בצורה חלקית. אך הספינה שהוא מנווט נבנתה על ניצול הנהגים, וזה מה שאיפשר לה לצמוח במהירות עם מינימום עלויות תפעול. המבחן שלו, של הדירקטוריון ושל אח"י אובר יגיע עם ההנפקה, שבעצמה תהווה מבחן למודל כלכלת החלטורה. אבל עם כל האופטימיות של קוסרשאהי, לא אתפלא לראות את קלאניק צועד בג'ובסיות בחזרה אל כס המנכ"ל; עמק הסיליקון פשוט מת על קאמבקים.

מתקפלים כל הדרך אל הבנק

לאחרונה השיקה אפל את האייפון XS Max, שעולה החל מ-1,100 דולר - הסמארטפון הסטנדרטי היקר ביותר בייצור סדרתי. אבל אם נראה לכם שתעשיית המובייל תסתפק במחיר כזה, חכו כמה חודשים: טלפונים מתקפלים בעלי מסכים גמישים נמצאים בדרך אלינו, והם צפויים לעלות 1,500 וגם 2,000 דולר. זה נראה כאילו התעשייה נפלה על הראש: באלפיים דולר אפשר לקנות לפטופ גיימינג+סמארטפון מעולה, רמקול חכם וצמיד כושר - לרענן את כל ליין הגאדג'טים שלכם; מי ישלם כל כך הרבה על טלפון? לפי מחקר אופטימי שהתפרסם בקוריאה, יש הרבה אנשים כאלה.

הוא כולל תחזית של 3.1 מיליון מכירות בשנה הבאה, כשיגיעו ראשוני הטלפונים המתקפלים לחנויות - ושהמספר יזנק ל-63 מיליון יחידות עד 2022, שייצגו שוק של 8.9 מיליארד דולר.

עיצוב קונספט לטלפון מתקפל של וואווי, צילום: phoneworld עיצוב קונספט לטלפון מתקפל של וואווי | צילום: phoneworld עיצוב קונספט לטלפון מתקפל של וואווי, צילום: phoneworld

חברת DSCC, שערכה את המחקר, התבססה על מקורות בתעשיית המסכים - שבה יש אינטרס ברור להציג תחזיות ורודות. אך כשענקיות כסמסונג ויריבתה וואווי אצות לפתח טלפונים כאלה ובונות עליהם כסמלי חדשנות, שיקדמו את המותגים שלהן, כנראה שיש סיבה לאופטימיות. אבל קשה לערוך מחקר כזה בלי לשאול את הקהל האם הוא בכלל רוצה טלפון מתקפל, והאם זה שווה לו כל כך הרבה כסף. למעשה, אי אפשר לשאול את הקהל: אף אחד עוד לא ראה מכשיר כזה בגרסה גמורה.

אם תשאלו אותי, תמיד יימצאו חובבי צעצועים, כאלה שישלמו בכיף כדי שיהיה להם משהו גימיקי מגניב - אפילו אם אין בו ערך שמצדיק את תוספת המחיר. קחו לדוגמה את השעונים החכמים: הם נראו מגניבים ביותר כשהופיעו, אך עדיין לא הצליחו להפוך למקור רווח מהותי עבור חברות גדולות. על אף מאמצי השיווק של אפל, סמסונג והאחרות, הקהל הרחב מביט בשעונים ומפטיר "למה אני צריך כזה, כבר יש לי סמארטפון". ולכן, אני סבור שהטלפונים המתקפלים יקבלו תגובות דומות. המשתמש הסביר לא מחפש את הסקסאפיל הגאדג'טי, כי אם את המוצר שעושה את העבודה. וזה אומר מצלמות טובות יותר, סוללות שמחזיקות יותר משלושת-רבעי יום עבודה, עמידות טובה יותר לנפילות וכל השאר בונוס.

מסך מתקפל יוכל לעשות את האחיזה לנוחה יותר, או להגדיל את התצוגה כשרוצים להראות קליפ למישהו לידכם. עד שתומצא קטגוריית מובייל חדשה - למשל, משקפי AR שאיכשהו לא יקריפו את הסובבים עם המצלמות שלהם - יוטב לענקיות הטכנולוגיה לשפר את המוצרים שהצליחו להוכיח את עצמם. ולקהל הרחב אמליץ להמתין בסבלנות, לראות איזה ערך יש במכשירי השנה הבאה, ולא לרוץ ולזרוק אוטומטית 2,000 דולר רק כי וואווי וסמסונג רוצות שתקנו.

קצרצרים

1. האיחוד האירופי פסק לפני כשלושה חודשים שעל גוגל לשלם קנס עצום של 5 מיליארד דולר, בגין התנהלות מונופוליסטית בשוק מערכות ההפעלה. בעולם מושלם, היתה החברה מרכינה ראש, משלמת את הקנס ומקפידה לא לנהוג בבריונות כלפי מתחרים. אבל בעולם הזה אין מקום לאתיקה; משקיעי גוגל מצפים ממנה לאחוז בנשק ולהילחם, אף שעל לאחור. אז ברור שהחברה הגישה ערעור על הקנס, למרות שההוכחות נגדה ברורות כשמש בעמק הסיליקון. רק השבוע נודע שהחברה חיכתה חודשים ארוכים לפני שחשפה דליפת מידע ממערכותיה, פשוט כי לא רצתה לחטוף עונש. וזו חברה שהאימרה Do No Evil היתה המוטו שלה. מוטו חדש: Don't Get Caught.

2. פרשת הפריצה הסינית לחברות ומוסדות בארה"ב ממשיכה להכות גלים: הסנאטור האמריקאי ג'ון ת'ון, ראש ועדת המסחר, דורש לקבל הסברים מסופרמיקרו - החברה שסין שתלה במערכותיה שבב ריגול - ומהתאגידים שקנו ממנה את המערכות האמורות, בראשן אפל ואמזון. השתיים פיזרו הכחשות והבטיחו שהמעצמה היריבה לא הצליחה לחדור לרשתות שלהן. בימי הפוסט-אמת בהם אנו חיים, כולי תקווה שמר ת'ון לא יסתפק בכך - ויקרא לביצוע חקירה נפרדת. אם אכן הצליחו האקרים להשיג גישה למידע רגיש, הוגן שהלקוחות והמשקיעים ידעו זאת.

3. מניית זינגה צמחה אתמול ב-12%. כן, זינגה - אותה חברה שהביאה לנו את פארמוויל, את פארמוויל 2 ואז כלום. ואותה חברה שמנכ"לה מארק פינקוס הונה את העובדים בהנפקתה, במהלך שנתפס כנכלולי להדהים עד שהופיע טראוויס קלאניק והעלה את הרף. למה זינקה זינגה? משום שלפי הערכות, שחברות אחרות בתחום משחקי הקז'ואל מנהלות מגעים לרכישתה. בהתחשב בכך שלזינגה לא היה כותר מצליח או אפילו מורגש כבר שנים, כנראה שתהיה זו רכישת סגל וטכנולוגיה.

שיתוף בטוויטר שיתוף בוואטסאפ שיתוף בפייסבוק שיתוף במייל

תגיות



27 תגובות לכתיבת תגובה לכתיבת תגובה

26.
איך יודעים שמדובר בפייק ניוז
באנגלית אין התייחסות לגבר או אישה בתואר הפועל ולכן לא יכול להיות "נשיאת הליגה" כי זה יכול להיות גם גבר וגם אישה. אותו הדבר עם המשפט המגוכך "תודה על פנייתך, אך בחרנו להמשיך עם מועמד אחר", כשמילת המפתח פה היא "מועמד". ואולי זו מועמדת?
עליתי עליכם  |  11.10.18
24.
בשביל מה לשכור נשים? אין לכם מספיק באגים?
באמת צריך להוסיף גם מתח מיני במשרד? נו.... אני גזען, וגם חשוך, וגם השד יודע מה אבל אישה שמגיעה חצי ערומה למשרד (כי מותר לה. ברור) מפריעה לי לעבוד יותר ממזגן מקולקל מעניין מה אותה אישה היתה חושבת אם אני הייתי מגיע חצי ערום כל יום לעבודה אם זה העסק שלי - אין בו נשים. נקודה
משה הירוק  |  10.10.18
23.
דווקא נשמעת תוכנה חכמה הרבה יותר מכפי שמוצג
כנראה מדובר במערכת לומדת. כזאת שלא הוגדרו לה פרמטרים של התאמה מראש אלא היא נדרשה לזהות אותם. כנראה שסטטיסטית הסיכוי של אישה להיות פרודקטיבית בתפקידים מסוימים הוא נמוך יותר ולכן התוכנה סיננה אותם. לא מתוך שוביניזם תרבותי, אלא מתוך הבנה קרה של המציאות.
אלברט  |  10.10.18
לכל התגובות