האם הגענו לעידן שבו בינה מלאכותית מחליטה את מי לפטר?

בשבוע שעבר היה זה עיתון "הוושינגטון פוסט" שהעלה ראשון על הכתב את מה שרבים דיברו עליו במגזר ההייטק – האם ייתכן כי גוגל השתמשה באלגוריתם כדי לקבל החלטות מי יפוטר במסגרת מהלך ההתייעלות הגדול?

חשש זה עלה בערוצים שונים בקרב העובדים אחרי שענקית הטכנולוגיה הודיעה על פיטורי 12 אלף עובדי החברה, וההחלטות שהתקבלו נראו על ידי אחדים מהירות באופן חריג, רנדומליות לפרקים, וכאלו שהתקבלו ללא כל התייעצות עם מנהלים ישירים או מנהלי מחלקות. בגוגל מיהרו להגיב לחשש והודיעו כי "אלגוריתם לא היה מעורב" בתהליך קבלת ההחלטות, אבל הסוסים כבר ברחו מהאורווה, ודיון חרדתי שלם נפתח על מה שלא דובר עד כה.

אמנם גוגל מיהרה להרחיק את עצמה מהרעיון שפיטרה אלפים באמצעות מכונה, אך כמעט כל מנהלי משאבי האנוש של החברות הגדולות בארצות הברית – לא. בסקר שנערך בינואר בקרב 300 מאלו וצוטט ב"וושינגטון פוסט", 98% ציינו כי הם ישתמשו בשנה הקרובה באלגוריתם כדי לקבל החלטות מסוג זה.

השימוש באלגוריתם מעניק למנהלי משאבי האנוש הצדקה של "ניקיון כפיים" או החלטה מבוססת "נקודות נתונים מרובות", שלכאורה מאפשרת אובייקטיביות אינסופית. בו בזמן היא גם מאפשרת חיסכון משמעותי בזמן וכוח אדם, במה שאחרת היה תהליך מורכב של הערכת עובדים ודיאלוג.

כמובן שאובייקטיביות היא רק הצדקה. אלגוריתמים שאותם משלבים בתהליכי קבלת החלטות, בין שזה בחיפוש ומיון עובדים ובין שבהמלצת קנייה או פענוח של נתונים, ידועים לשמצה כרוויי הטיות. הטיות אלו מתרחשות משלב תיוג הנתונים, מיונם, הזנת הפרמטרים לקבלת ההחלטות ועד ההחלטה האנושית לפרוס את הטכנולוגיה מתי והיכן. למעשה, ההטיות שכלים אלו מייצרים כה רבות ונסתרות שרגולטורים ברחבי העולם בוחנים כל העת את פריסתם ושימושם ואף מנהלים דיאלוג ארוך על הטלת איסור או הגבלת השימוש בשיטות אלו בתהליכים רגישים כמו מיון עובדים, המלצות בנושאי מתן הטבות סוציאליות או שירותים פיננסיים.

אך הבעיה היא הרבה יותר משאלת האובייקטיביות, והיא משתקפת היטב מתגובת עובדי גוגל לרעיון שאולי מכונה פיטרה. תגובה שלא היה בה דבר לקוני, אלא ייצרי ואחוז טרור. עבורם מה שהוא בין כה וכה אירוע מורכב ואטום הפך עוד יותר אטום וקשה להכלה.

תחושתם היא מובנת כמו גם העיסוק המתוקשר שנעשה בעקבות הכתבה. אך לתגובות אלו רכיב א־היסטורי. זו הרי אינה הפעם הראשונה שמוסרים לידי אלגוריתם את האחריות לקבוע את מהלך חייהם של עובדים. כבר שנים שתוכנות מכתיבות קצב עבודה לא אנושי במחסנים ומפעלים. אלגוריתמים מזמן גם נפרסו כדי להעמיד מכסות עבודה ולמדוד תפוקות. יש אלגוריתמים שעוקבים אחרי תנועת נהגים ברכבים, שמפקחים על מספר הפעמים שבו יצא עובד להפסקת שירותים ומה היה אורך ההפסקה. כבר מזמן נפרסו מצלמות מצוידות בינה מלאכותית שעוקבות אחרי תנועת העובדים במפעלים, ומתריעות למנהלים אם עובד אחד דיבר יותר מדי עם עובד אחר באופן מחשיד כדי שלא יתאגדו.

תוכנות אחרות מודדות הקשות מקלדת ולחיצות עכבר כדי לדרג את רמת הפרודוקטיביות של עובדים. כלים אחרים שבודקים מתי עובד – עובד או לא עובד, ותפקידם לזהות חללים של חוסר פרודוקטיביות ולהפחית שכר בהתאם. ויש גם מערכות שמנטרות את טון העובדים במרכזי שירות טלפוני כדי להתערב בזמן אמת בשיחות כראות עיניהם של המנהלים. שלא לציין שיש מפעלים שבהם תוכנות מנהלות יומן רישום של עמידה ביעדים, ואחרי מספר הפרות מוגדר גם מנפיקות מיד מכתב פיטורים.

כן, אלגוריתמים קיבלו כבר לפני שנים את האחריות הרגישה, משנת החיים, מפיקת הטרור, של לפטר עובדים. אלו גם היו עובדים חרוצים ומיומנים, רק לא מבוססים בקמפוסים מפנקים, אלא בשכר נמוך במפעלים, במחסנים, אלו הנוהגים במכוניות ומשאיות השילוח, ברשתות ענק ובסופרים.

לא רק שכבר שנים דברים כאלו מתרחשים, אלא שאלו עובדי חברות מגזר הטכנולוגיה שהגו, בנו ומכרו את התוכנות הללו. לכן כשעובדי צווארון לבן מקדישים את חייהם כדי לבנות כלים שנועדו לפקח, לשלוט, למיין ולהחליט על חיי אנשים, הם לא צריכים להיות מופתעים כשאותם כלים מופנים נגדם. כשמתכנתים לא מתעסקים בהשלכות של הקוד שהם כותבים, בשאלה איזה מוצר הם עוזרים לבנות, כיצד מוצרים אלו יתרמו לחברה או לקהילה שבה הם חיים, אין שום סיבה להתרעם על ההשלכות השליליות של מוצרים אלו.

כשעובדים בשתיקה במגזר שמייצר כלים שנועדו להפוך עובדים לקלים לשליטה, בוודאי שאחר כך יתייחסו אליהם כאל סחורה. וכשאנחנו מקדשים את פעילות חברות אלו, מכתירים את המנהלים הללו כנביאים, מושיעים ואנשי השנה, אנו תורמים לצעידה הארוכה אחורה, אל התקופה שבה לעובדים לא היה קול, כוח או ערך, זולת זה שהמנהלים שלהם קבעו להם.

לולא חברות ההייטק קשה לדמיין כיצד היו מצליחות חברות קטנות כגדולות לממש את שאיפותיהן לרווח בכל מחיר שאינו רואה אדם, ולהשלים את מסע הדה־הומניזציה של העובדים. בלי הקוד, האלגוריתם והמכונות, קשה לדמיין כיצד מפעלי הניצול האדירים היו יכולים לפעול באלגנטיות ויעילות כפי שהם פועלים כבר עשורים.

מה שהיה הכוח המניע מאחורי חברות אלו והמוצרים שהן בחרו לפתח תמיד היה אחד – הון. המאמץ האגרסיבי לפתח מוצרים שתכליתם "לייעל" תהליכים, "לפקח" על עובדים, לחסוך בעלויות או בזמן, נוצר במסגרת של לחצים תחרותיים של תאגידים לשגשג במונחים של רווח. כל זמן שמנהלים מוגבלים בניצול ולא יכולים לעשות כבימים עברו ופשוט להאריך עוד ועוד את יום העבודה, הם החלו לחפש דרכים אחרות להגדיל את הערך מהעובדים. במאה האחרונה היו שני כלים עיקריים למילוי משימה זו – הכנסה של טכנולוגיות חדשות כדי להפחית את הזמן שבו לוקח לייצר, והגברת הלחץ על העובדים כדי שיעבדו קשה יותר באותו פרק זמן.

התוצר הסופי ובהחלט גם המטרה של גישות אלו הם כאמור מקסום רווחים, אך ללא כל התחשבות ברמת החיים של העובדים ותוך החלשת מעמדם. אלו אוטומציה וחדשנות טכנולוגית שאינן משרתות את הקדמה, שלא נועדו לטובת הכלל ושיפור החיים ושלא מהוות גורם חיובי לחברה ולהקהילה שבהן הן נפרסות.

זאת אומרת – חדשנות טכנולוגית אינה תמימה. אבל זה לא חייב להיות ככה. טכנולוגיה יכולה להגדיל את פריון העבודה, וגם להעצים את העובדים, זו אינה שאלה של טכנולוגיה אלא שאלה רחבה יותר של כלכלה וחברה. טכנולוגיה יכולה להיבנות ולהיפרס ככלי שנועד לשרת את הכלל ולקדם עושר חברתי, אך כדי שזה יקרה מי שבונה אותה, או לפחות עוזר לבנות אותה, צריך להכיר בכך שהיא אינה חיצונית ליחסים חברתיים, וכי עיצובה ומטרותיה קשורות קשר הדוק למי שמפתח אותה. כל זמן שנמשיך לפעול להסיר בני אדם בתהליכים שקשורים ומשפיעים על בני אדם, אם זה בשביל להתנער מאחריות ולהתכסות באובייקטיביות ואם כדי לדחוק לפתרונות מהירים, בני אדם תמיד ייפגעו.