טכנולוגיות שמוחקות מבטא זר מקבעות עליונות אמריקאית לבנה

"היי, זה אלכס משירות לקוחות", נאמר באנגלית בדמו באתר של חברת Sanas, "איך אני יכול לעזור לך?" ממשיכה ההדגמה הארוכה. "אני מצטער מאוד שזה קרה לך", ובלחיצת כפתור אלכס, שלפי המבטא אפשר לשער שהוא יושב במרכז שירות לקוחות בהודו, נשמע לפתע כמו בחור לבן מוויסקונסין. "אפשר לקבל את השם המלא שלך, מספר הטלפון והכתובת כדי לבדוק את ההזמנה שלך?", ממשיכה ההקלטה שמעליה מתנוסס כיתוב ענק "שמעו את הקסם" על רקע תמונתו של בחור לבן צעיר ומחויך.

זוהי Sanas, חברת סטארט־אפ שלאחרונה השלימה גיוס של 32 מיליון דולר, שלטענתה היה הגדול ביותר אי פעם עבור שירות טכנולוגיית דיבור. בשבוע האחרון החברה הקטנה יחסית והצעירה בהחלט – רק מלאו לה שנה – הפכה לשיחת היום בעקבות ראיון שהעניק נשיא החברה מרטי שרים ל"סן פרנסיסקו כרוניקל". "אנחנו לא אומרים שמבטא הוא בעיה כשלעצמה", אמר שרים. "מבטא הוא בעיה כי הוא גורם להטיה ולאי־הבנות", הסביר והדגיש כי מחיקת מבטאים שאינם אנגלית היא תרומה שלו לעולם סבלני יותר. אך האם טכנולוגיה באמת יכולה לטפל בהטיות באמצעות העלמה מלאכותית של שוני בין בני אדם או שאולי טכנולוגיה מסוג זה רק מנציחה הטיות?

את Sanas, מסבירים באתר החברה, הקימו שלושת מייסדיה עבור "ראול", חבר לספסל הלימודים בסטנפורד שנאלץ לשוב לביתו בניקרגואה ולעבוד במוקדים טלפוניים. שם, הם כותבים, הוא זכה לעלבונות יומיומיים ויחס גזעני מצד מקבלי השירות בשל המבטא שלו. כך עלה בדעתם להקים את החברה שלהם ולייצר "עולם מחובר, ידידותי ואמפתי יותר על ידי מהפכה של האופן שבו אנו מתקשרים". בפועל, כשמסירים את התיאור הגרנדיוזי, מדובר בחברה שפיתחה כלי שמוחק מבטאים מגוונים באנגלית בזמן אמת והפיכתם ללבנים ואמריקאיים. על אף המחיקה התרבותית הברורה הזו, ב־Sanas מבטיחים הבטחה ריקה ומשונה שהחברה מחויבת "להגן על זהויות הקול המגוונות של העולם ותרבויותיהם". לפי Sanas, כאלף עובדי מוקדים טלפוניים בפיליפינים ובהודו כבר משתמשים באופן יומיומי בתוכנה שפיתחו. ב־Sanas מדגישים שהשליטה בשימוש התוכנה היא בידי המוקדנים בלבד, והם יכולים להפעיל ולכבות אותה כרצונם, כשלמנהלים הבכירים יש שליטה אך זו רק לצורכי אבטחה. המטרה היא, הם מסבירים, לפתור את הבעיה שמבטא מייצר, לא לאנשים שמקשיבים לו, אלא לבעלי המבטא שסובלים בגללו (לטענת החברה) מאפליה.

1. תבחרו שם מערבי

הטכנולוגיה של Sanas היא מה שנקרא DeepFake, מונח לציון תמונות, סרטונים וגם קול שהופקו באמצעות בינה מלאכותית אך נראים ונשמעים אמיתיים למדי. המונח זכה לשימוש נרחב ב־2017, אחרי שמשתמש ברדיט פרסם סדרה של סרטונים פורנוגרפיים ששונו באמצעות למידת מכונה כך שייראה כאילו שחקניות הוליוודיות מככבות בהם. מאז הפכה טכנולוגיה זו לשם שני להונאה, ניצול והטרדה. עם זאת, במשך השנים יותר ויותר ארגונים החלו להשתמש בו ככלי שיווקי, וקמו חברות שתכליתן לספק סרטונים סינתטיים מגוונים בכיכובם של דמויות רבות כאילו הן דוברות שפות רבות. אך גם מסחור הטכנולוגיה לא הפך אותה לסטנדרט תעשייתי מקובל, ויש סביבה דיונים אתיים רבים. הטכנולוגיה הזו, על כל המורכבות המוסרית שלה, פוגשת כעת תחום אחר עם מורכבות מוסרית גדולה משל עצמו – הגזענות שמופנית כלפי מוקדנים טלפוניים שפועלים במדינות לא דוברות אנגלית.

עם השנים התבסס נוהג תאגידי בעולם לבצע מיקור־חוץ לשירות לקוחות טלפוני, ולהקים את מרכזי שירות הלקוחות במדינות שבהן עלויות התפעול נמוכות הרבה יותר וחוקי העבודה רופפים במיוחד. מוקדים טלפוניים רבים התבססו בהודו, היכן שיש כוח אדם זול בשפע ואנגלית היא שפה רשמית, פעמים רבות אף שפת האם. אך למרות המסורת ארוכת השנים להקים מוקדים טלפוניים בהודו, עד היום המבטא ההודי של העובדים הוא "בעיה" שיש לפתור למען הלקוחות האמריקאים. בין היתר, נדרש מהמוקדנים לבחור שם "מערבי" בזמן עבודתם, כמו "אלכס" בהדגמה של Sanas, ואף להשתתף בהכשרות שונות כדי להכיר את התרבות האמריקאית, לרכך את המבטא, להגות מילים באופן אמריקאי ולהכיר סלנג ומטבעות לשון מקובלים בקרב האמריקאים. כל זאת כדי "לעבור" כמו נותני שירות "ניטרליים" (זאת אומרת אמריקאים לבנים), אף על פי ששפת אמם של עובדים אלו היא פעמים רבות אנגלית.

Sanas אינה החברה הראשונה שמציעה ללקוחותיה כלי לשנות את קולם כדי להשתלב טוב יותר בחברה או "לעבור". לפני שבוע הסטארט־אפ Modulate, שקם ב־2017, הודיע על השלמת גיוס של 30 מיליון דולר. Modulate עושה דבר דומה לזה של Sanas – משנה בזמן אמת את הקול של המשתמש – אך מסיבות אחרות ממש, ובשונה מ־Sanas זכה לכותרות מחמיאות הרבה יותר. ב־Modulate מציעים את המוצר שלהם ככלי הגנה מרעילות האינטרנט. באופן ספציפי הוא משווק לחברי הקהילה הטרנסית כדי לסייע להם להשתתף בחדרי צ'אט קוליים ולהישמע באופן שהולם את הזהות המגדרית שלהם. מדוע Sanas שבסך הכל מציעה כלי פשוט עבור עובדים להשיג מה שניסו להשיג כבר שנים זוכה לקיתונות של ביקורות, ואילו Modulate, שלכאורה מנסה לעשות דבר דומה, זוכה למאמרים מחמיאים? הרבה סיבות טובות. Modulate, שגם מעניקה כלי לקבוצות מוחלשות, לא עושה זאת כדי לטשטש זהות אלא כדי לייצר הלימה בין הזהות לקול ולמעשה לחזק זהות. ב־Sanas הכלי נועד לשרת את הלקוחות של הלקוחות שלהם, את אי־הנעימות שלהם, באמצעות החלשת זהות של אחר.

2. קול הומוגני משעמם

בשונה ממה ש־Sanas טוענים, הטיה ואפליה לא מתקיימות מפני שאדם אחד שומע מבטא שונה. כל יחס שלילי שעובדים אלו חווים קשור לגזענות, אתנוצנטריות או קסנופוביה של השומעים, לא לסיבות לשוניות או מדעיות. ההטיה והאפליה היו שם כבר קודם, ולעולם לא יעברו מן העולם אם חברה טכנולוגית אחת תגרום לכולם להישמע אותו הדבר. כשמסירים את המבטא בקולו של המדבר לא מטפלים בגזענות, אלא מסיטים אותה הצדה כדי להקל על צד אחד בשיחה. זאת אף שידוע שלהנכיח את האחר עושה הרבה יותר בטיפול בגזענות מאשר להסתיר אותו.

מה שהכלי של Sanas עושה, ולא משנה שכמה ממייסדי החברה האמריקאית הם מהגרים, זה לפעול למען שביעות רצונם של הלקוחות מהשירות הטלפוני שהם מקבלים ובמסגרת תפיסת עולמם הצרה. הצורך בכלי של Sanas אינו צורך חברתי, הוא צורך קפיטליסטי (ואבסורדי).

כמו פעמים רבות עם טכנולוגיה ומפתחיה, גם כאן לא נראה שב־Sanas חושבים על כבודם של אנשים שמחזיקים בעבודות הנוראיות מכל, ובמקום זאת הם מנסים להקל על קבוצה אחת חזקה ולהעניק לה שירות באמצעות קול הומוגני ומשעמם, כאילו העולם לא מלא בעושר דיאלקטי. חבל שהם לא משקיעים את הזמן והכישרון שלהם בבניית טכנולוגיה שנותנת לאנשים כלים להיות סובלניים יותר.