לבנות את המערכת שרודפת אותך

בזמן שענקיות הטכנולוגיה מציידות סוכנויות שיטור, סוכני גבול וחומות דיגיטליות במערכות מתוחכמות לעיבוד נתונים, פליטים ברחבי העולם לוקחים חלק באימון אותן המערכות שפועלות נגדן. 

בספר Work Without the Worker, שיצא לאור בשבוע שעבר, מראה פיל ג’ונס, חוקר במכון המחקר “אוטונומיה” ותורם קבוע ל”גרדיאן”, כי מקורות “לא מנוצלים” של עובדים מגויסים יותר ויותר על ידי גופים מערביים, ממשלתיים, ללא מטרות רווח או בינלאומיים. 

מחנה פליטים ליד דמשק בסוריה. החומות הדיגיטליות עובדות לרעתם | EPA

אלפי עובדים בשכר נמוך פועלים כפס ייצור למיון קטעי וידאו, תמונות, קול או תמלול טקסטים קצרים שבאמצעותם מאמנים את מערכות הבינה מלאכותית של חברות הטכנולוגיה.

כבר כמה שנים שמתקיימת ברחבי העולם פעילות של מרכזי מיקרו עבודות, באזורים כמו לבנון, סוריה, לאוס, ונצואלה, קניה, עיראק ואף עזה. צורת ההעסקה הזו - אף שהיא מכוונת דווקא לאוכלוסיות במצוקה בין אם בשל חורבות מלחמה (פנימית או חיצונית), רעב או כיבוש, ועבור פחות מדולר לשעה לא כל זכויות - לא סובלת מיחסי ציבור רעים. רבים רואים בעבודה אפשרות להשתכר שכר מחיה ולצבור כישורים לטווח הארוך. אבל פעילות זו אינה רק מחדדת את הפערים הלא נתפסים בין גטאות העוני של אזורים מוכי אסונות לבין העושר של עמק הסיליקון - אלא ממש קובעת את גורל הפליטים.

מערכות בינה מלאכותית צריכות ללמוד להבחין בין אובייקטים, ומישהו חייב ללמד אותן זאת. כאן נכנסים לתמונה עובדי המיקרו־משימות שמספקים את התיוג הראשוני של נתוני תמונה או מידע אחר. זיהוי נכון של הנתונים השונים הוא שמאפשר בסופו של דבר למערכת של גוגל, אמזון או מיקרוסופט להבדיל בין בניינים או תמונות, לנתח מפות או נתונים אחרים. זאת אומרת שמאגרי המידע שהם עוזרים לבנות מאמנים את המערכות שמשמשות מל”טים שמסיירים ברחבות המחנות ו”מבחינים” בין אויב לידיד; או את החיישנים שאוכפים אחר כך את הגבולות והחומות הדיגיטליות, שאותם הם מנסים לעבור במנוסתם. 

“כלכלת קליקים קובעת את גורל הפליטים ברחבי המזרח התיכון”, כותב ג’ונס. “האוכלוסייה הסורית במחנה שתילה בלבנון מוותרת על החלומות שלה כדי לשרת את הקפיטליזם הרחוק, ומתאימה את תבניות השינה לאזורי הזמן של הצד השני של העולם. את הלילות שלהם הם מעבירים בתיוג קטעים של אזורים עירוניים –”בית”, “חנות”, “מכונית” – תוויות שבסיבוב גורל עגול ממפות את הרחובות שבהם התגוררו, אולי עבור מערכת מל”ט שאחר כך תטיל את המטען שלה על רחובות אלו ממש”. 

1. בחסות האנונימיות

היום יש שורה של פלטפורמות שנועדו לבצע מיקור המונים לעובדים בשכר נמוך שתפקידם לסווג ולתייג נתונים. אולי המפורסמת מכולן היא של אמזון שמכונה Amazon Mechanical Turk או MTurk, ששייכת לענקית הקמעונאות ומנוהלת על ידי חטיבת הענן AWS. אך מלבדה יש אחרות פופולריות לא פחות כמו Figure Eight (פעם היה ידוע כ־CrowdFlower, (Samasource ו־Microworkers. 

העובדים שלוקחים חלק במרכזי אימון מערכות הנתונים האלו אינם רק פליטים ועניים במדינות המתפתחות או מוכות הסכסוך, אלא גם העשירונים הנמוכים במדינות הצפון הגלובלי. בפינלנד למשל חלק מעבודות האסיר במערכת הכליאה המדינתית הוא עבור מרכזי נתונים מסוג אלו לתעשיית הטכנולוגיה. עובדים אלו, בשונה מפסי ייצור פרימיטיביים יותר, יודעים עוד פחות על מהות עבודתם, כמו מי מתמחר ולמה את העבודה שלהם, למה הנתונים משמשים ועבור מי בכלל הם עובדים. 

לחברות שמזמינות את המיקרו־עבודות יש את האפשרות לגלות לעובדים מי הן, אך הן לרוב בוחרות להישאר אנונימיות. אי הידיעה משמעותית. כך למשל נחשף ב־2019 כי גוגל אימנה את המערכת של פרויקט Maven באמצעות Figure Eight. על ידי שימוש בעובדים אלה הצליחה גוגל ללמד את האלגוריתמים שלה כיצד להבחין בין מטרות אנושיות לאובייקטים מסביב.

איור: יונתן פופר

פרויקט Maven, שנועד לפתח אמצעי ראיית מכונה למל”טים של משרד ההגנה האמריקאי, קבע לו מקום בהיסטוריה של גוגל כפרויקט הראשון שהחברה ביטלה בעקבות מחאת עובדים נרחבת. בדומה לכך נעצרה גם מכירת טכנולוגיית לזיהוי פנים של אמזון (Rekognition) לכוחות המשטרה וההגירה, וזו של מיקרוסופט לכוחות שיטור כדי שלא תשמש לביצוע מעקב המוני.

עם זאת תחקיר של הביזנס אינסיידר, שפורסם לאחרונה, העלה כי בשונה מההצהרות הפומביות, גוגל, אמזון ומיקרוסופט משתמשות בחברות קבלן וצד שלישי כדי לעקוף בחשאי ביקורת ציבורית ופנימית, וממשיכות למכור טכנולוגיה לרשויות ההגירה במאות מיליוני דולרים. עם הטכנולוגיות שהן מוכרות ניתן למנות שירותי ענן שונים, כמו מערכות ניהול תיקים, איתור אנשים, אימות כתובות, ניתוח גאוטכני, תחזוק נתונים אנליטיים ומפות וכלים שסורקים את הרשתות החברתיות כדי לאתר מי עובד בארצות הברית אף שנאסר עליו.

לפי ממצאי אינסיידר, גוגל מעורבת לפחות בארבעה חוזים פעילים עם סוכנות המכס והגנת הגבולות (CBP), אמזון מעורבת לפחות בשמונה חוזים פעילים עם רשות אכיפת מכס והגירה (ICE ו־CBP), ומיקרוסופט מעורבת בלפחות 16 חוזים פעילים עם ICE ו־CBP. כל החוזים הללו, למעט שניים במיקרוסופט, נמכרים באמצעות מתווכים, הם כותבים. עוד נאמר כי חברות הטכנולוגיה יודעות שהשירותים שלהן נמכרים לממשלה, אך העובדים שלהן לא יודעים זאת ברוב המקרים. אבל לא רק העובדים מן המניין מצויים בעלטה, אלא גם האלפים האחרים שאחראים בראשית תהליך בניית המוצר לספק את חומרי ההזנה. 

2. בלי יכולת מחאה

ממצאי אינסיידר, אף שהם לא לגמרי מפתיעים, הם מבהילים. הם מחדדים את ההבנה כי בעולם שכולו למטרות רווח חברות טכנולוגיה לא מסוגלות, ולו לרגע, להפנות את הגב לחוזים ממשלתיים. בדיוק באותו האופן שהן, ואחרות, לא מסוגלות להפנות את הגב לאלפי ידיים עובדות שאין להן שום אפשרות אחרת, מלבד השתתפות בפסי ייצור וירטואליים, בלי שום יכולת למחות על תנאי העסקה. 

“זהו מקום המגורים הנסתר של האוטומציה”, ג’ונס כותב. “מכלול מפוזר ברחבי העולם של פליטים, דיירי שיכוני עוני ונפגעי כיבוש שנאלצו באמצעות עושק או חוק אחר להניע את למידת המכונה של גוגל, פייסבוק ואמזון... הפלטפורמות מצאו בקרב אלו שנאבקים... המון נואש אותו ניתן לפתות עם הבטחה לחיים טובים יותר. אולם הבטחה זו מופרת ברגע שהיא ניתנת... בלי להציע דבר כמו זכויות, שגרה, תפקיד, ביטחון או עתיד”.