חברות הטכנולוגיה משתיקות את הדיון הציבורי על יכולות המעקב החדשות

במאה ה-18 הגה הפילוסוף ג'רמי בנת'ם מודל אדריכלי חדש ומטריד: הפנאופטיקון. מדובר במבנה אורווליאני בטבעו (כן, יותר מ-100 שנה לפני שג'ורג' אורוול אפילו נולד) שמאפשר לגורם אחד לנהל מעקב ופיקוח מתמיד מול מספר אנשים שמבודדים זה מזה. העיצוב פשוט ביותר: בניין מרכזי עגול ומסביבו ערוכים תאים. משחקי אור וצל – חלונות כלפי חוץ שוטפים את התאים באור יום בעוד המבנה המרכז שרוי בעלטה – מאפשרים לאדם בתא המרכזי לראות את המתרחש בכל אחד מהתאים, בעוד השוהים בהם לא יכולים לראות אותו או זה את זה (ולכן, לא יודעים מתי הם נתונים למעקב).

בנת'ם הציע ליישם את המודל לבניית בתי כלא, בתי מחסה, אפילו בתי ספר, כאשר בין הצידוקים שנתן לו מנה את היכולת לפקח על אוכלוסייה גדולה באמצעות כוח אדם קטן יחסית, וכך לחסוך סכומי כסף משמעותיים. המודל קנה לו כמה אוהדים, והרעיונות שבבסיסו שימשו לבניית מספר בתי כלא. אחד המפורסמים שבהם היה כלא מילבנק שנבנה בלונדון ב-1816 ביוזמתו של בנת'ם עצמו, ונסגר ב-1890.

ואולם, בכל הנוגע לעיצוב אדריכילי ההשפעות שלו היו נקודתיות וחולפות. המודל כן קנה לו אחיזה כרעיון פילוסופי, והיה נושא לכתיבה של פילוסופים כמו מישל פוקו, שמצא בו מטאפורה למערך שליטה מודרני שבבסיסו בידוד וניטור סמוי מהעין. בעידן הדיגיטלי קנה המודל אחיזה כמטאפורה לחיים המקוונים, כאשר הרשתות החברתיות תוארו לא פעם כפנאופטיקון דיגיטלי – כזה שבו אנו נמצאים במעקב תמידי סמוי מהעין. ההבדל המרכזי: לפנאופטיקון הזה נכנסו מבחירה. אנחנו גם יכולים לעזוב אותו בכל עת, אך בוחרים (במודע או שלא במודע) שלא לעשות כך.

אבל יש עוד סוג של פנאופטיקון דיגיטלי, כזה שאלמנט הבחירה בו מצומצם עד לא קיים: זה שנוצר על ידי טכנולוגיית מעקב. החיבור בין טכנולוגיית מעקב לפנאופטיקון נעשה כבר בשנות ה-90, כשהטכנולוגיה אפשרה לראשונה פריסה רחבה של מצלמות במעגל סגור במקומות ציבוריים כמו קניונים. בדומה לפנאופטיקון הפיסי, גם כאן ניתן היה לבצע מעקב אחרי כמות גדולה של אנשים באמצעות כוח אדם מצומצם, מבלי שהנעקבים יכולים לדעת מתי צופים בהם, ואולי אפילו לא מודעים לכך שהם תחת פיקוח.

כמעט 30 שנה מאוחר יותר, וטכנולוגיה כמו מצלמות במעגל סגור נשמעת משהו מיושן. כמה מעקב בזמן אמת כבר אפשר לנהל באמצעות טכנולוגיה שכזו? אבל התפתחויות טכנולוגיות של השנים האחרונות הופכות את פנאופטיקון המעקב לישים הרבה יותר. טכנולוגיות בשלות (גם אם בעייתיות) כמו זיהוי פנים ויכולות ניתוח מבוססות בינה מלאכותית מאפשרות לנהל מעקב אחרי כמות עצומה של אנשים, כמעט בלתי מוגבלת, עם כוח אדם אפסי. זה הפנאופטיקון האולטימטיבי – מעקב סמוי אחרי אנשים בעלות מזערית, ובתוספת חשובה: כאן אין אלמנט של אי-ידיעה מתי עוקבים אחרי ומתי לא. עם טכנולוגיות זיהוי וניטור מודרניות, אפשר לעקוב אחרי כל אדם בכל רגע נתון. כולם יודעים שמישהו מסתכל עליהם ובוחן אותם. תמיד.

וכפי שזיהה ג'ון אוונס בטור שכתב השבוע ב-TechCrunch, יש חברה אחת שמובילה את החבורה בבניית הפאנאופטיקון הדיגיטלי המודרני הזה: אמזון. לאמזון יש טכנולוגיית זיהוי פנים ידועה לשמצה, Rekognition שמה, שהיא משווקת בלהיטות לגופי אכיפת חוק בארה"ב, חרף מגבלות טכניות ידועות (בעיקר קושי בזיהוי נשים ומיעוטים. כלומר, כל מי שהוא לא גבר לבן). בשנה שעברה, למשל, נפגשו עובדי אמזון עם נציגי ICE, הסוכנות הפדרלית שאמונה על טיפול במהגרים לא-חוקיים ששוהים בארה"ב ושהתדמית הציבורית שלה בימים אלו לא חיובית, במטרה לשווק את הטכנולוגיה שלה. בהתחשב שלסוכנות יש רקורד מצער של כליאת שווא של אזרחים אמריקאיים עם צבע עור מסוים בטענה שהם מהגרים לא-חוקיים, שימוש במערכת שכושלת בזיהוי אנשים עם צבע עור זה לא נראה כרעיון המבריק ביותר שיש בנמצא.

בסוף יולי חשף אתר Motherboard ש-Ring, חברה בת של אמזון שמייצרת מצלמות אבטחה חכמות, חתמה על הסכמים עם עשרות יחידות משטרה מקומיות ברחבי ארה"ב, במסגרתו יפרסמו ויקדמו הכוחות את מוצרי החברה, בתמורה למוצרים חינמיים וגישה ל"פורטל" שיאפשר להם לבקש צילומים מאותם מוצרים. ההסכם עצמו כלל סעיף שחייב את יחידות המשטרה לשמור את תוכנו בסוד. הלהיטות של אמזון לשווק את הטכנולוגיה הפגומה שלה עוררה התנגדות מצד עובדים בחברה, לקוחות וגם מיעוט מקרב בעלי המניות. ולאמזון יש תגובה פחות או יותר קבועה לטרוניות הללו: התייחסות לבעיות הטכניות שעולות מהפעלת המערכת והאופן שבו אמזון מתמודדת אתן (לא פעם, תוך הכחשת קיומן של בעיות אלו ותקיפת חוקרים שמצביעים עליהן).

אבל כפי שמציין אוונס במאמר שלו, מיקוד בצד הטכני של הטכנולוגיה, או בסוגיות מצומצמות כמו אופן תפעולה, מסיט את הדיון מהסוגיה החשובה באמת. "נמאס לי מכך שחברות טכנולוגיה מתנהגות כאילו אין להן אחריות כלפי הציבור פרט לתיקון הבאגים ושיפור הטכנולוגיה כך שתעבוד כמתוכנן. לפעמים, הכוונה עצמה היא הבעיה", הוא כתב. "השאלה היא לא האם ניתן לפתור את הבעיות הטכנולוגיות של Rekognition. השאלה היא האם שיווקה לממשלות ולרשויות אכיפת חוק כדי לאפשר מעקב תמידי דמוי פנאופטיקון הוא טוב לחברה כלשהי בעולם. מדובר בעצלנות אינטלקטואלית מסוכנת להגיד, 'עכשיו זה חוקי אז זה בטח בסדר' או 'מוסדות הדמוקרטיה יגנו עלינו מכל רע, ולכן אני לא צריך לדאוג מהשלכות הטכנולוגיה'".

אוונס מעלה נקודה חשובה. חלק גדול מהביקורת כלפי חברות טכנולוגיה מגיעה כתוצאה מכשלים או מחדלים, כאשר הטכנולוגיה עושה משהו שלא נועדה לו. זה המקרה של פרשת קיימברידג' אנליטיקה: המידע שדלף מפייסבוק לא אמור היה להגיע לחברת הייעוץ המפוקפקת, והשימוש שעשתה בו לא נחזה בעת שנאסף על ידי פייסבוק עצמה. בדומה, חלק ניכר מהביקורת נגד טכנולוגיית זיהוי פנים עוסק בכשלים הטכניים שלה ובסוגיות אחרות כמו ניצול לרעה (למשל, שוטר שעוקב אחרי בת זוג לשעבר).

זה דיון שמצוין לחברות הטכנולוגיה, כי הוא לא עוסק במהות אלא רק במה שמסביב, בבעיות שאפשר לפתור עם קצת פיתוח, אולי איזה שינוי מדיניות חשוב. וזה דיון שמאפשר להן להמשיך ולפתח את הטכנולוגיה ולהפיץ אותה, תוך הבטחה לשיפור ותיקון הבעיות שיאפשרו שימוש יעיל יותר שלה ומניעת מקרים של ניצול לרעה. אבל הדיון צריך להיות הרבה יותר ממוקד בשאלה מה ההשפעות של הטכנולוגיה עלינו כאשר היא פועלת כשורה, כאשר היא עושה בדיוק מה שיוצריה התכוונו שתעשה, בלי תקלות ובלי ניצול לרעה. במקרה של טכנולוגיית זיהוי פנים, הדיון לא צריך להתמקד בשאלה: האם כשלים בטכנולוגיה עלולים להביא למעצרי שווא של שחורים או לטינים בגלל טעות בזיהוי (דבר בעייתי מאוד בפני עצמו), כי כשלים מסוג אלו דינם להיות זמניים. הדיון כן צריך לעסוק בשאלה איך תשתנה החברה ברגע שכל האזרחים יהיו מנוטרים ביעילות בכל פעם שהם במרחב ציבורי, וכשמערכת בינה מלאכותית גם יכולה להתריע למשטרה על פעולות חשודות שמצריכות מעקב.

איזו מן חברה תתפתח כאשר כולם יודעים שיש מישהו שצופה בהם בכל רגע ורגע, שכל פעולה שלהם מקוטלגת ונרשמת לשימוש מיידי או עתידי? כשאין כבר שום פרטיות, שום אנונימיות, אפילו לא לרגע אחד, כאשר המדינה יכולה לדעת בדיוק לאיפה הלכנו, מה עשינו, עם מי נפגשנו ולכמה זמן? אלו הסוגיות שצריך להציף מול חברות טכנולוגיה שמוכרות טכנולוגיות כאלו למדינות וכוחות משטרה, אלו השאלות שצריכות לעמוד בבסיס הדיונים של מחוקקים, קובעי מדיניות ומקבלי החלטות.

קצרצרים

1. וברוח שימוש בטכנולוגיה שלא למטרה שלה נועד: טוויטר הודתה אתמול שייתכן ושיתפה מידע משתמשים עם מפרסמים ללא הסכמתם. או, בתאגידית אמריקאית: "היו מקרים שבהם ההגדרות שבחרת לא עבדו כמצופה". בין המידע ששותף מונה החברה את המדינה שבה פעל המשתמש. לדבריה, אימיילים וסיסמאות לא שותפו. התקלה תוקנה ב-5 באוגוסט וטוויטר חוקרת את הנושא.

2. אומרים על אלבום הבכורה של Velvet Underground (שמו הרשמי הוא The Velvet Underground & Nico, אך הוא מכונה לרוב "אנדי וורהול" או "זה עם הבננה") שכמעט אף אחד לא שמע אותו, אבל שכל מי ששמע אותו הקים להקה. סנטימנט דומה אפשר לייחס למגזין המפתחים של מיקרוסופט MSDN. כמעט אף אחד לא הכיר אותו, אבל מאז הושק ב-1992 הוא נחשב לאחד המשפיעים בעיצוב קהילת המפתחים סביב הפלטפורמות של מיקרוסופט. וכמו הרבה מגזינים אחרים, גם הוא הולך בדרך כל בשר ויפרסם את גיליונו האחרון בנובמבר הקרוב. היה שלום.

3. עובדים של ספקית הסלולר האמריקאית AT&T קיבלו שוחד על מנת לפתוח ולהשתיל רוגלה על מיליוני סמארטפונים ששיווקה החברה, כך לפי משרד המשפטים של ארה"ב. לפי כתב אישום שהוגש נגד מוחמד פהאד מפקיסטן וגולאם ג'וואני (שכנראה כבר לא בין החיים), השניים שיחדו את עובדי החברה במרכז שירות במדינת וושינגטון בסכום כולל של יותר ממיליון דולר, והמזימה התנהלה בין 2012 ל-2017.

4. אפל צפויה לשנות את מערכת ההפעלה של האייפון באופן שיקשה יותר על אפליקציות כמו ווטסאפ לאסוף מידע באמצעות יכולות שיחה קולית. יכולות אלו רצות כיום ברקע גם כשהן לא בשימוש, על מנת לאפשר ליישום להתחבר לשיחה נכנסת מהר יותר, אך גם מאפשר להן לאסוף מידע אישי. השינוי יחייב את החברות לעצב מחדש את יכולת השיחה הקולית, אך לא יחסום אותה.