החייל האלמוני: גוגל ואמזון מנצלות אותנו לפיתוח נשק

1. מחאה אזרחית. מייסד אמזון ג'ף בזוס נקרא השבוע בידי ארגוני זכויות אזרח אמריקאים ובראשם ה-ACLU להפסיק "להזין את תשתיות המעקב הממשלתיות". הקריאה מכוונת לתוכנת זיהוי הפנים Rekognition שאמזון פיתחה וכעת מוכרת לרשויות אכיפת החוק האמריקאיות. המקרה מצטרף לתרעומת דומה בגוגל, שהביאה בשבוע שעבר להתפטרות תריסר מעובדי החברה במחאה על שיתוף פעולה עם הפנטגון, שמשתמש בתוכנת בינה מלאכותית שפיתחה גוגל להפעלת רחפנים צבאיים.

2. שימוש לא צפוי. שני המקרים של אמזון וגוגל מדגימים עד כמה ארוכות טווח ולא צפויות ההשפעות של טכנולוגיות שפותחו במקור למטרות מסחריות. תוכנת זיהוי הפנים של אמזון משמשת אתרים כמו פינטרסט לזיהוי טקסט בתמונות, ואילו התוכנה השנויה במחלוקת של גוגל פותחה לשימוש שירות זיהוי התמונות שהיא מציעה למשתמשיה.

3. עתיד האנושות. בתעשיית הטכנולוגיה מקיימים בימים אלו דיון סוער סביב ההון האדיר שמושקע בחברות שלא צפויות לתרום בהרבה לעתיד האנושות: אפליקציות להאכלת כלבים, כלי מציאות מוגברת למדידת בגדים או מכונת מיצים חכמה. אך יש הבדל משמעותי בין מתכנת שתורם את כישוריו לתא מדידה וירטואלי או משקיעה שמממנת אותו, לבין התגלית שהתוכנה שפיתחו או מימנו שימשה להפרת פרטיות ממוסדת או פעולה צבאית.

4. דילמת המשתמש. בשלב זה הדיון האתי מתנהל בקרב המפתחים והמתכנתים, אך הוא יגיע בקרוב אל פתחם של המשתמשים. אלו יידרשו להתעמת עם כך שהחנות המקוונת שלהם מפעילה מצלמות מעקב ברחוב וששירות המייל תרם להרג אזרחים במדינות עולם שלישי. ודאי כשמדובר בטכנולוגיות AI ולמידת מכונה, שהיקפי השימוש בהן תורמים לפיתוח כלים בעייתיים.

5. חרם אפקטיבי. המשוואה של רתימת השימוש בטכנולוגיה לפגיעה בזכויות אזרח הפכה בשנה האחרונה לחלק מהמציאות היומיומית בסין. המשטר הסיני מציע לחברות הטכנולוגיה את המידע שאסף באובססיביות אודות אזרחיו, כדי שיסייע להן בפיתוח כלי ה-AI שלהן. בארה"ב טשטוש הגבולות בין היישום שמוצע למשתמש הממוצע לבין השימוש המפוקפק בו מקשה על חרם אזרחי אפקטיבי. כדי להתנגד לבעלות על נשק כבר אי אפשר להחרים יצרני נשק, בקרוב נצטרך להחליף שירות מייל.