אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר.
ריגול המוני: המשת"פים הקטנים של האח הגדול

דו"ח טכנולוגי

ריגול המוני: המשת"פים הקטנים של האח הגדול

הכירו את המדענים, החוקרים והחברות המסחריות שעוזרים למדינות כמו סין לבנות תשתיות לניטור המוני ושליטה באוכלוסיה - תשתיות שמגיעות גם למערב; אלקסה תתחיל לספק מידע בנוגע לשירותי בריאות; ולמה החליטה אמזון שסטודנטית שאיחרה בהשבת ספר לספרייה שלה חייבת 3,800 דולר

11.07.2019, 14:50 | עומר כביר
הטור עסק השבוע הרבה בתאוות הכוח של ממשלות, ובאיך טכנולוגיה מתדלקת את התאווה הזו ומעצימה אותה. אתמול דיברנו בהרחבה על מדינת המשטרה שבנתה סין בחסות הטכנולוגיה ואיך היא משתמשת בה כדי להגביל את חופש הפעולה של אזרחיה וגם את דפוסי החשיבה שלהם. זאת, בין השאר, בסיוע סריקות ביומטריות עמוקות להפחיד (כולל אולטרה סאונד של איברים פנימיים), מערכות לניתוח קול ותמונה, ומערך של מצלמות ותחנות ובידוק ביומטריות שפרוסות במרחב הציבורי.

במשוואה הזו יש עוד משתנה אחד חשוב: המקור של הטכנולוגיה הזו. לסין יש יכולות טכנולוגיות נרחבות, אך לא בלתי מוגבלות. וכפי שגילה ארגון Human Rights Watch, יכולות מסוימות של מדינת הריגול התאפשרו רק בזכות חברות, אוניברסיטאות ומדענים אמריקאיים שסיפקו לסין טכנולוגיות וידע מקצועי.

מי לימד את סין לזהות פנים?, צילום: רויטרס מי לימד את סין לזהות פנים? | צילום: רויטרס מי לימד את סין לזהות פנים?, צילום: רויטרס

כמו, למשל, חברת Thermo Fisher Scientific ממסצ'וסטס, שמייצרת רצפי DNA וסיפקה אותם לאגף ביטחון הציבור במחוז שינג'יאנג, שם נמצא הריכוז הגדול של בני המיעוט האויגורי הנרדף, ושמרכז חלק ניכר ממאמצי הריגול והמעקב של השלטונות. החברה הפסיקה את מכירת הרצפים לסין בעקבות פניית הארגון.

טביעות אצבע? בסין דורשים מאנשים גם צילומי איברים פנימיים המיעוט האויגורי בסין נדרש לעבור בדיקות מיוחדות בהן חודרת הממשלה לגופם עם צילומים ודגימות דם, ליצירת מאגר ביומטרי חסר תקדים שאף רודף אחריהם ברחובות; עומר כביר, 12 תגובותלכתבה המלאה

את טכנולוגיית זיהוי הקול שבה נעשה שימוש בשינג'יאנג מספקת אמנם חברה סינית בשם iFlytek, אך חלק ניכר מהידע והפיתוחים שלה נולדו משת"פ עם MIT. "ב-MIT אמרו שהם הסכימו לשיתוף הפעולה לפני שהאוניברסיטה יצרה הליך חדש לבחינת רמת הסיכון של פרויקטים בינלאומיים", אמרה מנהלת אזור סין ב- Human Rights Watch, סופי ריצ'רדסון, לפודקאסט Planet Money של NPR. "אבל הם עדיין משתפים פעולה עם iFlytek".

יש מדען אמריקאי אחד שהשיתוף פעולה שלו עם סין מעיק במיוחד: פרופ' קנת' קיד מאוניברסיטת ייל. הוא אחד הגנטיקאים החשובים בעולם, ובין השאר היה בין הראשונים לזהות את התפקיד של גנטיקה במחלות נפש והוביל את השימוש בראיות DNA בבתי משפט. אחד הפרויקטים שעליהם הוא עובד מזה כמה עשורים הוא מיפוי ההבדלים הגנטיים בין בני אדם על בסיס גיאוגרפי, במטרה לגלות האם סמנים גנטיים מסוימים יכולים להעיד על מוצאו של אדם. עבודתו המדעית של קיד שימשה כבסיס לפיתוח שירותים כמו 23andMe, שמאפשרים ללקוחות למפות את ה-DNA ולראות את המוצא שלהם.

לצורך עבודתו, אסף קיד במשך עשורים דגימות DNA מאנשים מכל העולם וממוצאים שונים. אבל היה מקום אחד שממנו התקשה להשיג דגימות: סין. הכל השתנה ב-2010, כשקיד הוזמן לבקר בבייג'ינג מטעם המשרד לביטחון הציבור. שם נפגש קיד עם אחת המדעניות הבכירות של המשרד, שהביעה עניין רב בתחום המחקר שלו, וסיפרה שיש לה גישה ל-DNA של אזרחים סיניים ממוצאים אתניים שונים. היא הציעה לשתף אתו פעולה וקיד הזמין אותה למעבדה שלו בייל.

מעבדת גנטיקה, צילום: אי פי איי מעבדת גנטיקה | צילום: אי פי איי מעבדת גנטיקה, צילום: אי פי איי

השניים עבדו יחד במשך שנה, שבסיומה פרסמו מאמר מדעי שבוחן את ההבדלים הגנטיים בין קבוצות אתניות שונות בסין, ובהן קבוצות שנרדפות על ידי השלטון כמו האויגורים. כשעבדו יחדיו, אמר קיד, הוא סבר שהדגימות שסיפקה המדענית הסינית נאספו בהסכמה ("היא אמרה שהדגימות נאספו בהסכמה חתומה, למה שאפקפק בזה?" הוא אמר ל-Planet Money), מה שכיום מוטל מאוד בספק.

חמור יותר, לפי הערכות העבודה המשותפת הזו אפשרה לסין ליצור מאגר מידע גנטי של אויגורים במדינה, ולזהות אזרחים שנמנים על הקבוצה רק באמצעות דגימת דם שלהם. העבודה של קיד מהווה כיום חלק מרכזי במערכת שמסמנת, מנטרת ומדכאת את האויגורים. היא נעשתה הרבה לפני שנודע במערב על משטר הרדיפה נגדם, וקיד משתמש בעובדה זו להגנתו: "אני לא יכול לדעת כל מה שיקרה בעתיד".

מדובר בטיעון מתחמק. אמנם אי אפשר לדעת בוודאות, אבל אפשר להעריך, לדמיין ולשער. זה מה שמדענים עושים, חלק גדול מהעבודה המדעית מתחיל ב"מה יקרה אם..." וגם אם לא יכול היה לדעת או לנחש, כבר ב-2010 היה ידוע לעולם שהמשטר בסין הוא לא בדיוק מהסוג הליברלי וחובב זכויות האדם. העניין מצד סין בעבודתו היה חייב להדליק אצל קיד נורות אדומות. העובדה שזה לא קרה מצביעה על כך שמדובר באדם שסובל מתמימות קיצונית, או שבחר ביודעין שלא לדעת מה עלול לקרות.

הדם הזה, הוא נאסף וולנטרית?, צילום: שאטרסטוק הדם הזה, הוא נאסף וולנטרית? | צילום: שאטרסטוק הדם הזה, הוא נאסף וולנטרית?, צילום: שאטרסטוק

אבל פרופ' קיד הוא רק סימפטום. לממשלות יש כוחות אדירים לבצע מעקב וניטור אחרי אזרחים, אבל הן לא יכולות לעשות את זה לבדן. הן צריכות חברות שיספקו להן ציוד וטכנולוגיה, אוניברסיטאות שיתרמו להן ידע, מדענים שישתפו פעולה עם אנשיהן. בלעדיהם, יהיה זה קשה הרבה יותר, אם לא בלתי אפשרי, להקים מערך ריגול נרחב כמו זה שיצרה סין.

עשרות מומחי AI: תוכנת זיהוי הפנים של אמזון פגומה, ופוגעת בזכויות אדם מערכת Rekognition שפיתחה החברה מתקשה בזיהוי המגדר של נשים, ובפרט כהות עור, מה שמוביל לטעויות בזיהוי ומעצרי שווא; מומחים עולמיים מהאקדמיה ומחברות טכנולוגיה, ביניהם חתן פרס טיורינג יושוע בנגיו, פנו לאמזון במכתב פתוח ודרשו ממנה לתקן את המעוות עומר כביר, 2 תגובותלכתבה המלאה

לא מספיק תשומת לב הוקדשה לסייענים, במודע או שלא במודע, שמאפשרים למדינות דמוקרטיות יותר או פחות להקים מערכי ריגול אחרי אזרחיהן. בתקופה האחרונה אמזון זוכה לביקורת רבה על המכירה הבלתי מוגבלת של תוכנת זיהוי הפנים הבעייתית שלה לכוחות משטרה בארה"ב, אבל מדובר ביוצא מן הכלל ולא בכלל. חברות צריכות לגלות אחריות רבה יותר, אזרחים ומדינות שבהן הן פועלות צריכים לדרוש מהן את זה. כל חברה שמוכרת טכנולוגיה לסין צריכה לדעת שהיא יכולה לשמש במערך הריגול והדיכוי, בין אם מדובר במשהו ברור כמו מערכת זיהוי פנים או בסיסי יותר כמו מעבדים. הכל יכול להגיע בסופו של דבר לכדי פגיעה בזכויות אדם.

ברור שאי אפשר לחלוטין לעצור את הסחר הטכנולוגי עם סין, זה אולי נכון מוסרית אבל לא פרקטי במצב הכלכלי והפוליטי הגלובלי היום. אבל חברות יכולות להחליט שיש טכנולוגיות שהשימוש שלהן ברור מדי, שהיכולות שלהן לשמש מדינת משטרה מובהקות דיין מכדי שאפשר יהיה למכור אותן למדינה כמו סין בלי נקיפות מצפון. חברות צריכות ליצור הליכי בקרה והחלטה שייקחו בחשבון גם שיקולים אתיים בבואן למכור טכנולוגיות למדינות שונות, כדי להפחית כמה שניתן את התרומה שלהן למערכי ריגול.

ואת זה אומרים גם גורמים בתעשייה עצמה. "זה חשוב שלכל חברת טכנולוגיה שמספקת כלים עוצמתיים שכאלו יהיו עקרונות לגבי האופן שבו היא מטפלת בפיתוח בתוך החברה, אבל גם לגבי זכויות האדם שעלולות להיפגע משימוש בטכנולוגיה", אמרה לאחרונה לכלכליסט סמנכ"לית הפרטיות של מיקרוסופט, ג'ולי בריל. "אנחנו רוצים לוודא שבכל טכנולוגיה שאנו מספקים לממשלה או לכל לקוח אחר ייעשה שימוש אחראי ומכובד, שיכבד את זכויות האדם. זה חלק מהליך הבחינה של בקשות להשתמש בטכנולוגיה שלנו".

תוכנות הפריצה של NSO? אותו הדבר, צילום: אוראל כהן תוכנות הפריצה של NSO? אותו הדבר | צילום: אוראל כהן תוכנות הפריצה של NSO? אותו הדבר, צילום: אוראל כהן

ואם חברות לא מוכנות להכיל את מנגנונים כאלו על עצמן, הדבר הנכון יהיה שהמדינות והאזרחים שבהן הן פועלות ידרשו זאת מהן ויחייבו אותן בכך. כל ממשל, אפילו במדינה דמוקרטית, מצוי בסכנה להחליק במדרון של צבירת כוח והפעלת מגנוני ריגול נגד אזרחים, ולכן הדבר הנכון יהיה לחייב חברות לבחון את השימושים האפשריים בטכנולוגיה שלהן גם כשהן מוכרות אותן למדינות דמוקרטיות. מדובר בפתרון לא אידיאלי, שכן שום ממשלה לא תגביל מכירה של טכנולוגיה לעצמה, אך כזה שיכול לפחות לשרת חלקים נרחבים בעולם.

יש לבעיה הזו גם זווית מקומית: חברות ישראליות, דוגמת NSO, הן יצואניות בולטות של כלי סייבר שמשמשים לריגול ולמעקב. אמנם לא בהיקף ובעומק כמו המערך שנבנה בסין, אך עדיין כזה שמשמש מדינות כמו ערב הסעודית לריגול אחרי עיתונאים ומתנגדי משטר. חרף ביקורת ציבורית מסוימת, NSO ממשיכה לפעול באין מפריע ובלי רגולציה אפקטיבית לגבי לקוחותיה. לאור מה שכבר ידוע על השימוש שנעשה במוצרי הריגול שלה, לאור הפוטנציאל שגלום בניצול לרעה של טכנולוגיה כמו זו שהיא מפתחת, אי אפשר להעלים עין ממה שנעשה בחברה. למדינה יש את הידע ואת הכלים לווסת את מכירות החברה ולפקח עליהן. משבחרה לא לעשות זאת, האחריות על הפגיעה שנעשית דרכם בזכויות אדם מוטלת על ראשה, וגם על ראשינו כאזרחיה.

קצרצרים

1. לאמריקאים יש כזה קטע שהם מאוד אוהבים את חופש הביטוי ומגינים עליו בכל מיני דרכים. מוזר. השבוע, למשל, פסק בית המשפט פדרלי לערעורים שלנשיא טראמפ אסור לחסום אנשים בטוויטר, כי התיקון הראשון לחוקת מגן על הזכות להביע ביקורת (ומי שחסום על ידי פוליטיקאי לא יכול לעשות זאת). אז עכשיו, בעקבות הפסיקה, שני מבקרים מקוונים של חברת הקונגרס הדמוקרטית אלכסנדרה אוקסיו-קורטז, שמאז נבחרה ב-2018 מתבלטת כאחת המחוקקות החכמות והמוכשרות בבית הנבחרים, תובעים אותה בבית משפט פדרלי אחרי שחסמה אותם בטוויטר. הם מבקשים רק שתסיר את החסימה, ועל פניו הם צודקים.

טראמפ וטוויטר, צילום: Alabama Today טראמפ וטוויטר | צילום: Alabama Today טראמפ וטוויטר, צילום: Alabama Today

2. אמזון נותנת: הסייענית החכמה של החברה, אלקסה, תתחיל לספק למשתמשים בבריטניה מידע רפואי, באמצעות שיתוף פעולה עם שירות הבריאות הלאומי במדינה (NHS). לא מדובר במידע רפואי פרטי, אלא בגישה למאגר המידע הפומבי של NHS שתאפשר לאלקסה להשיב לשאלות על מחלות נפוצות, כולל טיפולים אפשריים. הצד השלילי הוא שעצם השאלות בנושאים רפואיים יכולות לספק לאמזון מידע נוסף לבניית פרופיל אישי ולשמש בהמלצות על מוצרים באתר.

3. ואמזון לוקחת: סטודנטית בארה"ב שאיחרה בארבעה ימים בהחזרת ספר לימוד לאמזון (החברה מפעילה בארה"ב תוכנית מוצלחת להשאלת ספרי לימוד), נתקעה עם קנס של 3,800 דולר – פי 25 ממחירו של הספר. הפעם זה נגמר בטוב: אחרי שיחה של תשע (9!) שעות עם שירות לקוחות של החברה הצליח אביה של הסטודנטית לחלץ מאמזון החזר מלא. באמזון אומרים בתגובה שמדובר ב"טעות מבודדת". נגיד.

שיתוף בטוויטר שיתוף בוואטסאפ שיתוף בפייסבוק שיתוף במייל

תגיות