"כמו בסין": סערה סביב מערכת הריגול של משרד הביטחון

ביום חמישי שעבר התכנסה ועדת המשנה לשירותים חשאיים לדיון סוער בתקנות שמאפשרות לשב"כ לרגל אחרי אזרחי ישראל. אנשי הפרטיות, המשפט ומומחים נוספים שהשתתפו בו (בשיחת וידיאו מביתם) היו מבועתים. "פגיעה מאסיבית בפרטיות", "בלתי נתפס", ו"אנחנו לא עבריינים", היו רק כמה מהביטויים שנזרקו שם. אבל ממש באותם רגעים עמלו ב-NSO, ובמשרד הביטחון על מערכת ריגול מבוססת בינה מלאכותית, מתוחכמת, מרובת יכולות ואדירת ממדים.

המערכת אמורה לדרג כל אזרח בהתאם לסיכון שלא להידבק בקורונה ולשמש כבסיס לפעולות להגבלת התפשטות המגפה. מדובר במערכת בעלת השלכות רחבות על הפרטיות ואורח החיים הדמוקרטי, שהיא בטח מופיעה בחלומות הרטובים של ראשי המפלגה הקומוניסטית בסין. "המערכות הטכנולוגיות של היום חודרניות ופולשניות הרבה יותר מהכלים שהיו לשטאזי ולסקוריטטה", אמר דורון אופק מהתנועה לזכויות דיגיטליות. "כעת, מתברר, שמדרגים אותנו כמו שמדרגים מחבלים".

את פיתוח המערכת הוביל שר הביטחון בממשלת המעבר, נפתלי בנט, והשתתפו בה משרד הביטחון, המינהל למחקר, פיתוח אמצעי לחימה ותשתית טכנולוגית (מפא"ת), 8200 ו"חברת הייטק אזרחית". בנט לא נקב בשם החברה, אך כמה מקורות אישרו לכלכליסט שמדובר ב-NSO.

לדברי בנט, לתוך המערכת "שופכים" תוצאות בדיקות קורונה שנעשו לאזרחים ואיכונים סלולריים מחברות הסלולר, ואז היא "עושה נפלאות". "היא מדרגת כל אזרח ומה סבירות שהוא מדביק כרגע בקורונה", הוא הסביר בחשבון הטוויטר שלו. "הכל אוטומטי. נניח ביקרת שלשום בכספומט ששעה קודם לכן היה שם נשא-קורונה, הציון שלך יעלה, נניח ל-9. מזהה עבורנו בזמן אמת מבנים, שכונות ומוקדי הדבקה, ועליהם 'נתנפל', ונבצע בהם סגר או המון בדיקות. זה במקום חקירה ידנית מסורבלת שאי אפשר לבצע בהיקף רחב".

לדברי בנט, על מנת להפעיל את המערכת דרוש אישור של היועץ המשפטי לממשלה, אך ממשרד המשפטים נמסר ל"כלכליסט" בנושא: "הפרויקט מטופל במשרד הביטחון בליווי יועמ״ש מערכת הביטחון, וטרם הובא ע״י משרד הביטחון לבחינת היועמ"ש". בנט ציין עוד שדרושה הסכמת משרד הבריאות על מנת להעביר למערכת תוצאות בדיקות. ואולם, דובר משרד הבריאות אמר ל"כלכליסט": "אני לא מכיר את הנושא".

המומחים חוששים: "מתן לצבא כלים לאיסוף מידע על אזרחים חפים מפשע - שערורייה"

המערכת שמציג בנט היא למעשה מערכת מעקב משוכללת שמזכירה את מערכת הדירוג של סין, המעניקה לכל אזרח ציון חברתי לפני ההתנהגות שלו, כאשר ציון גבוה מקנה זכויות מסוימות ונמוך שולל אחרות.

"כלכליסט" התקשה למצוא מומחה בתחום שלא נחרד כששמע על המערכת החדשה, כאשר לכל ברור שמדובר בעליית מדרגה בכל הנוגע להפעלת מאמצי ריגול, מעקב ומשטור נגד אזרחים בחסות מצב חירום זמני. תוך שמוענק להם יחס שהיה שמור עד עתה לאויבי המדינה.

"הפעלת הצבא לצורך בניית אפליקציה לאיסוף מידע על אזרחים, שהם אינם עבריינים ובטח שלא אויבים, אלא בסך הכול חולים פוטנציאליים, היא לא פחות משערורייתית", אמרה ד"ר תהילה שוורץ אלטשולר מהמכון הישראלי לדמוקרטיה. "בנט לוקח את דרכי ההתמודדות מול אויבים ומפנה אותם מול אזרחים. בקורונה צריך להילחם במיטב האמצעים הטכנולוגיים, אך יש לפתחם תוך שמירה על הזכות לפרטיות – ולא לראות בה מכשול שיש לדלג מעליו. כאשר שר ביטחון מורה למערכת הביטחון לפתח אפליקציית דירוג חברתי של אזרחים ורק אחר כך פונה ליועץ המשפטי לממשלה לבקש אישור הוא עושה מעשה לא חוקי. גם במצב חירום. איש לא ביקש מבנט להעמיד אותנו בשורה אחת עם סין המדרגת את האזרחים לפי צבעים ולפי דרגות".

עו"ד חיים רביה, ראש קבוצת האינטרנט והסייבר במשרד פרל כהן צדק לצר ברץ, ציין שהפרטים, כפי שמציג אותם בנט, מעלים שאלות מדאיגות רבות "איזה מידע ייאסף, על ידי מי, באיזה מערכות מחשב יאוחסן ויעובד, האם תהיה זיקה פרטית למידע הזה, כמה זמן הוא יישמר ולמי יועבר ובפרט מה תהיה בכך מעורבותה של NSO. המערכת של בנט מבקשת לתת ציון הדבקה לכל אזרח. למה צריך ציון כזה ובמה הוא מקדם אותנו לעומת מערכת ההתחקות של השב"כ - לא ברור. לעומת זאת ציון כזה מהדד את הציונים שהמשטר הסיני נותן לאזרחיו", הוא אמר ל"כלכליסט".

פרופ' קרין נהון מהמרכז הבינתחומי בהרצליה הוסיפה: "האם אנחנו רוצים שהנתונים המאוד חריגים של איכון האזרחים על ידי השב״כ (שזו סוגיה בפני עצמה) יעברו למערכת שכזו, ובשילוב של נתונים אישיים ורגישים נוספים ייצרו דירוג של אזרחים – מי מדביק יותר ומי מדביק פחות? גם בזמן קורונה, מהלך שכזה הוא מהלך דורסני ומסוכן".

אופק אמר שהוא חושש שהשימוש בכלי זה יתרחב במהירות גם למטרות אחרות. "לכלים הללו יש נטייה להשתרש", הסביר. "אפשר לעקוב אחרי חולי קורונה, אז למה לא אחרי פושעים, ואם פושעים אז למה לא אחרי בעלים לא נאמנים, או סתם תלמידים שהחליטו לא ללכת לבית הספר. זה לא תיאור דיסטופי, זו המציאות. רוצים לנצח את הנגיף? בשיתוף פעולה ועזרה הדדית, תוך כבוד עצמי, שהודגמו באפליקציות כמו המגן. רוצים לפורר את הסולידריות החברתית? תכניסו חברות ריגול והלשנות שישברו אותנו מבפנים".

"לחברת NSO מוניטין שלילי"

אחת הסוגיות המטרידות בהקשר זה היא השילוב של NSO בהליך הפיתוח של האפליקציה. עשרות דיווחים בשנתיים האחרונות הציגו את מפתחת תוכנות הריגול הישראלית כחברה שזכויות הפרט והאזרח לא נמצאות בראש סדר העדיפויות שלה: התוכנה שלה שימשה לריגול אחרי עיתונאים, פעילי זכויות אדם ומתנגדי משטר ונמכרה לשימוש של משטרים דכאניים דוגמת ערב הסעודית.

"מדוע חברה פרטית כמו NSO, ששמה קשור לאירועים שונים של רדיפת מתנגדי משטר, עיתונאים וכדומהו, שמפעילה תכנת ריגול חודרנית ופולשנית, קשורה לפיתוח שכזה?" תמהה נהון. "חסרים למשרד הבטחון, למפא״ת וליחידת התקשוב אנשים מוכשרים, יכולות וטכנולוגיות? הסיבה היא שכנראה מתכננים לשלב את נתוני השב״כ, ביחד עם אלה של משרד הבריאות וביחד עם נתונים נוספים שאותם קוצרים מהרשתות החברתיות או מספקי תוכן/תקשורת/רשתות על כל אחד מהאנשים. שילוב הנתונים יהיה חשוף גם לאנשים רבים וגם ל-NSO".

רבייה הוסיף: "חבירה של משרד הבטחון לחברת NSO שהתמחותה במערכות ריגול לחדירה לטלפונים סלולריים ומחשבים ושזכתה למוניטין שלילי לאחר שכלי התוכנה שלה שימשו משטרים לא דמוקרטיים לתקיפת אנשי אופוזיציה ופעילי זכויות אדם, היא ביטוי לחוסר רגישות ציבורי ואטימות שאין כדוגמתם, בתקופה שאנשים מנסים בכל כוחם לאזן בין הפרטיות לעצם החיים".

סוגיה בעייתית אחרת היא ההטיה האפשרית של מערכות בינה מלאכותית מסוג זה, שעלולות לדרג אזרחים מסוימים ברמת סיכון גבוה גם כשאין לכך הצדקה. כשלוקחים מערכות בינה מלאכותית ומשלבים אותם בנושאים חברתיים, יש סכנה שהמערכות הללו יגדילו הטיות שקיימות בתוך החברה", הסבירה נהון. "כך למשל, סביר להניח שאיש למשפחה מרובת ילדים יזכה במערכת למספר גבוה יותר, כי הוא חשוף לאנשים רבים יותר ביומיום (בני משפחתו). האם זה אומר שהוא חולה? או שהוא ראוי להיות מבודד? מי יוכל לערער על כימות החיים שלנו למספרים בין 1 ל-10?".

שוורץ אלטשולר אמרה שהפתח לפגיעה לרעה בהקשר זה רחב במיוחד: "בסין שקללו גם מוצא ואזור מגורים על-מנת לדרג את האוכלוסייה, ונשאלת השאלה האם גם כאן יינתן ציון שונה ליהודים ולערבים, למשתכרים גבוה או נמוך, לחרדים אל מול האוכלוסייה הכללית, ומה באשר לעמדה פוליטית או לדפוסי הצבעה. זו התוצאה כאשר נותנים לאלגוריתם להחליט. מידע הוא כוח ובידי מי שיש ברשותו מידע מהמון מקורות יש המון כוח, ואפליקציה מהסוג הזה, שנותנת ציונים לאזרחים, היא אפליקציה של שליטה, והפיתוי להשתמש בה כלפינו לצרכים אחרים ביום שאחרי הקורונה יהיה גדול. פוליטיקאים וגם ארגוני הביטחון פשוט לא יעמדו בו".