סחאקה. "רוגלות הן טכנולוגיה אנטי־דמוקרטית שאין לה שום ייעוד לגיטימי, גם אם יש מי שמשתמש בה כדי להילחם בטרור ובפשע מאורגן". צילום: Wei Leng Tay
באג בדמוקרטיה
"השטאזי היה יכול רק לחלום על כמות המידע שיש לחברות טכנולוגיה עלינו"
מריצ'יה סחאקה לא קונה את המיתוג החדשני של ענקיות הטכנולוגיה. לספרה החדש והמטלטל קראה "איך לשמור על הדמוקרטיה מפני סיליקון ואלי", ובריאיון למוסף כלכליסט מסבירה חברת הפרלמנט האירופי לשעבר כיצד טכנולוגיות־על, פיקוח מוחלש וכמויות המידע העצומות שבידי חברות פרטיות הם סכנה לדמוקרטיה כצורת שלטון
ביוני 2009, בחודש שבו נבחרה מריצ'יה סחאקה לפרלמנט האירופי כנציגת מולדתה, הולנד, נערכה עוד מערכת בחירות במרחק כ־5,000 ק"מ ממזרח — באיראן. לסחאקה עדיין לא היתה אז שום דרך לדעת זאת, אבל שני האירועים עיצבו במידה רבה את דרכה האישית והמקצועית מאז.
לאחר שתוצאות הבחירות באיראן זויפו, ונשיאה באותה תקופה, מחמוד אחמדיניז'אד, "נבחר" לכהונה נוספת, התלקחה במדינה מחאה אזרחית רחבת היקף שזכורה כיום בשני שמות: "המחאה הירוקה", על שם הצבע שהיה מזוהה עם יריבו של הנשיא, מיר־חוסיין מוסאווי, ו"מהפכת הטוויטר" בגלל השימוש שהמפגינים עשו ברשת החברתית כדי לתאם את מאמציהם תחת משטר דכאני ששולט לחלוטין בכלי התקשורת במדינה.
טוויטר, שהיתה אז בחיתוליה, תוארה כפלטפורמה בעלת חשיבות קריטית למאמצי הדמוקרטיזציה של איראן, ובשיא המחאה ממשל אובמה אף פנה לראשיה בבקשה שיעכבו את יישומו של עדכון מתוכנן במערכותיה כדי שלא תיחסם גישתם של המפגינים אליה, ולו זמנית. אלא שבניגוד לתקוות שתלו המפגינים האיראנים והתומכים בהם בטכנולוגיה, מהר מאוד התברר להם שהיא פעלה בעיקר נגדם.
שנה לאחר המחאה, סחאקה (45) פגשה בטורקיה איראני גולה בשם עלי שהושלך לכלא הקשוח ביותר במדינה לאחר שאנשי מיליציית הבסיג' האיראנית ניטרו את הטלפון הנייד שלו באמצעות רוגלה ששתלו בו. אותו מפגש, היא אומרת כיום, שינה את חייה.
בריאיון לרגל צאת ספרה, "ההפיכה הטכנולוגית" (The Tech Coup: How To Save Democracy From Silicon Valley), מספרת סחאקה, כיום אנליסטית וחוקרת שמייעצת לממשלות ולאו"ם, כי אותה שיחה היתה כה משמעותית עבורה מכיוון שעלי "הפריך בה את הנרטיב שהיה אז בשיאו — שטכנולוגיה היא כוח דמוקרטי ואין להתערב בה. האמת היא שזה פשוט לא נכון. אומנם טלפונים סלולריים וגישה לאינטרנט מקנים לאנשים את היכולת לתעד הפרות זכויות אדם, לגשת למידע, לדבר זה עם זה ולהתארגן, אבל זה לא כל הסיפור, והתפקיד שחברות טכנולוגיה מערביות ופוליטיקאים מערביים מילאו בו מאוד בעייתי. הייתי מלאת מוטיבציה לעשות משהו בקשר לכך, ובתחילת הקריירה הפוליטית שלי גם למדתי באמצעותו על הצורך באיזונים ובלמים, במדיניות ובאחריותיות, וגם על הכישלון שלנו לקיים את ההבטחה הגלומה בטכנולוגיה ככוח של דמוקרטיזציה".
מה היה מטלטל כל כך במפגשים שלך עם עלי וצעירים איראנים גולים אחרים שדיברת איתם אז?
"ברבות מהשיחות חזרו טענות כמו 'הם פרצו לטלפון שלי', 'הם קראו את המיילים שלי', 'הם יודעים מה אני אומר ומה אני מעלה לרשתות החברתיות'. שמעתי הרבה פחד בקול שלהם, וניסיתי להבין כמה מזה אמיתי וכמה תיאוריות קונספירציה, כי למרבה הצער, במזרח התיכון יש לפעמים אמונה ביכולות שלא תמיד קיימות. התחלתי לחקור את העניין כדי להבין על איזו טכנולוגיה הם מדברים, ודי מהר גיליתי שמי שסיפקו למשטר האיראני את תוכנות הניטור שעזרו לו לאתר את המפגינים היו חברות אירופיות (למשל נוקיה סימנס הפינית־גרמנית — ר.ד.). בהתחלה פשוט לא האמנתי. הרי חייב להיות מנגנון כלשהו שמגביל את מכירת הרוגלות האלה לממשלה הדכאנית ביותר בעולם. אז המשכתי לחקור את זה, וקלטתי שזה בדיוק כך: שחברות אירופאיות מכרו את הרוגלות המתוחכמות ביותר לאיראן, ולא רק לה אלא גם לתוניסיה, סוריה ומצרים".
מאז אותה נסיעה גורלית לטורקיה, סחאקה, שגרה בפרבר של אמסטרדם, מקדישה את הקריירה שלה לבלימת השחיקה המתמשכת שמסיבות חברות הטכנולוגיה לדמוקרטיה ברחבי העולם. עד 2019 עשתה את זה בפרלמנט האירופי, שם תרמה לעיצוב המדיניות האירופית בתחום הטכנולוגיה, הסחר ויחסי החוץ כנציגת הולנד מטעם מפלגת הדמוקרטים (D66). במהלך אותו עשור התברגה לא פעם לרשימות המשפיעים של פוליטיקו, שכינה אותה "הפרלמנטרית הדיגיטלית האולטימטיבית" ש"נצמדת לעקרונותיה בציפורניים".
כפוליטיקאית טרייה בזמנו, כיצד הרגשת כששמעת מה שאומרים הגולים האיראנים שדיברתם איתם?
"חשבתי שזה אבסורדי וצבוע. מצד אחד יש לך את כל שרי החוץ האירופיים שמטיפים לזכויות אדם, לחופש בחירות ולחופש עיתונות, ומצד שני שום דבר לא מונע מחברות אירופיות למכור את הטכנולוגיות האלה. זה כשלעצמו נראה לי כמו משהו ששווה להיאבק עליו, ולכן אפשר לומר שאת המטרה שלי להגביל או להוציא רוגלות מחוץ לחוק סימנתי כבר לפני כמעט 15 שנה".
למה דווקא רוגלות?
"האופן שבו הטכנולוגיה בנויה, המטרות שלה והגורמים שרוכשים אותה — משמעותם איום לשלטון החוק, לזכויות ולסוגי החופש שאנחנו חושבים שחשוב להגן עליהם. לפני חודש דווח שטכנולוגיה דומה לזו שפרסמה את NSO הישראלית נמצאה בשימוש ברוסיה חרף הסנקציות; בפולין, הממשלה הקודמת, שככל הנראה לא היו לה היכולות המודיעיניות הללו לפני כן, השתמשה בתוכנת פגסוס של NSO כדי לפרוץ לטלפונים של שופטים, מנהיגי אופוזיציה ועיתונאים. יש לכך השלכות על הפרדת רשויות ועל שלטון החוק בכלל, משום שהממשלה לא רשאית לעשות שימוש בכל אמצעי כדי להישאר בשלטון, ולכן זו טכנולוגיה אנטי־דמוקרטית שאין לה שום ייעוד לגיטימי, גם אם יש מי שמשתמש בה כדי להילחם בטרור ובפשע מאורגן. השימושים השליליים והנזקים עולים בהרבה על התועלת. אנחנו מוכרחים להפנים שעצם העובדה שהטכנולוגיה הזו נמכרת עוזרת לחברה לשדרג את הדור הבא שלה, ולכן התמיכה בתעשייה הזו היא בעייתית".
כלומר?
"שגם חוזה יחיד, שמעוצב לשימוש צר ביותר, תורם למשאבים שנדרשים כדי לשפר את הטכנולוגיה, ובעקיפין גם להפצה פראית שלה בכל העולם. נדרשת הבנה טובה יותר של טכנולוגיה חדשה לטובת האינטרס הציבורי לפני שהיא נמכרת לכל המרבה במחיר".
"ממשלות צריכות לוודא שכל חוק שחל על ארגונים ממשלתיים לצורך שמירה על שקיפות ונשיאה באחריות צריך לחול באופן שווה על חברות טכנולוגיה שמבצעות מטלות בשם הרשויות. מיקור חוץ לחברות טכנולוגיה מאפשר למדינות ולרשויות אכיפה להתנער מאחריות"
מה דעתך על השימוש שישראל עושה ברוגלות ככלי דיפלומטי, למשל כשאישרה למכור לאיחוד האמירויות רישיון שימוש בפגסוס?
"העובדה שישראל איפשרה לתעשייה הזו לפרוח מצערת מאוד. הנרטיב של הדמוקרטיה היחידה במזרח התיכון ניזוק מאוד בגלל היד החופשית שישראל נתנה לחברות הרוגלה. זה טיפשי שיכולות מודיעיניות מתוחכמות כל כך שנמצאות בידיה של המדינה פשוט נמסרות לכוחות השוק, שימכרו אותן לכל מי שרוצה. ישראלים מבינים טוב יותר מכל אחד אחר שמי שנראה כמו בן ברית היום יכול להפוך לאויב מחר. מה ההיגיון שמאחורי מכירת טכנולוגיה כזו למי שעלול להשתמש בה נגדך בבוא העת, ולכל הפחות עושה בה היום שימוש שאינו מכבד זכויות אדם או מחזק את הדמוקרטיה?"
אם אנחנו לא נשתמש ברוגלות, מדינות אויבות לא ישתמשו בהן נגדנו?
"חברות רוגלה יוכלו להמשיך לפעול במקומות אחרים, אבל דמוקרטיות צריכות להציב רף מוסרי. הרעיון ששוק שאינו נתון לרגולציה ימנע מרוגלות ליפול לידיים הלא נכונות כבר הוכח כשגוי. מי אמר שאויביה של ישראל לא השיגו גישה לרוגלות ישראליות? ישראלים צריכים לשאול את עצמם אם המדינה שלהם נפגעת או נתרמת מהטכנולוגיה הזו, ואם המדינה מאמינה שהיא נתרמת ממנה, אז לכל הפחות שתהיה כפופה לממשל ולשלטון החוק".
בעניין הרוגלות, אמרת ש"השימושים השליליים והנזקים עולים על התועלת". את בטוחה שזה ישים גם למדינות כמו ישראל, שמתמודדות עם איומים יוצאי דופן?
"יש הבדל בין חברות מדינתיות למסחריות. לעתים קרובות אנחנו רואים שחברות רוגלה מסחריות לא פועלות בתוך המנדט של המדינה, ולא נתונות לאיזונים ובלמים כלל וכלל. התחושה שלי היא שמדינת ישראל אינה זקוקה לחברות מסחריות לביצוע עבודתה. למרבה הצער, גם הרשויות הישראליות עושות שימוש רחב במיתוג בני אדם כ'טרוריסטים', להצדקת הרג או רדיפה של אנשים באמצעות רוגלות או אמצעים אחרים".
לפוליטיקאים אין מושג
מלבד מאבקה בתחום הרוגלות, סחאקה עזרה להוציא לדרך באיחוד האירופי את מדיניות ניטרליות הרשת, עיקרון שלפיו אין להעדיף או למנוע העברת נתונים מכל סוג ועל פני כל פלטפורמה ברשת האינטרנט. בארצות הברית, נציבות התקשורת הפדרלית הודיעה לפני כחצי שנה שתחזיר את כללי ניטרליות הרשת כפי שחלו עד 2017, אז בוטלו על ידי הנשיא לשעבר טראמפ. באותה שנה קיבלה סחאקה תפקיד בנציבות הגלובלית ליציבות מרחב הסייבר מטעם משרד החוץ ההולנדי, ושנתיים לאחר מכן פרשה מהפוליטיקה ("היו שם עניינים פנים־מפלגתיים") כשהנציבות הפכה לעמותה ששמה CyberPeace שמתעדת הפרות זכויות אדם שנגרמות ממתקפות סייבר. סחאקה עמדה בראשה עד דצמבר 2021.
בשנים שחלפו מאז סחאקה עוסקת בייעוץ ומשמשת עמיתת מחקר במרכז למדיניות סייבר של סטנפורד ובמכון לבינה מלאכותית ממוקדת אדם באוניברסיטה, שם היא בין היתר בונה קורסים בהתאמה אישית לפוליטיקאים. "מבוא לבינה מלאכותית למדען מחשבים זה משהו אחר לגמרי ממבוא לבינה מלאכותית למקבל החלטות", היא אומרת. "אנחנו מנסים לבנות עבורם תוכנית לימודים ייעודית, וגם מרחב שבו מצד אחד יוכלו לשאול שאלות בלי לחשוש שייצאו טיפשים ומצד שני שלא יופעל עליהם בו לחץ של לוביסטים".
קשה להמעיט בחשיבותו של הקורס שבנתה סחאקה, משום שפוליטיקאים לא תמיד מעודכנים טכנולוגית, בלשון המעטה. השימוע של מייסד פייסבוק ומנכ"ל מטא מארק צוקרברג בקונגרס באפריל 2018 סיפק שלל רגעים מביכים שהבהירו עד כמה קובעי המדיניות האמריקאים בורים בתחום הרשתות החברתיות. למשל כשאורין האץ׳, סנאטור מיוטה, שאל את צוקרברג מהו המודל הכלכלי שלו, וזה השיב לו בחיוך, "סנאטור, אנחנו מריצים פרסומות", או כשבריאן שץ מהוואי, אחד מצעירי הסנאט, שאל שוב ושוב אם פייסבוק יכולה לעקוב אחר כל "אימייל" שנשלח בווטסאפ.
נוסף על תפקידה בסטנפורד, סחאקה חברה בקבוצת הוגים שמייעצת לנשיא צרפת עמנואל מקרון בתחום הטכנולוגיה, מייעצת לאו"ם בנושאי בינה מלאכותית ומסייעת לעמותות שעוסקות בהגנה על החופש באינטרנט. העמדה הכפולה שלה - גם אשת מעשה וגם חוקרת, רגל אחת באירופה והשנייה בארצות הברית - מקנה לה פרספקטיבה ייחודית על הבעיה. ואת הבעיה, מבחינתה, אי אפשר עוד לעטוף בצמר גפן. "המצב כיום הוא שחברות הטכנולוגיה מתערבות במלחמות, מכוננות מערכות מוניטריות משלהן, וכמות המידע שיש להן על אזרחים היא כזו שהשטאזי היה יכול רק לחלום עליהן", היא אומרת בחיוך מריר.
פי 10 יותר עורכי דין
סחאקה לא מגזימה. אנחנו חיים בעידן שבו אלון מאסק יכול לשלוט בגובה הלהבות במלחמה באוקראינה באמצעות לווייני סטארלינק שבבעלותו, המספקים גישה לאינטרנט מכל מקום. ברצותו, יכולים האוקראינים להשתמש בחיבור שהוא מספק להם כדי להכות ברוסים באמצעות רחפנים. כשהחליט שלא בא לו "להיות מעורב עד צוואר בפעולה מלחמתית ובהחרפת הקונפליקט", כשסבר שהאוקראינים מתכוונים להטביע את כל צי הים השחור הרוסי באמצעות כלי שיט בלתי מאוישים, הוא השבית את השירות בחצי האי קרים במכוון.
במקביל, נראה שלא עובר חודש ללא הצהרה של חברת טכנולוגיה על יצירת מטבע דיגיטלי שכולנו נתעשר ממנו או שמתפוצצות לנו בפנים שערוריות כמו קיימברידג' אנליטיקה, שמערערות את יסודות הדמוקרטיה במקומות שונים בעולם. אבל הספר של סחאקה, שזכה לשבחים מהפילוסוף הפוליטי פרנסיס פוקויאמה ומכלת פרס נובל הפיליפינית מריה רסה, ואזל מאמזון כבר ביום שבו יצא בחודש שעבר, אינו ספר על סקנדלים טכנולוגיים.
החידוש בו הוא בנטישת פרדיגמת האנקדוטות והעיסוק במוזרויותיהם של אנשים כגון מאסק וצוקרברג, לטובת ניתוח התמונה הגדולה. הטכנולוגיה, היא מסבירה בו, איננה סקטור, אלא שכבה שמשפיעה על כל הסקטורים. מכך משתמע שהטכנולוגיה לא מייצרת רק סכנות מעטות בדמות רוגלות, דיסאינפורמציה ומבצעי השפעה, אלא שעצם קיומה מהווה סכנה ברורה לדמוקרטיה כצורת שלטון. הסיבה לכך, ברוב המקרים, היא גודל.
"בזמן כהונתי בפרלמנט האירופי, הלך והתבהר לי הפער העצום והגדל בין הכוח התאגידי לבין יכולת הרגולציה והפיקוח הדמוקרטית", היא כותבת בספר. "במקרים מסוימים, זה בעיקר בגלל כסף. בינואר 2024, שווי השוק של אפל היה שלושה טריליון דולר, מה שהפך אותה לגדולה יותר משווי כל החברות שנסחרו בבורסות המניות של גרמניה ואוסטרליה יחד. הפער הזה גורם לכך שהסקטור הציבורי מדשדש מאחורי הסקטור הפרטי ביכולות חדשנות - שלא לדבר על משכורות, כוח חישובי, ידע וכישרון - כך שיכולתו לחוקק חוקים שנועדו לסייע לאזרחים נפגמה משמעותית".
"איש לא חושב שחברות רכב היו מייצרות מכוניות בטוחות ללא פיקוח, וכך גם חברות תרופות. אנחנו הרי לא נגד מכוניות ותרופות, אלא רוצים לוודא שלא ניפגע. באותו אופן ממשל דמוקרטי צריך לומר לחברות טכנולוגיה: 'יש עקרונות יסוד שאסור לכן להפר"
חיזוק לטענתה של סחאקה התקבל לאחרונה מיו״ר נציבות הסחר (FTC) של ארצות הברית, לינה קאן, שסיפרה שכשהנציבות פוגשת חברות טכנולוגיה בבית משפט, היחס בין מספר עורכי הדין שמגיעים מטעמה לאלה של חברות הטכנולוגיה עומד על 10:1 לטובת אותן חברות, ולעתים יותר, אם סופרים גם מתמחים.
אבל אלה לא רק הפערים ההולכים ומתרחבים, אלא גם התלות הגוברת של ממשלות בביג טק, והפרטתן של פונקציות ממשל רבות. "אני שומעת חששות הולכים וגוברים במעגלי ביטחון לאומי, גם בארצות הברית וגם באירופה", סחאקה אומרת. "האנשים האלה, שבדרך כלל אינם אבירי זכויות אדם, מזהירים כעת מפני תלות גבוהה מדי בשלוש ספקיות מחשוב ענן הגדולות בשוק, אמזון, גוגל ומיקרוסופט. הם אומרים שלא ייתכן שהמידע הרגיש ביותר של מדינות יהיה חשוף לפריצות שעשויות לגרום לכך שהוא יגיע לגורמים זדוניים, רק משום שהיה לנו יותר מדי ביטחון ביכולות האבטחה שחברות הטכנולוגיה האלה מתיימרות לתת".
סחאקה מפנה זרקור לסוגיה שאינה מדוברת מספיק: שליטתן של שלוש ענקיות הטכנולוגיה ביותר מ־60% מהשוק העולמי של שירותי מחשוב ענן. ריכוז הכוח הזה בידיהן של שחקניות מועטות המצויות בידיים פרטיות, מעורר שאלות רבות ומטרידות. בדצמבר 2021, כש־Amazon Web Service סבל מתקלות, הושבתו מגוון שירותים מקוונים ברחבי האינטרנט, בהם נטפליקס, סלאק ועוד. "מה יקרה אם שירות הענן של אחת החברות הללו יקרוס במתקפת סייבר?", שואלת סחאקה.
לינה קאן האמריקאית ומרגרטה וסטגר הדנית, סגנית נשיא הנציבות למען אירופה המותאמת לעידן הדיגיטלי, שתיים מרגולטוריות הטכנולוגיה החזקות בעולם, לא בולמות אותן מספיק בעינייך?
״אני מאוד מרוצה ממה שקורה בנציבות הסחר הפדרלית בהנהגתה של לינה קאן. היא מבינה את העובדה שפוזיציית שוק נצלנית משפיעה על זכויות פרטיות מהותיות ועל הדמוקרטיה. ההגנה על שחקנים קטנים מפני ניצול כוחן של השחקניות הגדולות חשובה, אבל מה שאני מתארת בספר שלי הוא לא נזק לכלכלה אלא נזק לדמוקרטיה. הרוגלות ששוחחנו עליהן לעולם לא היו עולות על הרדאר של רגולטורים של הגבלים עסקיים, כי החברות האלה לא מונופוליסטיות. הבעיה היא אחרת לגמרי, ולכן עלינו לבחון את הטכנולוגיות האלה מבעד לעדשה של כוח ונזקים לדמוקרטיה, ולהשתמש בכלי מדיניות כדי לטפל בנזקים האלה".
לאחר הבחירות לנשיאות בארה״ב ייתנו לדעתך לקאן להמשיך בתפקידה?
״אנחנו עדים ללחצים עצומים על קמלה האריס להחליף את קאן, כולל מתורמים פוטנציאלים או קיימים של הקמפיין שלה (לאחרונה פורסם כי לורן פאוול ג׳ובס, אלמנתו של מייסד אפל סטיב ג׳ובס, היא תורמת וחברה של האריס זה יותר מ־20 שנה — ר.ד.), וזה מעין נייר לקמוס עבורה. הציפיות שלי מדונלד טראמפ נמוכות מלכתחילה, ואת יודעת, הוא לא זה שמינה את לינה קאן, אלא ממשל ביידן. אז ניתן רק לקוות שהאריס מבינה מה מונח על הכף כאן, ושהיעדים קצרי הטווח של גיוס כספים לקמפיין שלה לא אומרים שהיא תירה לעצמה ברגל בכל מה שקשור למדיניות טק בעתיד. חשוב מאוד שטבעה המערכתי של הבעיה יובן, ואני חושבת שהאריס נמצאת בעמדה ייחודית לשנות, כי ארצות הברית כל כך גוררת רגליים ברגולציה של טכנולוגיה, ויש לה סקטור טכנולוגיה כה רב־עוצמה, שאין מי שיוכל לפתור את הבעיה מלבד נשיא ארצות הברית".
קראו עוד ב"מוסף כלכליסט":
יהיה גל נוסף, זה ברור
עוד לפני שמתחילים לפרק את המתח המבני שבין הרגולטורים לטכנולוגיה, סחאקה משוכנעת שנדרש בתעשיית ההייטק ניקוי אורוות משמעותי, שבמסגרתו שימוש ברוגלות יוצא אל מחוץ לחוק, ייאסר על חברות לסחור במידע אישי של לקוחות ושימוש במערכות לזיהוי פנים יוגבל למינימום ההכרחי. לאחר מכן, היא אומרת, "צלעות המשולש שיניעו שינוי הן שקיפות, פחות תלות ויותר אחריות".
נניח שרוגלות אכן יוצאו אל מחוץ לחוק. האם הסיכון שימשיכו למכור אותן בשוק השחור לא עולה על התועלת של צעד כזה?
"כשהנשיא ביידן פרסם לפני שנה וחצי צו נשיאותי שאוסר על גופי ממשל בארצות הברית להשתמש בתוכנות ריגול מסחריות 'שמהוות סיכון ביטחוני', זה היה צעד מעולה בכיוון הנכון, והוא היה צריך לקרות מזמן. עם זאת, צריך להזכיר שהצו הנשיאותי לא חל לגבי ישויות פרטיות. כלומר, אם את אשת עסקים מצליחה או בכיר במאפיה או סוכן זר, תוכלו להמשיך לרכוש בארצות הברית רוגלות גם כעת. אם האיחוד האירופי היה מכריז על צעד כזה זה היה עוזר מאוד, וכל מה שקרה עם רוגלות בפולין, הונגריה, יוון וספרד לא היה אפשרי. גם אם חקיקה כזאת תביא לצמיחת שוק שחור, היא תאפשר להטיל אחריות על אלה שמשתמשים ברוגלות, בעוד כיום קשה לתבוע בתיקים כאלה כי החוקים לא ברורים. גם אם לא נתפוס את כולם, עדיין חשוב להעלות את הרף לגבי מוסר, שלטון החוק, ואחריות".
בואי נעבור לשלוש צלעות המשולש שהזכרת. מאיפה מתחילים?
"קודם כל ממשלות צריכות להשתחרר מהתלות בחברות הטכנולוגיה עבור פונקציות שירות קריטיות. לעתים קרובות ממשלות הן הלקוחות הגדולות ביותר של חברות הטכנולוגיה ורבות מהן מפיקות תועלת עצומה ממשאבי ציבור שמושקעים ברכישת או מכירת הטכנולוגיות שלהן. משום כך, לממשלות יש יכולת מינוף אדירה. לא רק דרך רגולציה, אלא גם על ידי כך שהן ירכשו מוצרים רק מחברות שיעמדו בסטנדרטים שהממשלות יקבעו".
מה הדבר השני שצריך לקרות?
"ממשלות צריכות לוודא שכשהן מפעילות חברות טכנולוגיה בשמן, אותן חברות והפעילויות שלהן יישאו באחריות, כפי שהיה בעולם האנלוגי. כך תימנע שחיקת האחריות שנגרמת כשמחלקה במשטרה משתמשת ברוגלות שחברות פרטיות סיפקו לה כדי לפרוץ למכשירים של עבריינים. סוג כזה של מיקור חוץ לחברות טכנולוגיה עשוי לאפשר למדינות ולרשויות האכיפה שלהן להתנער מאחריות ולטעון 'אנחנו לא פורצות', בעוד במציאות אותן חברות עושות את העבודה בשמן.
"שינוי כזה יהיה אפשרי רק כשהקריטריונים לפשיטה על בית או לחדירה לתיבת אימייל יוגדרו בחוק באופן בהיר. אני מכנה את הגישה הזאת 'הרחבת האחריות הציבורית' ומשמעותה היא וידוא שכל חוק שחל על ארגונים ממשלתיים לצורך שמירה על שקיפות ונשיאה באחריות צריך לחול גם על חברות טכנולוגיה שמבצעות מטלות בשם הרשויות".
"שקיפות דרושה בשביל ממשל טוב, אבל חברות מתחבאות מאחורי חוקי הסודות המסחריים ומשתמשות בהם כחומה נגד כל סוג של שקיפות. אחת הבעיות היא שחברות מגינות על הקניין שלהן מכל משמר ולא רוצות שנדע שום דבר על האופן שבו המוצרים שלהן פועלים"
נעבור לצלע האחרונה. את כותבת בספר ש"חוקים צריכים לכלול שקיפות ודרישות לשיתוף מידע כדי לשבור את תלות היתר בחברות וכדי לעזור למידע על סיכונים, איומים ומתקפות להגיע אל האחראים האמיתיים: מנהיגי ממשלות". מה זה אומר בפועל?
"אנחנו זקוקים לשקיפות בשם האינטרס של ממשל טוב. אחת הבעיות שאנחנו נתקלים בהן כעיתונאים, מנהיגי חברה אזרחית, אקדמאים, אבל גם כמנהיגי ציבור ומוסדות, היא שחברות מגינות על הקניין שלהן מכל משמר ולא רוצות שנדע שום דבר על האופן שבו המוצרים שלהן פועלים. החוקים שהן מתחבאות מאחוריהם - בדרך כלל חוקי סודות מסחריים (כמו החוק שמגן על המתכון לקוקה־קולה — ר.ד.) שנוצרו כדי להגן על תחרות וחדשנות בריאה - מנוצלים על ידן כחומה נגד כל סוג של שקיפות".
ועדיין, עושה רושם שבכל העולם הרגולציה מפגרת אחרי הטכנולוגיה. זה לא קרב אבוד מראש?
"האתגר רציני, אך גם תחושת הדחיפות. יש כל כך הרבה דברים שהם בגדר היגיון פשוט שעדיין לא נעשו. ממשלות דמוקרטיות יכולות לקחת לעצמן הרבה מאוד כוח — אם הן בוחרות לעשות זאת. לעתים קרובות אנחנו רודפים אחרי הטכנולוגיה עם חקיקה, ואנחנו לא יודעים מה יהיה הגל הבא, אבל את זה שיהיה גל נוסף אנחנו יודעים בוודאות".
למשל?
"כחברה אנושית, לאחרונה נתפסנו לא מוכנים על ידי הבינה המלאכותית הגנרטיבית, ובעוד שנתיים אני בטוחה שיהיה משהו אחר כמו נוירוטק, ביוטק או מחשוב קוואנטום, אבל זה גם יכול להיות משהו אחר לגמרי שאי אפשר לחזות כיום. בספר אני משתמשת בדוגמה של תעשיית הרכב כדי לטעון שאני לא מכירה אף אחד שיאמין באופן עיוור שחברות הרכב מייצרות מכוניות בטוחות, יעילות וידידותיות לסביבה בלי פיקוח עליהן, וזה נכון גם לגבי חברות התרופות שנדרשות לבצע ניסויים קליניים בסטנדרטים שהוגדרו מראש.
"מנגנונים כאלה נוצרו לא משום שאנחנו נגד מכוניות או תרופות, אלא כי אנחנו רוצים לוודא שהשימוש בהן בטוח. ממשלים דמוקרטיים יוכלו להגיב הרבה יותר בזריזות אם לא יצטרכו לחוקק חוק לטכנולוגיה חדשה כזו או אחרת אלא במקום זה לומר משהו כמו 'תראו, הנה כמה עקרונות יסוד שאנחנו לא מוכנים שיופרו, לא משנה לגבי איזו טכנולוגיה'".
