מלחמה אטומית בעידן ה-AI: האם ג'וני ינצח את המחשב?

סמל ג'וני, מגן האנושות

צבאות שמחזיקים בנשק לא קונבנציונלי - מרעלנים ומחלות ועד פצצות אטום שצובעות את השלכת בירוק - נמצאים בבעיה: יש להם גישה ליותר ויותר טכנולוגיה חכמה - לוויינים וחיישנים שמחוברים למערכות מידע ותוכנות שמסייעות בקבלת החלטות, בעוד אמצעי הלחימה הקטלניים ביותר הם עדיין ידניים. למשל, תוכנות ההפעלה של טילים בליסטיים בארה"ב נמצאות על דיסקטים פיזיים עתיקים. הניתוק בין הרכיב האוטומטי החכם ובין סמל ג'וני שמסובב מפתח ולוחץ על כפתור מאוד חורה לגנרלים, אך הם מקבלים זאת כרע הכרחי. בינתיים, הופכות מערכות המידע הצבאיות ליותר ויותר אוטומטיות. לפעמים זה מצוין; למשל, מכ"מ של ספינה שמזהה טיל שנורה לעברו יכול להפעיל אוטומטית תותחים נגד טילים, ולהציל את המלחים. אבל כשיש יותר מדי מידע, יכולה התוכנה לירות בטעות - או להוציא לסמל ג'וני פקודת ירי.

טיל גרעיני על כן השיגור. מי, מי יתווכח עם המחשב?

מתקפות סייבר צבאיות יכולות לשטות במכ"מים, או להפעיל תוכנת תרגיל מתקפה בתוך מערכת ששמורה למצבי חירום - ולגרור תגובה צבאית שתיראה הגיונית לגמרי לגנרלים, הרי המחשב אמר שאנחנו מותקפים וזה מחשב חכם ויקר נורא. וכאן, יהיה זה סמל ג'וני הקטן שיוכל לעצור מלחמה אטומית: בספטמבר 1983 קיבל סטניסלב פטרוב פקודת ירי טילים גרעיניים על ארצות הברית, לאור מתקפה אמריקאית שיצאה לדרך. כקצין שהכיר היטב את מערכות ההתראה, המתקפה נראתה לו כתקלה והוא סירב לפקודה - ובכך הציל את העולם משואה גרעינית. אבל מערכות המידע של ימינו מורכבות יותר ויותר, ניזונות מיותר סנסורים ולכן חשופות יותר להטעיות ושיבושים; ולא מן הנמנע שאיזה גנרל מנופח ישמע את הסתייגויותיו של סמל ג'וני ויגיד לו חיילצ'יק, עשה מה שאמרתי, מה נראה לך שאתה יותר חכם מהמחשב? וזו הסכנה שבמיכון-יתר: ההסתמכות שלנו על אלגוריתמים שאיננו מבינים יותר מאשר על השכל הישר.

למה מחקתם לו את הפוסט?

ב-EFF, ארגון זכויות הגולשים הוותיק, לא מתרשמים מפעולות הגברת השקיפות שערכה פייסבוק בעקבות פיאסקו קיימברידג' אנליטיקה; לטענת הארגון, צריכה הרשת החברתית - ואיתה גם חברות אחרות שניזונות ממידע פרטי - לפרסם דו"חות תקופתיים שיראו כמה פוסטים נמחקו לאחר שהועלו לאוויר, ומאילו סיבות. וה-EFF לא מסתפק בנימוקים בסגנון "האלגוריתם שלנו החליט שהפוסט הזה מעליב ג'ינג'ים" - אלא רוצה לדעת מי בכלל דיווח על הפוסט, האם ההחלטה להסירו היתה של אדם או של תוכנה - ואף החל לנסח מסמך נהלים שכזה ביחד עם גופי הגנת פרטיות. תגובתן של פייסבוק, גוגל והאחרות לא נמסרה, אולי כי הן היו עסוקות בלהיקרע מצחוק; ההכנסות מסחר במידע תמיד באות אצלן לפני זכויות המשתמשים.

הפסיקו להאשים את הבוט | צילום: sputniknews

בית הזכוכית ואבני הפרטיות

ואם בארגוני הגנת פרטיות עסקינן, אולי תופתעו לשמוע שגם כמה מהם בוחרים לעקוב בחשאי אחר גולשים: ארגון "קליפורנים למען פרטיות צרכנים", גוף שתדלנות שמקדם שקיפות באיסוף מידע אישי, מפעיל כלי ניטור גלישה באתר שלו. לפי חשיפת בלומברג, יכול האתר לדעת היכן ביקר הגולש לפני שהגיע אליו, כמו גם פרטים אישיים שונים. ואם לא די בכך, המידע המנוטר מועבר אחר כבוד לפייסבוק. מביך ככל שיהיה, יתכן שכלי הניטור הותקן שם בטעות; לפי מחקר של 00, כ-79% מאתרי האינטרנט מכילים רכיב ניטור גולשים אחד, ו-21% מכילים יותר מעשרה. רכיבי הניטור הם כמעט חלק מובנה מהקמת אתר אינטרנט, ולא כל גוף ששוכר בונה אתרים יודע מה שמו לו באתר. רוב בוני האתרים משתמשים בתבניות קבועות - בהן יש, מטבע הדברים, רכיב מעקב. ועדיין, אפשר היה לצפות מארגון הגנת פרטיות לבדוק שאינו גר במקרה בבית מזכוכית.

מי מרגל? כמעט כולם | צילום: Shutterstock

המספרים נחשפים

בספטמבר האחרון נודע שאקוויפקס, חברת רישום נתוני האשראי הכי גדולה בארה"ב, חוותה פריצה מסיבית לשרתיה, שחשפה מידע אישי של רוב הבגירים במדינה לפושעי רשת. עתה מתגלים המספרים עצמם: 146.6 מיליון שמות, 146.5 תאריכי לידה, 209 אלף כרטיסי חיוב ותוקפי פקיעתם, 38 אלף רשיונות נהיגה ו-3,200 פרטי דרכון נפלו משרתי אקוויפקס לידי כל האקר עם ארנק ביטקוין פעיל. ואת שנעשה אין להשיב; כשבאורווה שלך יש 146 מיליון סוסים, אולי כדאי לוודא שאין חורים בגדר.

המוצר הכי טוב שלא קניתי

ביקורות המוצר באמזון הן סוגיה טעונה מאוד עבור המוכרים, הקונים והחברה עצמה - ויש מי שמתמרן אותן בתשלום; תחקיר באזפיד גילה רשת של כותבי ביקורות מוצר מזויפות, שנשענת על פורומים סגורים ברדיט, קבוצות פייסבוק חשאיות וערוצי סלאק פרטיים. עובדי הרשת סיפרו לבאזפיד שהם מזמינים מוצרים ומשלמים עליהם, כותבים ביקורת מהללת (לפעמים, אפילו בלי לפתוח את האריזה) - ומיד מקבלים החזר על הרכישה בתוספת כמה דולרים. ואת המוצר שהזמינו, הם יכולים למכור הלאה ולהרוויח אפילו עוד. לפי הערכות, באמזון ישנן כ-250 מיליון ביקורות, מהן כ-9.1% הן מזויפות. מדוע משקיעים המוכרים בזיוף? משום שרובם המכריע של הקונים לא כותבים ביקורות כלל - אך בהחלט קוראים אותן, ולביקורת השפעה על החלטתם לבחור במוצר. בתגובה, מסרה אמזון שהזיופים מהווים אחוז זניח מהביקורות - ושהיא עושה לילות כימים כדי למגר את התופעה. גדולה וחזקה ככל שתהיה החברה, אין לה סיכוי להצליח: אם הזייפן הזמין את המוצר ושילם עליו, ופרסם תמונה של האריזה - לא ניתן לדעת בשם מי כתב את הביקורת.

זיוף לטובה

נמצא שימוש ראוי וחיובי לטכנולוגיית הדיפ פייק (Deep Fake) - יכולת שתילת פניו של אדם בתוך סרט בצורה אמינה ומדויקת בסיוע AI. עד כה, שימשה הדיפ פייק בעיקר להכנת סרטוני פורנו מזויפים בכיכובן של כוכבות קולנוע - או סתם נשים מן השורה, לצורכי פורנו-נקמה. עתה הודגם הצד החיובי של הפיתוח: אסטרטג הדיגיטל והפעיל החברתי וויליאם יו שתל את פניהם של שחקני קולנוע ממוצא אסייתי בסרטים בכיכובם של אמריקאים לבנים. המטרה: להאיר את העובדה ששחקנים ממוצא סיני וקוריאני לא פורצים למיינסטרים ההוליוודי על אף כשרונותיהם. דווקא נחמד לראות את ג'ון צ'ו ("הרולד וקומאר", "מסע בין כוכבים") בתור קפטן אמריקה, ואת קונסטנס וו ("חמוץ מתוק") מחליפה את סקרלט ג'והנסון ב"הרוח במעטפת".