אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר.
השלב הבא באבולוציית המדיה החברתית: משטרת מחשבות

דו"ח טכנולוגי

השלב הבא באבולוציית המדיה החברתית: משטרת מחשבות

יוטיוב, פייסבוק וטוויטר החלו לנטר את דעות המשתמשים שלהן כדי להילחם בתוכן פוגעני - מה שצפוי להשיג אפקט הפוך. וגם: מי ירה על האוטובוס של אפל, מה קורה למי שמטיס רחפן כשהוא שיכור ומשקיעי ביטקוין מתחילים לדבר על התאבדות

18.01.2018, 15:06 | יוסי גורביץ
השלב הבא בחבלה חברתית

פרקליטי יוטיוב, טוויטר ופייסבוק (המנכ"לים ממשיכים לברוח) נאלצו להופיע שוב אתמול (ד') ולהעיד בסנאט האמריקאי, להמשך השימועים על אחריותן של החברות לתפוצת תוכן קיצוני ופוגעני. שלוש החברות שבו ואמרו שהן מטפלות בכל מקרה של תוכן כזה במהירות וביעילות, ושבעצם הכל בסדר. לא כולם קנו את זה.

החוקר כריס וואטס הזהיר את הסנאט מהאפשרות של מה שכינה "אנוואר אוולקי פוגש את פיצה-גייט": אוולקי היה מטיף כריזמטי של אל קעידה, יליד ארה"ב, והשתמש ביוטיוב כדי לגייס תומכים בארה"ב עצמה, עד שחוסל מהאוויר על ידי ממשל אובמה; "פיצה-גייט" היא הקנוניה המופרכת שהפיצו תומכי טראמפ, על פיה הילארי קלינטון הפעילה רשת פדופיליה מפיצריה באזור וושינגטון. זה נגמר בפסיכי חמוש שהגיע לפיצריה ופתח באש. למרבה המזל לא היו נפגעים.

אין מוציאים את הטרור מן הפיד? אין מוציאים את הטרור מן הפיד? אין מוציאים את הטרור מן הפיד?

התיאוריה של וואטס פשוטה: סוכנים זרים ישתלו סיפורים במדיה החברתית האמריקאית, רצוי משני הצדדים של נושא מקטב, כדי להוביל לכך שפסיכים כלשהם יאחזו בנשק. כפי שאפשר להבין מהחדשות בארה"ב, פסיכים חמושים הוא משהו שאין בו מחסור שם. המהלך של הקצנה עד כדי אלימות של אידיאולוגיות קיימות, מעריך וואטס, יהיה קל משמעותית יותר מאשר להתחיל לגייס תומכי אל קעידה - אוולקי לא כל כך הצליח בנסיונותיו.

למעשה, התרחיש שעליו מצביע וואטס כבר התממש: החקירה של פייסבוק על ההתקפה הרוסית על הבחירות העלתה שלקראת סוף 2016, הסוכנים הרוסים דירבנו פעילים בעמוד אנטי-מוסלמי להגיע למחות ליד למרכז קהילתי מוסלמי, ובמקביל דירבנו פעילים מוסלמים לבוא להגן על המרכז מפני גזענים זועמים שעומדים להגיע למקום. כלומר, הם אשכרה הצליחו לשסות שתי אוכלוסיות זו בזו. המשטרה מנעה נפגעים, אבל ההתקפה הזו היא proof of concept לכך שבאמצעות מאמצים לא מסובכים מדי, זה מעשי.

כשזה יקרה שוב, ציין וואטס, פייסבוק לא תבין מה קרה עד שיהיה מאוחר מדי. היא מסוגלת לזהות פעולות רק אחרי שהן מתרחשות. היא לא מסוגלת, או לא מוכנה לעשות את המאמצים הנדרשים, כדי לזהות אותן לפני שהן מתממשות. לדבריו, החברות צריכות לעשות מאמצים אמיתיים לסלק משתמשים מזויפים, ולהפעיל חוקרי אבטחה כדי לזהות סיכונים מראש. 

במקביל, מסרו החברות לסנאט חדשות לא כל כך מעודדות: מעבר לסינון תוכן קיצוני, ומעבר להפניית אנשים שמחפשים סרטונים על אלימות פוליטית לתוכן שמקדם פתרונות מתונים, הן מתחילות לסמן משתמשים שלדעתן חשופים לגיוס על ידי קבוצות אלימות, ומתחילות להזרים להם תוכן מתון יותר. כלומר, פייסבוק ויוטיוב פועלות כעת כסוג של משטרת מחשבות: הן מנסות לנחש מה אתה חושב על נושא מקטב, ואם הן חושבות שאתה בסכנת גיוס על ידי ארגון קיצוני, הן מזרימות לך מידע שמיועד לשנות את דעתך.

נכנסים לכם לראש נכנסים לכם לראש נכנסים לכם לראש

מדובר ברעיון מטומטם להחריד; אם הגעת לשלב שבו אתה שוקל להצטרף לאל קעידה, שום דרשה על הצד הרגוע של האיסלם לא תועיל לך. אתה לא מחפש צדדים מתונים, אתה מחפש אקטיבית את הצדדים האלימים. האלימות היא מה שמושכת אותך, לא חזיונות סופיים על אחדות מיסטית עם האל. אם פייסבוק תשלח אותך לתוכן רגוע, סביר להניח שתבין שמנסים לעבוד עליך ותתעצבן יותר.

כפועל יוצא, פייסבוק ויוטיוב בונות רשימות של אנשים שלדעתן הם קיצונים או קיצונים בפוטנציה. זו רק שאלה של זמן, ולא הרבה ממנו, עד שמישהו עצל במיוחד ב-FBI יוציא להן צו שיורה להן למסור את המידע הזה. עכשיו יהיו אנשים שייכנסו לרשימות שחורות של כאלה שלא כדאי להעלות למטוסים, למשל, לא כי יש עליהם מידע מודיעיני כלשהו, אלא כי אלגוריתם הכסת"ח של פייסבוק סימן אותם כמיועדים לתרפיה. תשמור האלה ותציל. אני אפילו לא מדבר על השאלה מאיפה לוקחות פייסבוק ויוטיוב את הסמכות החוקית לסמן אנשים כך.

חברות הייטק תחת אש

אוטובוסים של גוגל ואפל מצאו את עצמם תחת אש, ככל הנראה מרובי אוויר. עד כה הנזק היה מוגבל לחלונות, ואין נפגעים, אבל זו התפתחות לא שגרתית. האוטובוסים של שתי החברות (ושל חברות הייטק בכלל) עומדים במוקד מתיחות בסן פרנסיסקו כבר שנים. הם מייצגים, מבחינת אנשים רבים, את המידבור שחברות ההייטק מבצעות בעיר ובאזורים עירוניים אחרים.

הסעות למטה גוגל? עדיף שתגיע עצמאית, צילום: בלומברג הסעות למטה גוגל? עדיף שתגיע עצמאית | צילום: בלומברג הסעות למטה גוגל? עדיף שתגיע עצמאית, צילום: בלומברג

העובדים מגיעים לעיר, מקפיצים את מחירי הנכס כך שאנשים מן הישוב לא יכולים לגור בעיר יותר, אבל הם לא באמת גרים בעיר. אוטובוסים של המעסיקים שלהם אוספים אותם בבוקר לעבודה ומחזירים אותם בערב. העובדה שהאוטובוסים של המיוחסים חוסמים תחנות של תחבורה ציבורית של הפלבאים רק מגבירה את הזעם – מספיק כדי שכמה מהחברות יודיעו שהן יפסיקו עם המנהג המגונה הזה. האוטובוסים הפכו לסמל של מלחמת מעמדות, בין הפולשים מחברות ההייטק ובין המקומיים שחשים שהם מאבדים את היכולת לגור בעיר שלהם.

באפל כבר הודיעו לעובדים שהם משנים את המסלול הקבוע של האוטובוסים, מה שצפוי להעלות את משך הנסיעה ב-30 עד 45 דקות. אוטובוסים של חברות ההייטק כבר היו מוקד לוונדליזם בעבר, אבל ירי לעבר כלי רכב בעת נסיעה זה חידוש מדאיג. ספק אם שינוי המסלול יעזור במיוחד: אם מישהו התעצבן מספיק כדי להרים נשק, הוא יברר מה המסלול החדש.

התקפת סייבר? זו הבעיה שלך

זו לא בדיוק סוד שחברות כלכלת החלטורה - אובר, ליפט ודומיהן - מעבירות את ההוצאות שלהן מהחברה לעובדים, ולעתים ללקוח. אובר לא טורחת לבדוק מי העובדים שלה, כך שלעתים הלקוחות נשדדים או מותקפים. היא לא מספקת לנהגים ביטוח, והם צריכים לקנות את הדלק שלהם על חשבונם. החברה גם לא מפצה אותם על בלאי בכלי הרכב, ועל ימי מחלה או חופשה אין בכלל מה לדבר.

מכונית של ליפט, צילום: שאטרסטוק מכונית של ליפט | צילום: שאטרסטוק מכונית של ליפט, צילום: שאטרסטוק

בהתאם, החברות לא טורחות להשקיע בהגנה על העובדים שלהן מפני מתקפות של פושעי סייבר, כי אחרי הכל מבחינתן לא מדובר בעובדים. כשהמידע של נהגי אובר דלף, החברה ניסתה להשתיק את הפרשה על ידי תשלום להאקר, אבל לא טרחה לספק הגנה טובה יותר לעובדים.

אם אתה עובד בכלכלת החלטורה, הגנה על עצמך מפני התקפות סייבר היא לגמרי בעיה שלך - למרות שהכלכלה הזו בנויה על העברה מהירה של מידע. חוקרי אבטחה ציינו שהנהגים של ליפט ואובר נמצאים תחת התקפות פישינג בלתי פוסקות: הם נדרשים למסור את המידע שלהם לנוכלים, שמחקים את החברות ואומרים שאם העובד לא יעביר את המידע, החשבון שלו ייחסם. מבחינת אובר ודומיה, זו לגמרי הבעיה שלהם. מי שמממן את החברות האלה, מסייע גם לזה.

קצרצרים

1. בשנים האחרונות החלו בתי משפט ברחבי העולם להשתמש באלגוריתמים כדי לברר מה הסבירות שפושע ישוב לפשוע; להחלטה של האלגוריתם יש משמעות ניכרת בשאלה האם הפושע יקבל קיצור עונש או אף לא ייכלא כלל. חוקרים כבר מצאו שלתוכנה מרכזית בתחום, COMPAS, יש הטיה גזענית: מוצא לא לבן ועוני מגבירים את הסיכוי שהיא תמליץ על כליאה. חוקרים אחרים ניסו לברר האם בכלל יש תועלת ב-COMPAS. התוכנה מתיימרת לשיעור הצלחה של 65%. החוקרים שכרו מאות מתנדבים של פרויקט Mechanical Turk של אמזון (פרויקט שבו אנשים מבצעים מלאכות שמחשבים מתקשים בהן), והציעו להם דולר עבור השתתפות ובונוס אם הם יעברו את שיעור ההצלחה של COMPAS. המתנדבים האנושיים השיגו שיעור הצלחה ממוצע של 67%. אלו, נדגיש, אנשים ללא השכלה משפטית, כעובדים סוציאליים. הגיע הזמן לאפסן את התוכנה ולהחזיר את ההחלטות הללו לידי מקצוענים.

יש דברים בהם עדיף לסמוך על בני אדם, צילום: sputniknews יש דברים בהם עדיף לסמוך על בני אדם | צילום: sputniknews יש דברים בהם עדיף לסמוך על בני אדם, צילום: sputniknews

2. ניו ג'רזי העבירה חוק ראשון מסוגו בארה"ב, שאוסר על הפעלת רחפן תוך כדי שכרות. מי שיפר את החוק, יהיה צפוי לאותו העונש של נהיגה בשכרות: עד חצי שנת מאסר וקנס של 1,000 דולר. לא ברור אם הוא גם יאבד את רשיון הטיסה שלו. כמו כן אוסר החוק החדש על שימוש במזל"טים לצרכי מעקב אחרי אדם, לשם ציד חיות בר, או להפרעה לשירותי ההצלה. לא ברור כמה מקרים של הפעלת רחפן תוך כדי שכרות נרשמו עד כה, אבל 38 מדינות נוספות בארה"ב שוקלות חוקים דומים.

3. אפליקציה של גוגל שמאפשרת לך להעלות תמונה, ומצמידה את הציור הדומה ביותר ממוזיאון כלשהו, סוחפת את הרשת בסערה. יש, עם זאת, שתי מדינות בארה"ב שבהן האפליקציה לא ישימה: טקסס ואילינוי. המשתמשים במדינות הללו העלו צווחה גדולה ומרה, עד שהתבררה הסיבה לכך: שתי המדינות הללו העבירו חוקים נוקשים נגד איסוף מידע ביומטרי. כדי לבצע את ההצלבה בין התמונה לציור, גוגל אוספת את המידע הביומטרי שלכם. בטקסס ובאילינוי, לשבחם של המחוקקים שלהן, לא חושבים שזו סיבה טובה להעביר את המידע הזה לחברות כמו גוגל. יש לציין שבעבר, שינתה גוגל את הכללים שלה כך שהיא תוכל לשלב את כל המידע שהיא אספה על המשתמשים. אם אתם לא רוצים את המידע הביומטרי שלכם בידיה, מצאו לכם בזבוז זמן אחר.

4. עוד יום, עוד קידום חדשות מזויפות על ידי פייסבוק. הפעם המקום הוא הפיליפינים. נבל הקומיקס ששולט במקום, רודריגו דוטרטה - האיש המליץ לחייליו לאנוס נשים והתרברב בכך שרצח אנשים במו ידיו – השתמש בפייסבוק כדי להפיץ עלילות על אתר אופוזיציה בשם Rappler. תומכים בתשלום של דוטרטה הקימו קול זעקה ומיד צץ רגולטור-בובה שהורה לסגור את האתר. פייסבוק פלטה משהו בתגובה על כך שהיא מאפשרת מרחב מוגן לכל אדם לכתוב מה שהוא רוצה. 

5. שוק מטבעות הקריפטו משתולל כרגע: עולה, יורד, יורד, עולה, יורד, יורד. ביטקוין איבד כ-50% מערכו בחודש האחרון. בחלק מהפורומים של מטבעות קריפטו אנשים דיברו על התאבדות. חוקרים אומרים שרוכשי המטבעות חשים מה שמרגישים משקיעים בזמן פקיעת בועה: מצער ועד התקפות לחץ ופאניקה. מחקרים כבר הראו שבזמן קריסת מניות, יש עליה בהפניות לבתי חולים, בעיקר בשל בעיות נפשיות. במקרה של מטבעות הקריפטו, הכל מהיר יותר ואלים יותר: התפניות מגיעות תוך שניות, בלי אזהרה, ובלי שיש לך שליטה כלשהי על המתרחש. אם אתם חשים מועקה כבדה, אל תמשיכו לשבת לבד מול המסך. פנו לעזרה.

שיתוף בטוויטר שיתוף בוואטסאפ שיתוף בפייסבוק שיתוף במייל

תגיות