תחקיר: הכלי המרכזי של X להתמודדות עם פייק ניוז – כושל

הכלי המרכזי של X (לשעבר טוויטר) למלחמה בפייק ניוז – יכולת בדיקת עובדות מבוססת קהילה – לא מסייע למאמצי הרשת החברתית להתמודד עם בעיית המידע השקרי ולמעשה ייתכן שמחריף אותה. כך לפי תחקיר של המגזין הטכנולוגי Wired, שחושף איך כשלים ומאבקים פנימיים מקשים את ההתמודדות של הפלטפורמה עם בעיית הפייק ניוז בזמן המלחמה בין ישראל לחמאס.

מאז תחילת המלחמה עם חמאס, הפכה X לכר פורה ליצירה, פיתוח והפצה של תעמולה שקרית, פייק ניוז וקונספירציות. בעיה זו הוחרפה על רקע הקיצוץ המשמעותי שביצעה הפלטפורמה במחלקת ניטור התוכן שלה מאז נרכשה על ידי אלון מאסק לפני שנה. בשבוע אחרון, מאסק ומנכ"לית X, לינדה יאקרינו, טענו שלחברה יש כבר תשובה הולמת לרעל ההסתה והשקרים בדמות כלי בשם Community Notes (הערות הקהילה), שמאפשר למשתמשים לצרף הערות וביאורים לפוסטים בעייתיים.

"יש לו פוטנציאל מדהים לשפר את הדיוק של המידע בטוויטר", הכריז מאסק בנובמבר שעבר. בסוף השבוע הודיעה החברה שמדי שבוע נצפות ההערות שמייצרים המשתמשים 85 מיליון פעמים, ושהן מופיעות מהר יותר וביותר פוסטים מבעבר. בחברה אמרו ל-Wired שיש לכלי תורמים מ-44 מדינות שונות, 10 אלף מהם הצטרפו בשבוע האחרון. "הערות הקהילה פותחו על מנת להתמודד עם מיסאינפורמציה ב-X", אמר בכיר בחברה.

ואולם, התחקיר של Wired מעלה שהכלי לא מתפקד כפי שהוא אמור, ויכול להיות נתון למניפולציה מצד קבוצות חיצוניות, וחסר שקיפות לגבי האופן שבו מאושרות הערות. מקורות עם ידע פנימי אמרו למגזין שהפעילות סביב הערות הקהילה רצופה במאבקי כוח ודיסאינפורמציה, ושאין שום פיקוח אמיתי מצד החברה עצמה. "אני מבין למה הם עושים את זה, אבל הוא לא פועל כפי שהם טוענים" אמר אחד התורמים להערות הקהילה. "הוא חשוף למניפולציה, יותר מדי אטי ומסורבל. הוא לא משרת שום מטרה שאני יכול לראות. למען האמת, הוא כנראה מחמיר את המצב".

הערות הקהילה הוצג באוקטובר 2020 תחת השם Birdwatch והופעל לראשונה כפיילוט בינואר 2021, בסמוך לניסיון ההפיכה בגבעת הקפיטול ב-6 בינואר. המטרה המוצהרת היתה למנף את כוח ההמון (אלף משתמשים בהשקה עם יעד של 100 אלף בהמשך) על מנת להפריך מידע שקרי או שגוי בזמן אמת באמצעות הצגת הערות שיכתבו חברי הקהילה לציוצים בעיתיים. האמינות של הערה שכותב משתמש מדורגת על ידי המשתמשים האחרים בכלי כמסייעת או לא מסייעת על ידי המשתמשים האחרים. הערה מוצגת לצד הפוסט אחרי שקיבלה מספר לא ידוע של דירוגים חיוביים.

אופן פעילות זה, אמר אחד המשתמשים בכלי ל-Wired, פותח צוהר למניפולציה של ההערות. המשתמש, חבר בתנועה ביזורית של פעילי רשת שנאבקים בתעמולה רוסית בעקבות הפלישה לאוקראינה, יודע זאת מכיוון שהוא ועמיתיו עצמם פועלים כך. "יש לנו קבוצה אז אנחנו יכולים לתאם מי כותב איזו הערת קהילה, ואז האחרים מדרגים אותה כמסייעת. אין שום וידוא של התהליך", הוא סיפר. "שגרירויות רוסיות מפעילות טקטיקות דומות. הן יצביעו נגד כל דבר אנטי-רוסי". משתמש אחר סיפר שיש לו שני חשבונות X נפרדים, וטען ששניהם קיבלו גישה למערכת הערות הקהילה, ראיה נוספת לכך שהכלי חשוף למניפולציה.

מחקר שפורסם באפריל 2022 העלה שמשתמשים נוטים לכתוב הערות שליליות יותר בתגובה לפוסטים שמציגים עמדה פוליטית מנוגדת לשלהם, ויש להם נטייה גדולה יותר לתת דירוג חיובי להערות שמבקרות פוסטים כאלו. "הממצאים שלנו מספקים ראיה ברורה לכך שהמשתמשים מעדיפים לאתגר תוכן מאלו שהם אינם מסכימים עם הדעה הפוליטים שלהם", מצאו החוקרים.

אחד החוקרים, פרופ' דייוויד רנד מ-MIT, אמר ל-Wired שאף ש-80% מהתוכן שמשתשמים בכלי בחרו לבקר אכן יכול להיחשב כמטעה, הם נטו בצורה גורפת לתעדף תוכן פוליטי, ולהתריע על תוכן על בסיס האם הוא נראה להם "סביר" או לא. זאת, כשבמקביל לא ברור האם יש למשתמשים את הידע או הכישורים הדרושים על מנת להפריך מידע שגוי או להציג מידע חלופי מדויק. "במצב כמו מה שקורה עכשיו בישראל ובעזה, היכן שיש כמות עצומה על אי-ודאות, תחושת הבטן, 'האם זה הגיוני?' היא לא כלי טוב", הסביר רנד. "אפילו עיתונאים מקצועיים מתקשים להבין מה נכון ומה לא נכון. כשמדובר במצב נפיץ כל כך שמשתנה במהירות, אני מעריך שפעילות המון תייצר הרבה רעש".

דוגמה אחת לרעש זה קשורה לפוסט שפרסם דונלד טראמפ ג'וניור ב-10 באוקטובר ובו סרטון של מחבלי חמאס רוצחים אזרחים ישראלים בזמן מתקפת ה-7 באוקטובר. הערת קהילה שצורפה לפוסט טענה: "זה סרטון ישן שלא צולם בישראל". ואולם, ניתוח עצמאי העלה שהסרטון אמיתי, ושהערת הקהילה היא זו שייצרה דיסאינפורמציה. ההערה השקרית נמחקה מאז, אבל דיווחים חדשותיים שטוענים על סמך אותה הערה שהסרטון שקרי עדיין זמינים באתרים בולטים. הסרטון עצמו, אגב, נמחק מהציוץ.

במקרים אחרים, הרעש נמצא מאחורי הקלעים וחושף מאבקי כוח ונרטיב בין המשתמשים השונים. ביום שבת, חשבון ה-X הרשמי של מדינת ישראל העלה פוסט ובו תמונה של חדר ילדים מגואל בדם מאחד מיישובי עוטף עזה. "זה יכול להיו להיות חדר השינה של הילד שלך", נכתב. לפוסט עצמו לא מצורפת הערה, ואולם לפי Wired מאחורי הקלעים משתמשי הכלי מנהלים דיון אמוציונלי רצוף קונספירציות ודל בעובדות או בידע מומחה.

"לדם לא מחומצן יש צבע אדום כהה, ולכן זה צילום מבוים", טען משתמש אחד. אחר כתב: "פוסט עם כוונה מניפוליטיבית שנועד ליצר תגובה רגשית בקורא באמצעות העברת מילים ותמונות בדרך נטולת הקשר" (נראה שהעובדה שההקשר הוא מתקפת טרור רצחנית של ארגון אכזרי ונטול אנושיות לא ממש הטרידה את הכותב). משתמש נוסף ניסה להגן על הפוסט. "אין ראיה שהתמונה הזו מבוימת. מאמר ויקיפדיה על דם הוא לא ראיה שהיא מבוימת", כתב. אחר השיב לו: "אין ראיה שהתמונה היא ממתקפות ה-7 באוקטובר. דיון זה חושף את חוסר המקצועיות שבה נוצרות הערות הקהילה, וקשור גם לכך שמשתמשי הכלי לא זוכים לדבריהם לשום אימון או הדרכה מצד טוויטר.

ייתכן שהקשיים השונים קשורים לכך שבניגוד לטענות X, הערות הקהילה בכלל לא נועדו להתמודד עם פייק ניוז ומידע שגוי, והוסבו לתפקיד זה רק לאחר שמאסק קיצץ את פעילות ניטור התוכן האחרת של החברה. "המטרה של Birdwatch היתה להשלים, ולא להחליף, את השיטות האחרות של טוויטר להתמודד עם מינסאינפורמציה", אמר ל-Wired יואל רות, לשעבר ראש האמון והבטיחות של טוויטר שעזב את החברה על רקע סגנון הניהול של מאסק. "החברה פיטרה את כל צוות האצירה, שבלעדיו לא ניתן לבצע אכיפה נגד מיסאינפורמציה". עובד לשעבר בצוותו של רות הוסיף: "הערות קהילה הוא תחליף פגום לצוות האמון והבטיחות. אי אפשר לבצע מיקור חוץ לקהילה של העבודה הזו".

בפועל, לפי בדיקת Wired, מרבית ההערות שנוצרות לא מוצגות לכלל הציבור, בין אם זכו למספר רב של דירוגים שליליים ובין אם מכיוון שלא זכו למספיק דירוגים מסוג כלשהו, ולכן המערכת לא קיבלה החלטה לגביהן. "זה לא כלי שמותאם לפעילות בקנה המידה של היקף הפוסטים שמפורסמים במדיה חברתית", אמר אחד המשתמשים. אחר הוסיף: "הרבה יותר קשה להתמודד עם מיסאינפורמציה כשאין ניטור תוכן מלמעלה כמו שהיה בעבר בטוויטר, כי אז חשבונות שמפיצים מידע שקרי במכוון הושעו לפני שהספיקו לעשות הרבה נזק. הסתמכות על הערות קהילה היא לא תחליף למערכת ניטור תוכן ראויה".