"פייסבוק קידמה תוכן מסית נגד בני הרוהינגה במיאנמר, והיתה גורם מרכזי ברצח העם"

מערכות הבינה המלאכותית והאלגוריתמים של פייסבוק תרמו בצורה פעילה להגברת וקידום שיח שנאה שהסית לאלימות, שנאה ואפליה נגד בני הרוהינגה במיאנמר והיה גורם מרכזי בג'נוסייד שבוצע נגד אוכלוסייה זו – כך טוען ארגון אמנסטי בדו"ח נרחב שפרסם, ואשר מנתח לעומק את חלקה של פייסבוק בג'נוסייד.

באוגוסט 2017, כוחות הביטחון במיאנמר פתחו בקמפיין טיהור אתני נגד אוכלוסיית הרוהינגה, מיעוט מוסלמי במדינה. במהלך הג'נוסייד נהרגו אלפי בני אדם, בהם ילדים קטנים, ומספר לא ידוע של נשים ונערות נאנסו וגברים ונערים עונו. 700 אלף איש, כ-80% מאוכלוסיית הרוהינגה במיאנמר, נאלצו להגר לבנגלדש.

פייסבוק, כפי שדווח בעבר פעמים רבות, שיחקה תפקיד מרכזי בג'נוסייד: שחקנים שקשורים לצבא מיאנמר ולקבוצות בודהיסטיות לאומניות קיצוניות הציפו את הרשת החברתית של מטא בצורה שיטתית בפייק ניוז שלפיו מוסלמים מנסים להשתלט על המדינה ובפוסטי שטנה שתיארו את הרוהינגה כתת-אדם וכפולשים זרים. פרסומים אלו ליבו את המתחים במדינה, תרמו להתפרצויות אלימות נגד הרוהינגה והכשירו את דעת הקהל למעשים האכזריים נגדם. "תפקיד המדיה החברתית בזוועות שהתחוללו היה משמעותי", מצאה ועדת מיוחדת של האו"ם.

ואולם, בניגוד לדיווחים קודמים שהתמקדו בכישלונה של מטא להגיב בזמן ולהסיר פוסטים מסוכנים, ואפיינו את תפקידה של החברה כפאסיבי, הדו"ח של אמנסטי מזהה מחדל אקטיבי מצדה של ענקית הטכנולוגיה. "אלגוריתמי עיצוב התוכן של מטא הגבירו וקדמו פרואקטיבית תוכן מסית", נטען.

לטענת אמנסטי, הסיבה לכשל זה נעוצה במודל העסקי של מטא, שמתדלק תוכן קיצוני ומסית. "המערכות האלגוריתמיות שמעצבות את חוויית המשתמש בפייסבוק וקובעות איזה מידע מוצג בנויות על מנת להשאיר אנשים בפלטפורמה", נכתב. "ככל שהמשתמשים יותר פעילים, כך עולות הכנסות מטא מפרסום. כתוצאה, המערכת מתעדפת תוכן משלהב, מפלג ומסית, מכיוון שתוכן זה ממקסם את הפעילות".

הדו"ח מבוסס על ניתוח מעמיק של "מסמכי פייסבוק", אוסף מסמכים פנימיים שנחשפו על ידי עובדת מטא לשעבר, פרנסס האוגן, ועל ראיונות עם ניצולים ופעילים בני רוהינגה וכן בעלי עניין דוגמת עובדי מטא לשעבר, פעילים בארגוני חברה אזרחית, חוקרים באקדמיה ועורכי דין.

הממצא הבולט ביותר הוא התפקיד האקטיבי ששיחק האלגוריתם של פייסבוק בקידום פוסטים שהסיתו נגד בני הרוהינגה. אף שהקשר האפשרי בין האלגוריתם במדיה חברתית להקצנה והסתה נידון כבר בעבר, הדו"ח מציג ניתוח מקיף ראשון של הסוגיה בהקשר של ג'נוסייד הרוהינגה. לפי אמנסטי, בתקופה שלפני פרוץ הזוועות באוגוסט 2017, ויראליות של פוסטים מסיתים הפכה אותם לשכיחים בקרב משתמשי פייסבוק דוברי בורמזית, והובילו לתחושה שלפיה כל תושבי מיאנמר חולקים השקפה זו.

"השנאה נגד בני הרוהינגה ברשת היתה אדירה", סיפר עובד סיוע בינלאומי שעבד במיאנמר בין 2013 ל-2018. "ההיקף שלה, האלימות. זה היה מכריע. היה כל כך הרבה שזה נשפך לחיי היום-יום. הניוזפיד היה משמעותי – הר של שנאה ודיסאינפורמציה נגד הרוהינגה. זה היה בניוזפיד של אנשים במיאנמר כל הזמן. זה חיזק רעיונות שהם מחבלים שלא ראויים לזכויות ותרם להתפרצות האלימות".

את התפקיד המזיק של האלגוריתם ניתן לזהות כבר ב-2014. באותה שנה, ניסתה פייסבוק לתמוך ביוזמה נגד הסתה, המכונה "פאנזאגר" או "דיבורי פרחים", באמצעות יצירת סטיקרים שאותם יוכלו משתמשים להצמיד לתוכן שקידם אלימות או אפליה. הסטיקרים הציגו מסרים דוגמת "תחשוב לפני שאתה משתף" ו"אל תהיה הגורם לאלימות". עם זאת, אקטיביסטים שמו לב שלסטיקרים יש השלכות לא רצויות: האלגוריתמים של פייסבוק פירשו את השימוש בהם הללו כסימן לכך שאנשים נהנים מהפוסטים והחלו לקדם אותם. כלומר, במקום להקטין את מספר האנשים שראו פוסט מסית, הסטיקרים הגבירו את החשיפה שלהם.

לפי הדו"ח, במסמכים פנימיים של פייסבוק נחשף כי ב-2020 צוות בקרת תוכן במטא קיבל לבדיקה סרטון שטנה של דמות מוכרת שמסיתה בקביעות נגד בני הרוהינגה. בבדיקה שנערכה התברר שהאלגוריתמים של החברה קידמו את הסרטון בצורה אקטיבית, וש-70% מהצפיות בו היו צפיות "משורשרות", כלומר כאלו שבהן הסרטון מתנגן אוטומטית אחרי צפייה בסרטון אחר. דוגמה זו בולטת במיוחד לאור התאריך שבו התגלה הסרטון, וכן מכיוון שהדמות שמאחוריו נחסמה מפייסבוק שנתיים קודם לכן. המסמך מעלה עוד שמשתמשי פייסבוק במיאנמר צופים "הרבה יותר זמן בווידיאו בהשוואה לשאר העולם, כמות זמן גדולה בסרטונים משורשרים... 40% מזמן הצפייה בווידיאו הוא בסרטונים משורשרים.

הדו"ח מציג שורת המלצות למטא, ובראשן לעבוד עם ניצולים וארגוני חברה אזרחית שתומכים בהם כדי לספק סיוע ופיצוי יעילים לקהילות רוהינגה. "אני באמת מאמין שאנחנו זכאים לפיצוי מפייסבוק", אמר לאמנסטי סווידולה, ניצול ג'נוסייד ואקטיביסט בן 21, שמתגורר כיום במחנה פליטים בבנגלדש. "אני מאמין שאנחנו חיים בגיהינום בגלל שחקנים רבים, כולל פייסבוק. פייסבוק לא יכולה ליצור מחדש את החיים שחיינו קודם; רק אנחנו יכולים לעשות את זה. אבל אנחנו צריכים חינוך כדי לעשות את זה. לפייסבוק יש מיליארדי דולרים. אנחנו רק מבקשים קצת כדי לתת הזדמנויות לסטודנטים מהרוהינגה במחנות הפליטים".

כמו כן ממליץ הדו"ח שמטא תבצע בחינה מקיפה של מדיניות זכויות האדם שלה ותציב שיקולים אלו במרכז קבלת ההחלטות שלה; לחדול מאיסוף פולשני של מידע אישי ולמצוא חלופות מזיקות פחות לפרסום ממוקד; ולוודא שאלגוריתמי תוכן מופעלים רק על בסיס הסכמה מיודעת של המשתמש. כמו כן ממליץ אמנסטי למדינות שמהן פועלת מטא, ובראשן ארה"ב ואירלנד, לאסור פרסום ממוקד על בסיס איסוף מידע פולשני; לחייב מפעילות פלטפורמות גדולות להתמודד בצורה שיטתית עם סוגיות זכויות אדם שנובעות מפעילותן; ולאסדר הפעלה של אלגוריתמי תוכן.

"בשנת 2017, בני הרוהינגה נהרגו, עונו, נאנסו ונעקרו באלפים, כחלק מהטיהור האתני שביצעו הכוחות החמושים של מיאנמר", צוטטה מזכ"לית אמנסטי, אנייס קלאמאר, בהודעה לעיתונות. "בחודשים ובשנים שקדמו לזוועות, האלגוריתמים של פייסבוק העצימו משמעותית את סערת השנאה נגד הרוהינגה, שהחמירה את האלימות בעולם האמיתי. בזמן שצבא מיאנמר ביצע פשעים נגד האנושות נגד הרוהינגה, מטא הרוויחה מהדהוד השנאה שנוצרה על ידי האלגוריתמים מחמירי השנאה שלה. מטא חייבת לשאת באחריות לכך. על החברה מוטלת כעת האחריות לספק פיצויים לכל אלה שנפגעו מהתוצאות האלימות של מעשיה חסרי האחריות".

רפאל פרנקל, דירקטור מדיניות ציבוריות של מטא בשווקים מתפתחים, אמר בתגובה: "מטא עומדת לצד הקהילה הבינלאומית ותומכת במאמצים לגרום לכוחות הטאטמדאו לשאת באחריות לפשעיהם נגד בני הרוהינגיה. בתוך כך, חלקנו באופן וולנטרי וחשפנו מידע בפני מנגנון החקירה של האו"ם במיאנמר ובפני גמביה, ואנחנו גם משתתפים כעת בתהליך הקובלנה של ה-OECD. אנחנו פועלים במטרה להבטיח בטיחות ויושרה במיאנמר ומקבלים הנחיה ומשוב מארגונים אזרחיים מקומיים ומוסדות בינלאומיים, לרבות משלחת האו"ם לבדיקת העובדות במיאנמר. הזמנו בדיקות להערכת ההשפעה על זכויות אדם כבר ב-2018, ואנו ממשיכים כל העת לנהל סיכונים בתחום זכויות האדם".