הרובוט אשם? נמאס מהתירוצים של פייסבוק

הפרטים החדשים שנחשפו השבוע על האופן שבו גורמים רוסיים ניצלו את פלטפורמת הפרסום של פייסבוק מטילים זרקור על בעיה שהולכת ותופסת תאוצה עבור הרשת החברתית בפרט ועבור החברה האנושית בכלל: התלות האדירה באלגוריתמים ובבינה מלאכותית (AI), שמאפשרים ניהול יעיל - ורווחי - של כמויות עצומות של מידע.  

כשחושבים על הסכנה הטמונה ב-AI המוח נודד לרובוטים אימתניים בסגנון “שליחות קטלנית”, אך הצורה שבה הטכנולוגיה זולגת ליותר ויותר תחומי חיים מבהירה שהחשש האמיתי הוא סמוי בהרבה.

כבר היום אלגוריתמים מנהלים חלקים לא מעטים מחיינו באמצעות ניתוח המידע שאנחנו מייצרים, זיהוי העדפות והצגת תמונת עולם שמשכפלת את ההעדפות הקיימות שלנו במקום לאתגר אותנו ולפתוח אותנו לרעיונות חדשים. פייסבוק היא דוגמה מעולה לכך: פיד החדשות שדרכו הציבור צורך את המידע שלו מכתיב את תמונת העולם שאליה המשתמשים נחשפים, ובמובנים רבים גם בוחר מי מבין מאות או אלפי החברים שלנו ברשת החברתית יהיה זה שנתעדכן בקורותיו.

צוקרבוט | איור: יונתן פופר

לפי חשיפת הוושינגטון פוסט, גורמים רוסיים השתמשו בפלטפורמת הפרסום של פייסבוק כדי להפיץ מסרים שנועדו לזרוע סכסוכים ועוינות בקרב הציבור האמריקאי. הם עשו זאת באמצעות רכישת קמפייני פרסום סותרים שפנו למשתמשים שזוהו כתומכי ימין או שמאל, ותקפו נקודות מחלוקת בשיח הפוליטי בארה”ב. כך, משתמשים שזוהו כימין שמרני נחשפו למשל לפרסומות שתקפו תנועות למען זכויות האזרח כמו Black Lives Matter. בו בזמן, משתמשים שזוהו כשמאל נחשפו למסרים לפיהם המפלגה הדמוקרטית זלזלה בסנאטור ברני סנדרס, יריבה של הילרי קלינטון בבחירות המקדימות, ועל כן רצוי שביום הבחירות יישארו בבית.

הגורמים הרוסים שעמדו מאחורי אותם קמפיינים שנויים במחלוקת השתמשו ביכולת המובנית של פלטפורמת הפרסום של פייסבוק להציע מילות מפתח לפי פילוח משתמשים, ולפיהן הוצעו פרסומות התפורות להשקפת עולמם. מוקדם יותר החודש חשף תאגיד התקשורת העצמאי ProPublica כי אותם כלים מאפשרים להריץ קמפיינים המיועדים לגורמים אנטישמיים באמצעות פנייה למשתמשים שזוהו כמתעניינים במונחים כמו “שונא יהודים”, “איך לשרוף יהודים” ו”מדוע יהודים הורסים את העולם”. כלי הפרסום של פייסבוק סרקו את מילות המפתח מפרופילים של משתמשים ברשת החברתית, הפכו אותם לקטגוריות תוכן והציעו אותם למפרסמים כתחומי עניין לגיטימיים.

בעקבות החשיפה השהתה פייסבוק זמנית את כלי הפרסום שמאפשרים פילוח לפי מילות מפתח שנוצרו בידי משתמשים, והודיעה כי נקטה באמצעים שיפסלו מונחים שנתפסים כבלתי לגיטימיים. בנוסף, היא הודיעה שתגדיל את הצוות שמפקח על הליך מכירת המודעות. אך גם לחברה ברור שזה לא יהיה המקרה האחרון. “אני לא הולך לשבת פה ולהגיד לכם שאנחנו הולכים לתפוס את כל התוכן הרע במערכת שלנו”, אמר השבוע צוקרברג בסרטון פייסבוק לייב בעקבות חשיפת קמפיין המודעות הרוסי. “אמירות אלה יהיו בלתי מציאותיות”.

פייסבוק איבדה את השליטה

הסיבה להתנצלות המגומגמת של צוקרברג היא שהוא ועובדיו איבדו מזמן את השליטה על הנעשה על גבי הפלטפורמה שלהם. צוקרברג ומקביליו בטוויטר ובגוגל כלל לא רוצים את השליטה הזו, ומקפידים לציין השכם והערב כי הם לא מנהלים חברות תקשורת, אלא בסך הכל חברות טכנולוגיה. הם רק מציעים את הפלטפורמה, ואלה המשתמשים שיוצרים את התוכן. המידע שמוצג למשתמש - בין אם תוכן גולשים, לינקים לאתרים חיצוניים או פרסומות - נבחר בידי אלגוריתמים שמנתחים את המידע האישי ששיתף ותואם את העדפותיו. היעילות הזו קריטית עבור פייסבוק ומאפשרת לה לצמצם עובדים ולהציג צמיחה מתמדת ברווחים.

אבל הפרסומות בפייסבוק הן רק הסימפטום לבעיה. בינה מלאכותית, בניגוד למה שרבים מאיתנו אוהבים לחשוב, היא עדיין לא כל כך מתוחכמת. היא סורקת כמויות עצומות של מידע ומזהה דפוסים. אם מתירים לה לפעול בלי פיקוח ומעורבות אנושית, ללא גורם תבוני שמסוגל להפעיל שיקולים של מוסר וערכים, התוצאה תהיה בהתאם.

כך מופקים קמפיינים שמעודדים שנאה וזורעים מחלוקות חברתיות ומאפשרים למדינה זרה להתערב בבחירות לנשיאות. אבל אסור לאפשר לחברות כמו פייסבוק להסתתר מאחורי תירוץ קלוש כמו “זה האלגוריתם”. צריך לחייב אותן בפיקוח ואחריות על הכלים שהן יוצרות ומשחררות אל העולם. חרב אינה הורגת איש, היא רק כלי בידי מי שמניף אותה. ופייסבוק מנופפת אותה מעל הראש של כולנו.