דו"ח טכנולוגי
גאון ה-AI של פייסבוק: יש ימים בהם אני בקושי משכנע את עצמי להגיע לעבודה
מייק שרופפר, סמנכ"ל הטכנולוגיה של ענקית המדיה החברתית, הגיע אליה כדי להקים את צוות ה-AI המושלם, אך המציאות שלחה אותו לרדוף אחר ניאו נאצים ותמונות זימה - מה שהפך אותו למנהל כואב ומתוסכל; טרנד חדש בקרב בני נוער - מערכת יחסים וירטואלית לחלוטין, ללא מפגש פיזי; והאם הוגן שמי שמקבל מאיתנו דמי מנוי גם ישתה מידע אישי
"רצינו לשכור כמה מהאנשים הכי טובים בעולם", סיפר, "רצינו להקים סוג חדש של מעבדת מחקר". הוקמו שני גופים בפייסבוק - מעבדת AI שחקרה כיוונים לטווח ארוך, ויחידת למידת מכונה שחקרה דרכים ליישם את הידע במוצרים קיימים. השינוי החל ב-2015 בעקבות מתקפות הטרור בצרפת; צוקרברג הורה ליחידת למידת המכונה לנסות לפתח כלים שילחמו בתוכן טרור ברשת החברתית.
הם בנו מערכת שיודעת לזהות התייחסות אוהדת לארגוני טרור, ולהצליב אותה עם תנאי השימוש בפייסבוק - ויצרה כך פילטר אוטומטי ראשון. בבחירות 2016 בארה"ב שוב גויסו אנשי ה-AI לפיתוח כלים לאיתור פייק ניוז ודיסאינפורמציה, ועד אמצע 2017 כבר נדחקו הפרויקטים השאפתניים והעתידניים לעדיפות נמוכה, כשכל מומחי ה-AI של פייסבוק עמלו על שיפור הפילטרים וזיהוי קללות ואיומים.
במקום לנטוע עצים, שרופפר הפך לכבאי וטיפל בקדחתנות במשברי סינון התוכן הפוגעני של החברה. כל המומחים שהביא, כל היכולות שגידל, כל הפיתוחים שבנה - הכל מוקצה עכשיו לזיהוי איומים ברצח, פייק ניוז, תמונות זימה ותכנים מפוקפקים אחרים. המצב הזה מתסכל מאוד עבור שרופפר; הוא הודה בראיון שיש בקרים בהם הוא צריך להילחם בעצמו כדי בכלל להגיע לעבודה. בשנה שעברה נשלח להעיד בפני הפרלמנט הבריטי על חלקה של החברה בפיאסקו קיימברידג' אנליטיקה, שם הטילו המחוקקים ספקות כבדים ביושרת פייסבוק, וקל היה לראות שהחוקר מתקשה להתמודד עם ההאשמות. עבור צוקרברג, שרופפר הוא כוכב הנבחרת: אנשיו הם שאמורים לפתח תוכנה שתדע לזהות תוכן פוגעני בכל שפה ובכל רמה, משהו שכרגע רק בודקי תוכן אנושיים יכולים לעשות. לצוקרברג אין כוונה לשכור רבבות בודקי תוכן משום שאין ברצונו להעלות הוצאות תפעול - ושנאה, איומי רצח וטראומות של גולשים הם כולם בגדר מחיר לגיטימי בשלב זה. ולכן, סומך המנכ"ל על איש ה-AI שלו, שישלוף איזו תוכנה שתרצה את הקהל והרגולטורים, ותאפשר לפייסבוק להמשיך לספור כסף בשקט. שרופפר כבר ידע ימים קשים בפייסבוק: הוא היה מנהל הטכנולוגיה של החברה בתחילת דרכה, כשנדרש לספק מענה לזינוק העצום במספר המשתמשים, כשבידיו מספר מצומצם של אנשי צוות. "רוב הג'וב היה כמו אוטובוס בוער שמתגלגל במורד גבעה כשצמיגיו מפונצ'רים", אמר והוסיף שלא מעט מיומו בילה בלשכנע מהנדסים שחוקים שלא להתפטר. ואולם, עם השנים השתפר המצב ופייסבוק בנתה תשתית יציבה למדי, שלא מצריכה עומסי עבודה קיצוניים מהמפתחים. "אני כבר לא זוכר מתי בפעם האחרונה דיברתי עם מהנדס שחש שחיקה בשל מאמצי הצמיחה", אמר. בחלק מהחזיתות, מצליחים הפיתוחים שמוביל שרופפר לעשות טוב: לדבריו, כ-96% מתוכני העירום מזוהים אוטומטית ומוסרים מהרשת החברתית. זאת, בעוד לחברה יש לא מעט זיהויים שגויים - מתמונות הנקה ועד תמונות של יצירות אמנות קלאסיות ובהן עירום. בתחום תוכן השנאה הוא מצליח פחות: לדבריו, החברה מצליחה לזהות רק 51% ממנו בשירותיה. לאחר הראיון, מסרה פייסבוק שהמצב טוב יותר משהציג המומחה הכי גדול שלה בתחום, ועומד על 65%. ומה על סרטוני רצח בשידור חי, כמו זה שפורסם במהלך טבח קרייסטצ'רץ' בניו זילנד במרץ האחרון? לכך אין לשרופפר מענה טכני. לדבריו, היה זה סוג חדש של זוועה, קליפ שמצולם מנקודת מבטו של הרוצח כמו במשחקי יריות - וזה אחד הגורמים שהקשה על הזיהוי לאחר פרסום התוכן.בשנים האחרונות ראינו כמה וכמה בכירים בפייסבוק שהיכו על חטא, שחשפו את הפרקטיקות הפנימיות שלה וטענו שיש להגביל ואף לפרק אותה. אבל המקרה שלפנינו שונה; מהנדס שרצה לבנות דברים חדשים ליצירת עתיד טוב יותר, וגילה שגם לגודזילה כפייסבוק יש שרשרת ברזל על רגלה - הכאן והעכשיו; לחברה יש בעיות תוכן פוגעני שלא ברור איך תפתור, וחלומות ה-AI של שרופפר ואנשיו יישארו בשלב זה חלומות.
זיכרי, לגברים יש רק לייקים בראש עידן המדיה החברתית הביא עמו הרבה מאוד שינויים שעדיין לא סיימנו לקלוט ולהבין את כולם, ונראה שבני נוער הם אלה שמושפעים הכי הרבה והכי מהר. הדוגמה האחרונה היא שינוי במבנה מערכות היחסים של צעירים: נראה שחלקם מעדיף לייקים על סקס. הוול סטריט ג'ורנל הציג את טרנד מערכות היחסים המקוונות - במסגרתו מוצאים קטינים וצעירים אהבה ברשת, אבל לא רצים לממש אותה. למעשה, דווקא נוח להם לשמור את הקשר ברמת הההתכתבות והווידאו-צ'ט. למשל, קחו את המקרה של ניקול נגויין בת ה-16; היא פגשה את החבר שלה פנים אל פנים בפעם הראשונה רק פעם אחת. לאחר 20 דקות הם פשוט נפרדו. וגם הפגישה ההיא היתה מאולתרת לגמרי; השניים מצאו עצמם במקרה באותה עיר בארה"ב, מבלי שתכננו. קודם לכן, ניהלו מערכת יחסים אינטנסיבית של שנה תמימה, בה התכתבו וביצעו שיחות וידאו כל הזמן. כיליד שנות השמונים, זה לא נשמע לי חריג; פעמים רבות התכתבתי עם מישהי ב-MIRC או ב-ICQ תקופה ארוכה בטרם פגשתי בה, בהרגשה של "צריך רק להיפגש כדי שנהיה באמת ביחד", ואז אחד הצדדים התבאס וחתך את הקשר. ואולם, לא היתה זו מערכת יחסים לראייתי, וזה מה שהשתנה; מבחינת בני הנוער שמתאר הג'ורנל, אלו הן מערכות יחסים משמעותיות, וכל עניין הפגישה האישית הוא כבר בכלל לא העיקר. הצעירים של היום, מעריכים בג'ורנל, מסתכלים על לייקים קבועים באינסטגרם כאל חיוך מעברו השני של הבר או פנייה אישית - וכך הופכת כל פלטפורמה מקוונת לכלי היכרויות. היקפי הטרנד לא ברורים; עדיין לא נערך מחקר מקיף דיו על מערכות יחסים בטווח ארוך בקרב מתבגרים, כאלה שנושאות אופי מקוון בלבד.
5 תגובות לכתיבת תגובה