המורים היפנים מיואשים, בונים על AI כדי לפתור את בעיית הבריונות

בינה מלאכותית במקום אינטליגנציה רגשית

ב-2011 הזדעזעה יפן ממותו של נער ילד בן 13 מהעיר אוטסו (Otsu) במערב המדינה, שקפץ אל מותו מבניין המגורים בו גר. הילד, כך התגלה בדיעבד, היה קורבן לבריונות מתמשכת מצד חבריו לכיתה שהובילה אותו להתאבד.

המקרה אמנם העלה את המודעות לתופעה החמורה של בריונות בבתי הספר ביפן, אבל לא ממש סייע לפתור אותה. בתי הספר ביפן דיווחו על 410 אלף מקרי בריונות במהלך שנת הלימודים 2017-2018, עלייה של 28% משנה קודמת. לפחות 10 מקרי התאבדות של תלמידים במהלך אותה שנה נקשרו לבריונות. מדוע הבריונות כל כך נפוצה בבתי הספר ביפן? יש מי שמייחס זאת ללחץ האדיר להיות קונפורמי בחברה היפנית, שהופך כל מי שחריג באיזשהו אופן למטרה. אחרים מצביעים על הנורמה הבעיתית לפיה ילדים לא אמורים לשתף את ההורים והמורים בבעיות.

שמונה וחצי שנים אחרי אותו מקרה, בעיר אוטסו מצאו סופסוף פתרון לבריונות בדמות מערכת מבוססת בינה מלאכותית. ביום שישי האחרון הכריזו הרשויות העירוניות על השקת מערכת מבוססת AI שתנסה לחזות מקרים של בריונות חמורה הדורשים התערבות. המערכת אמורה לנתח כ-9,000 מקרים של בריונות שהתרחשו באזור בשש השנים האחרונות ולהפיק תחזיות שיעזרו למערכת החינוכית למקד את תשומת הלב.

בעבר הודיעו פלטפורמות כמו פייסבוק ואינסטגרם כי החלו להשתמש בכלי AI כדי לזהות נטיות אובדניות ובריונות רשת, אך הפעם הרשות המקומית היפנית תנסה לזהות את אלו בעולם האמיתי על סמך נתונים כמו הידרדרות בהישגים האקדמיים והיעדרויות מהכיתה. זיהוי בריונות ושאר מצוקות אחרות של הילדים אמור היה להיות בתחום של המורים והצוות החינוכי בבית הספר, אבל לפחות ביפן התברר שאי אפשר לסמוך עליהם ממש שיזהו את תמרורי האזהרה.

במקרה ב-2011 למשל דיווחו יותר מ-60 תלמידים בבית הספר כי ראו את ההתעללות הממושכת בנער בשבועות לפני שהתאבד. גם המורה בכיתה ראה זאת וחשב שמדובר בבדיחה משעשעת בין חברים. בהיעדר אינטליגנציה רגשית בסיסית, אין ברירה אלא להסתמך על בינה מלאכותית. הבעיה היא שלא לגמרי ברור מה יהיו בפועל יכולות הניבוי של המערכת אם בכלל. מערכת כזו יכולה להוריד את תחושת האחריות של המורים בכל הנוגע להתמודדות עם בריונות, כך שבסופו של דבר המצב כולו יורע במקום להשתפר.  

רדיט מוצפת בבהלה אדומה

האינטרנט אולי מפוצל לשני חלקים, האמריקאי והסיני, אבל לפעמים שני החלקים האלה מתקשרים בדרכים לא צפויות. בשבוע שעבר נחשף כי אתר הקהילות והפורומים רדיט מגייס 300 מיליון דולר לפי שווי של 3 מיליארד דולר. מי שמובילה את סבב הגיוס במפתיע היא ענקית הטכנולוגיה הסינית טנסנט, שתשקיע בעצמה ברדיט 150 מיליון דולר.

רדיט היא חברה אמריקאית וכמו שאר הרשתות החברתיות המערביות גם היא חסומה בסין. לעומת זאת טנסנט, מפתחת הרשת החברתית הפופולרית בסין וויצ‘ט, היא בעלת הבית באינטרנט הסיני. בעוד רדיט חורטת על דגלה את חופש הביטוי והפרטיות, וויצ‘ט של טנסנט היא הרשת המצונזרת והמנוטרת בעולם עם טקסטים בנושאים רגישים שנמחקים אוטומטית ומעצרים על בסיס התכתבויות. פעם אפילו קיבלה טנסנט את הציון 0 בדירוג של אמנסטי אינטרנשיונל על חופש ופרטיות, לאחר שהייתה החברה היחידה שלא הצהירה כי תסרב לבקשות הממשלה לקבל מידע.

מאז פורסמה ההשקעה הביעו משתמשי רדיט מחאה וחשש כי הרשת תוכפף לצנזורה בסגנון סיני. הגולשים הציפו את הפורומים בשורה ארוכה של תמונות רגישות בסין, החל מאירועי הטבח בכיכר טיאננמן בבייג'ינג ב-1989, אירוע שנמחק לגמרי מהרשומות ההיסטוריות בסין, ועד לתמונות של פו הדב, דמות שמצונזרת מהאינטרנט הסיני באופן קבוע בשל הדמיון לכאורה בינה לבין נשיא סין שי ג‘ינפינג.

אפשר להבין את הגולשים שמביעים את מחאתם, אך צריך להכיר בכך שהאפשרות שטנסנט משקיעה ברדיט כדי להשפיע על החופש באתר פשוט לא הגיונית. טנסנט בכל מקרה לא תוכל לשנות הרבה במדיניות האתר כבעלת מניות מיעוט בו ואין שום אינדיקציה שהיתה רוצה לעשות זאת.

טנסנט היא כבר בעלת אחזקות משמעותיות בשורה ארוכה של חברות במערב כולל סנאפ, ספוטיפיי וטסלה. יותר מאשר נועדו לחזק את מוטת השליטה של סין במערב, מטרת ההשקעות האלה היא לגוון את מקורות ההכנסה של טנסנט עצמה. לפני מספר שנים ניסתה החברה לפרוץ עצמאית לשוק הבינלאומי עם וויצ‘ט אך נכשלה, בין השאר בשל אותן בעיות פרטיות, כך שכיום הרוב הגדול של ההכנסות שלה מגיעות מתוך סין. זה אף פעם לא בריא לחברה שכל ההכנסות שלה מגיעות משוק יחיד, במיוחד בימים שבהם הכלכלה הסינית נכנסת לתקופת האטה.

עם זאת, ייתכן שהממשל הסיני אכן הוביל את טנסנט להשקעה ברדיט, אבל לא מהסיבות שהגולשים חושבים. בשנה האחרונה טנסנט חוותה את נחת זרועו של הממשל הסיני בעצמה כאשר בייג‘ינג מנעה במהלך רוב 2018 את ההשקה של משחקי וידאו חדשים, מקור ההכנסה הגדול שלה, מה שגילח שליש משווייה. גם כיום משחקים כאלה מאושרים במשורה מתוך תפיסה כי הם משפיעים לרעה על הנוער. במצב עניינים כזה לא נשאר לטנסנט אלא לחפש מקורות הכנסה עתידיים חדשים, אפילו באתר שהוא ההפך הגמור ממנה.

קצרצרים:

1) ארה"ב אולי מגבירה את הלחץ על בעלות בריתה בכל הנוגע לשיתוף פעולה עם וואווי, אבל כולם ממהרים להתקפל. תאילנד, בעלת ברית ותיקה של ארה"ב, השיקה ביום שישי האחרון מתקן ניסוי המתבסס על טכנולוגיית דור 5 של וואווי. אמנם עדיין לא מדובר בהסכם לבניית רשת מלאה ובניסוי משתתפות גם אריקסון ונוקיה, אך עדיין מדובר בהצהרת כוונות מצד תאילנד שלא ממהרת ליישר קו עם ארה"ב. כאשר נשאל בכיר תאילנדי האם המדינה לא מודאגת מהאשמות האמריקאיות ביחס לוואווי, הוא נתן תשובה משעשעת במיוחד. "ישנן כל הזמן דאגות ביחס לנושאי ריגול כשמדובר בסין", אמר הבכיר. "אבל לתאילנד אין באמת שום דבר מרגש שיעניין את בייג'ינג". 

2) גם האפליקציות של פייסבוק חסומות בסין, אבל זה לא אומר שהחברה הפסיקה להרוויח מהשוק הזה. לפי הערכות שפורסמו בשבוע החולף, פייסבוק הרוויחה כ-5 מיליארד דולר בסין ב-2018, כ-10% מכלל ההכנסות השנתיות שלה. סין היא למעשה השוק החמישי בגודלו של פייסבוק אחרי ארה“ב, רוסיה, טורקיה וקנדה, בלי שהיא פועלת בו. ההכנסות של פייסבוק בסין מגיעות ממכירת פרסומות לחברות סיניות הפועלות בשוק הבינלאומי. המכירה נעשית באמצעות סוכנים מקומיים. אז אולי ההתחנפות שלו לשלטון הסיני לא עזרה לו לקבל אישור פעילות במדינה, אבל בשביל 5 מיליארד דולר היה שווה למארק צוקרברג לצאת לריצת בוקר מחויכת ביום של זיהום אוויר כבד בבייג'ינג.

3) דו“ח חדש של מכון המחקר ”המרכז לביטחון אמריקאי חדש“ (CNAS) בארה“ב מנתח את התפיסות הסיניות ביחס לבינה מלאכותית. הדו“ח מצא כי בכירים סינים מזהים דפוס של ”מרוץ חימוש“ בין ארה"ב וסין בכל הנוגע ל-AI שעלול להידרדר לעימות צבאי. החשש של בכירים סינים הוא כי השימוש בנשק מבוסס AI, כמו רחפנים או רובוטים אוטונומיים, יגדיל את נכונותן של מדינות לתקוף האחת את השנייה כיוון שתקיפה כזו לא תהיה כרוכה בנפגעים אנושיים. השימוש בנשק מבוסס AI יכול גם להוביל לתקריות לא מכוונות כמו במקרה שרובוט אוטונומי יורה על חיילים אנושיים. החששות האלה בכל מקרה לא מונעים מסין, וכנראה גם לא מארה"ב, להמשיך במרץ לפתח נשק מבוסס בינה מלאכותית לטובת עתיד בטוח למין האנושי כולו.