אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר.
בפייסבוק מודים לראשונה: אנו משתמשים בבינה מלאכותית כדי לסנן תכנים "פוגעניים" צילום: Facebook Mark Zuckerberg

בפייסבוק מודים לראשונה: אנו משתמשים בבינה מלאכותית כדי לסנן תכנים "פוגעניים"

מנהל מחקר הבינה המלאכותית ברשת החברתית הגדולה בעולם מודה לראשונה כי החברה פועלת על מנת לאתר באופן יזום תמונות וסרטונים המכילים עירום או אלימות, "או כל דבר אחר שעומד בניגוד למדיניות החברה"

02.12.2016, 11:07 | נמרוד צוק
פייסבוק מודה לראשונה כי היא עושה שימוש במערכת בינה מלאכותית כדי לאתר באופן יזום תכנים שעלולים להיות מנוגדים לכללי הקהילה, כגון תמונות וסרטונים המכילים עירום או אלימות. את הדברים אמר אתמול (חמישי) חואקין קנדלה, מנהל מחקר הבינה המלאכותית היישומי בחברה, לסוכנות הידיעות רויטרס. קנדלה אמר כי השימוש בטכנולוגיה בחברה הולך ומתרחב לאחרונה, וכי היא אף בוחנת דרכים להשתמש בה כדי לצנזר תכנים פוגעניים בשידורי פייסבוק לייב בזמן אמת.

קראו עוד בכלכליסט

עד כה טענה החברה כי מנגנון ניטור וסינון התכנים שלה מתבסס באופן בלעדי על דיווחי גולשים. השימוש הגובר באלגוריתם מבוסס AI (בינה מלאכותית) עשוי להסביר את מקרי מחיקות התכנים והחסימות הרבים בשבועות האחרונים בישראל, שבמהלכם נפגעו משתמשים רבים מהסרת תכנים וחסימת חשבונם לימים ושבועות בעקבות פוסטים שהכילו מלים כגון "כושי" או "קוקסינל", במקרים רבים גם כאשר אלו נכתבו בהקשר לא פוגעני או נכללו בסטטוסים מלפני מספר שנים. למרות שבחלק גדול ממקרים אלו ההסבר של דיווח על ידי משתמשים נראה בלתי סביר, החברה התעקשה לטעון כי היא אינה מפעילה כל מנגנון אוטומטי לניטור תכנים פוגעניים.

פייסבוק. ההצהרה יכולה להסביר הסרת פוסטים בעת האחרונה, צילום: גטי אימג פייסבוק. ההצהרה יכולה להסביר הסרת פוסטים בעת האחרונה | צילום: גטי אימג' פייסבוק. ההצהרה יכולה להסביר הסרת פוסטים בעת האחרונה, צילום: גטי אימג

"האלגוריתם שלנו יכול לגלות עירום, אלימות או כל דבר אחר שעומד בניגוד למדיניות החברה", אמר קנדלה. השימוש בטכנולוגיה להפעלת צנזורה על שידורים חיים עדיין נמצאת בשלב מחקרי, הוא אמר. "כדי להגיע למצב שבו ניתן להשתמש בה בפועל, אלגוריתם זיהוי התמונה חייב להיות מהיר מאוד, ואני חושב שאנחנו יכולים להתקדם לשם. בנוסף המערכת צריכה לתעדף דברים בדרך הנכונה כדי שבסופו של דבר בוחן אנושי יסתכל על התוכן, מומחה שמכיר את המדיניות שלנו, ויחליט אם צריך להוריד אותו או לא".

הגברת השימשו בבינה מלאכותית לסינון תכנים עשוי להיות קשר גם לסוגיית החדשות המזויפות, שהפכו למגיפה ברשת החברתית בחודשים האחרונים והביאו לאחרונה לביקורת גוברת כלפיה ואף לטענות כי היתה לכך השפעה על תוצאות הבחירות בארה"ב. מארק צוקרברג אמר בנובמבר כי החברה תשקול שימוש במנגנונים אוטומטיים לאיתור חדשות מזויפות המופצות בפיד.
שיתוף בטוויטר שיתוף בוואטסאפ שיתוף בפייסבוק שיתוף במייל

תגיות