אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר.
שקר הניטרליות: מיתוס האלגוריתם האובייקטיבי איור: דניאל גולפרב

מאקרו טכנולוגי

שקר הניטרליות: מיתוס האלגוריתם האובייקטיבי

חשיפת העריכה האנושית שמאחורי המלצות התוכן האוטומטיות של פייסבוק פוצצה את אשליית האלגוריתם הניטרלי שעמק הסיליקון אוהב לקדם. אלא שהטעות האמיתית היא של מי שסבור שאלגוריתם מסוגל להיות ניטרלי מלכתחילה

19.05.2016, 12:10 | עומר כביר

הסערה שעוררה פרשת "אלגוריתם־גייט" של פייסבוק נראית במחשבה עמוקה מעט קצת בלתי פרופורציונלית ביחס לגילויים שבחובה. הפרשה התפוצצה אחרי שעובדים לשעבר ברשת החברתית חשפו שהאלגוריתם ששולט באזור הנושאים החמים בפייסבוק אינו אוטומטי לחלוטין, אלא מכוונן, מנווט ונשלט בידי צוות של עורכים אנושיים. חמור לא פחות, עובדים לשעבר שהיו חלק מצוות זה אף ניצלו את כוחם כדי לצמצם את החשיפה של פוסטים פרו־שמרניים ולקדם נושאים ליברליים.

קראו עוד בכלכליסט

הסיבה לסערה היא מיתוס שעמק הסיליקון מקדם בכוח רב זה שנים רבות, מיתוס שאפשר לכנות "חוכמת האלגוריתם". כמעט כל חברת טכנולוגיה, חדשה או ותיקה, אוהבת להתהדר באלגוריתם שלה, המתכון הסודי להצלחתה, נוסחה מתקדמת שפותחה בידי מדעני־העל שלה ומסוגלת לעשות הכל: למצוא את הטיסה הזולה ביותר, את מסלול הנסיעה המהיר ביותר, את תוצאת החיפוש הטובה ביותר או את הסרטון המצחיק ביותר. החברות רוצות שנאמין שהאלגוריתם הוא האלוהים - חכם, לומד כל הזמן, לא עושה אותה טעות פעמיים ותמיד תמיד משתפר ובעיקר עצמאי, אובייקטיבי וחף מטעויות אנוש.

אין אלגוריתם אובייקטיבי, איור: דניאל גולפרב אין אלגוריתם אובייקטיבי | איור: דניאל גולפרב אין אלגוריתם אובייקטיבי, איור: דניאל גולפרב

המיתוס הזה הוא במידה רבה שקר, אולי אפילו בולשיט מוחלט. ראשית, כי אין דבר כזה אלגוריתם עצמאי. במציאות אין אלגוריתם שמשוחרר לשטח ומתחיל לפעול ללא מגע יד אדם. כל אלגוריתם, שזה אגב שם משוכלל לקוד תוכנה, עובר עדכונים והתאמות בידי מפתחיו לאורך הדרך, בין שבקוד הבסיס עצמו ובין שבפרמטרים שמגדירים את פעולתו.

הדוגמה הכי מוצלחת לכך היא כנראה מנוע החיפוש של גוגל. החברה בנתה במשך שנים תדמית שלפיה האלגוריתם שלה אובייקטיבי לחלוטין ומציג תוצאות חיפוש על סמך מדדים אובייקטיביים כמו תוכן האתר או קישורים אליו מאתרים אחרים. מצג זה הוא ככל הנראה שקר מוחלט, כפי שגילו באיחוד האירופי, שם הוגש נגד החברה כתב אישום בטענה ששינתה את תוצאות החיפוש שלה כדי לפגוע בפעילותם של שירותים מתחרים. לפי דיווחים, גוגל עלולה לספוג בשל פעולה זו קנס של 3 מיליארד יורו בגין הפרת חוקי הגבלים עסקיים - הקנס הגבוה ביותר שהוטל על חברה עד כה.

במובן זה, המעשה של פייסבוק לא שונה במיוחד מזה של גוגל. בשני המקרים בני אדם התערבו בפעילותו של האלגוריתם כדי לשנות את התוצאות שהוא מייצר. ההבדל העיקרי היה באופן ההתערבות ואולי גם בהיקפה. וגוגל ופייסבוק הן לא היחידות. כל חברה מתערבת באופן קבוע בפעילות האלגוריתם שלה, אם כדי לשפר את פעילותו ואם למטרות אחרות, ישרות יותר או פחות. 

מארק צוקרברג. רוצה שנאמין שהאלגוריתם חף מטעיות, צילום: צילום מסך מארק צוקרברג. רוצה שנאמין שהאלגוריתם חף מטעיות | צילום: צילום מסך מארק צוקרברג. רוצה שנאמין שהאלגוריתם חף מטעיות, צילום: צילום מסך

אבל שקר האלגוריתם עמוק עוד יותר. כי גם אם אף חברה לא היתה עושה שום שינוי באלגוריתם שלה מרגע הפצתו, וגם אם האלגוריתם חכם ומתקדם מספיק כדי ללמוד ולהשתפר בלי צורך בהתערבות אנושית כלשהי, הוא עדיין לא היה אובייקטיבי בשום אופן. כי בסופו של יום, כל אלגוריתם — בין שהוא מפעיל מנועי חיפוש או אפליקציות ניווט ובין שהוא מפעיל שירותי השוואת מחירים - נכתב בידי אדם בשר ודם.

"אין דבר כזה אלגוריתם ניטרלי, כמו שכנראה מעולם לא היתה עיתונות ניטרלית", אמר ל"וושינגטון פוסט" פרופ' פיליפ נאפולי מאוניברסיטת ראטגרס. “מישהו יוצר אותם, מפתח אותם לאורך זמן ומכוונן אותם. ואין יוצר אחד. מדובר בתוצאה של שנים על גבי שנים של שינויים וכיוונונים, עם אנשים שונים שמגיעים ותורמים את חלקם".

כל אלגוריתם מושפע באופן זה או אחר מהמטרות של מפתחיו. התקשורת הזדעזעה כשגילתה שעובדים של פייסבוק התערבו בפעילות האלגוריתם שלה כדי לווסת את פעילותו, אבל האמת היא שהרשת החברתית היתה יכולה להגיע לתוצאה דומה פשוט באמצעות תכנות האלגוריתם באופן שהיה גורם לו לסבול מאותה הטיה באופן קבוע, ללא התערבות העובדים.

אז מה עושים עכשיו? סוגרים את כל האלגוריתמים ומחליפים אותם בעכברים חרוצים שרצים על סרט נע? ברור שלא. שירותי הרשת המודרנית ואפליקציות המובייל לא אפשריים ללא אלגוריתמים. גם אי אפשר לצפות מהמפתחים לשמור על ניטרליות מוחלטת או להימנע מהתערבות או כיוון האלגוריתמים.

הדבר היחיד שאפשר לעשות הוא לזכור שאין דבר כזה אלגוריתם ניטרלי, וכשאפליקציה ממליצה על בית עסק או כשמנוע חיפוש מציג תוצאות לשאילתה, לא מדובר בהכרח בתשובה האובייקטיבית הטובה ביותר. בקיצור, לזכור שבסוף כל אלגוריתם יושב מתכנת עם נרגילה. 

שיתוף בטוויטר שיתוף בוואטסאפ שיתוף בפייסבוק שיתוף במייל

תגיות

4 תגובות לכתיבת תגובה לכתיבת תגובה

4.
ל-1: אין תחרות לגוגל מפני שתחרות חופשית יש רק בדמיון
מה שכתבת זה "אילו לסבתא היו גלגלים". בעצם כמעט לשום חברה מובילה בעמק הסיליקון אין מתחרים. כי כאשר השוק חופשי, החזקים מחסלים את החלשים. וממילא גם אם יש תחרות, מי אמר שמי שינצח הוא האובייקטיבי ביותר? בינתיים הציבור מצביע ועוד איך ונדמה ששום דבר לא מזיז לו, חוץ מסלפיז וחתולים.
גיל  |  22.05.16
3.
אי אפשר להגיע לאוביקטיביות רק מפני שאין דבר כזה אובייקטיביות. הכל בחיים זה מתוך עייני המתבוננן
מה שאמיתי ואובייקטיבי לאדם אחד הוא לא אובייקטיבי ואמיתי מנקודת מבט של אדם אחר. הכל עניין של פוזיציה. גם אלברט איינשטיין הוכיח את זה בתורת היחסות. אם תטוס בחללית במהירות האור או קרוב למהירות האור אתה תיראה לאנשים מחוץ לחללית כאילו אתה זז בהילוך איטי אבל למי שבתוך החללית ירגיש כאילו הוא זז במהירות רגילה והאנשים שבחוץ זזים בהילוך מהיר. אין נכון ולא נכון אמיתי ושקרי, הכל עניין של פוזיציה.
21.05.16
1.
הפתרון, כמו תמיד, מגיע מתחרות בשוק החופשי.
זה נכון, אי אפשר ליצור אלגוריתם חיפוש אובייקטיבי. אבל כן אפשר להציע לציבור מגוון של אלגוריתמים לבחור מביניהם, והציבור כבר יצביע ברגליים עבור האלגוריתם המוצלח ביותר, ויעניש את החברות אשר מבצעות מניפולציות ממניעים זרים. כרגע נראה שאין מתחרים לגוגל בתחום החיפוש, אין מתחרים לפייסבוק ברשת החברתית וכן הלאה. אולם חכו ותראו - כל אחד מן הדינוזאורים הללו יוחלף במידה ויגדיש את הסאה.
אורן  |  21.05.16