אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר.
כולנו שפני ניסוי של החברות הגדולות ברשת - ואין לנו דרך לברוח צילום: שאטרסטוק

דו"ח טכנולוגי

כולנו שפני ניסוי של החברות הגדולות ברשת - ואין לנו דרך לברוח

בניגוד לרפואה, בתחום הדיגיטלי מתבצעים ניסויים על בני אדם ללא רגולציה או כללים ברורים - שמעלים שאלות אתיות מהותיות; וגם: וורן באפט משדרג סוף סוף את הטלפון הנייד שלו

25.02.2020, 12:31 | עומר כביר

למרות שאף אחד לא שואל אותנו אם אנחנו רוצים להשתתף בניסויים, בפועל, כל אחד מאתנו, בכל יום ויום, לוקח חלק בניסוי חברתי מקוון כלשהו. כולנו שפנים בניסויים שמטרתם להפוך אותנו למשתמשים פעילים יותר, צרכנים בזבזנים יותר או אפילו אזרחים ממושמעים היותר.

קראו עוד בכלכליסט

המציאות המודרנית של החיים בחברה מקוונת כיום היא כזו שבכל רגע נתון יכול אדם להיות מעורב בניסוי שבוחן את התגובות שלו לגירויים שונים, או את היכולת לחזות את ההתנהגות העתידית שלו. ולנו לא רק שאין דרך להתנגד, פעמים רבות אנחנו אפילו לא מודעים לכך שאנחנו חלק מניסוי.

וזה לא צפוי להשתנות. בכל הנוגע לשימוש במידע לצורך קבלת החלטות, אנחנו נמצאים רק בתחילתו של עידן הניסויים. או, כך לפחות טוענים הפרופסורים מייקל לוקה ומקס ה. בזרמן מבית הספר לעסקים של אוניברסיטת הארווארד בספר חדש שחיברו השופך אור על המגמה הזו.  בספר כוחם של הניסויים (The Power of Experiments) טוענים השניים שכל מי שהשתמש לאחרונה בשירות כמו פייסבוק, נטפליקס או גוגל היה כמעט בוודעות חלק מניסוי כלשהו.

גוגל ביצעה 15 אלף ניסויים שונים ב-2018, עם מספר לא ידוע של משתמשים תמימים. "אנחנו לא רוצים שמנהלים בכירים ידונו בשאלה האם רקע כחול או צהוב יביא ליותר הקלקות על פרסומות", מספר בספר הכלכלן הראשי של גוגל, האל ואריאן, לפי כתבה בניו יורקר הסוקרת את עיקריו. "למה להתווכח על זה, אם אנחנו פשוט יכולים לעשות ניסוי ולגלות?"

שורת החיפוש בגוגל שורת החיפוש בגוגל שורת החיפוש בגוגל

כך למשל, לפני כמה שנים, שתי התוצאות הראשונות שהופיעו ברגע שהכנסתם את השם eBay בשורת החיפוש בגוגל, היו מקשרות אתכם לעמוד הראשי של אתר המכירות. התוצאה הראשונה הייתה פרסומת והשנייה תוצאה אורגנית. פרופ' סטיב טדליס מאוניברסיטת קליפורניה בברקלי, שבאותה עת עבד באיביי, תהה האם יש צורך בהצגת הפרסומת הזו. אם איביי מופיעה ראשונה כתוצאה האורגנית, האם משתמשים לא יגיעו לאתר בכל מקרה? מנגד, בחטיבת השיווק של החברה הגנו על הפרסומת, שעלתה מיליוני דולרים בשנה, בטענה שמי שמקליק עליה מבצע רכישה באתר.

אבל בעידן המידע, אין סיבה לפעול לפי אינטואיציה או תחושת בטן, וטדליס וצוותו החליטו לבצע ניסוי פשוט: הפרסומת הוצגה והוסתרה לסירוגין, והתעבורה לאתר מגוגל נוטרה. התוצאות היו חד-משמעיות. כשלא הוצגה הפרסומת, משתמשים פשוט הקליקו על התוצאה האורגנית (והחינמית). כך הניסוי אפשר ל-eBay לחסוך מיליוני דולרים.

מטה איביי ebay. קליפורניה, צילום: בולמברג מטה איביי ebay. קליפורניה | צילום: בולמברג מטה איביי ebay. קליפורניה, צילום: בולמברג

הניסוי של איביי היא הדוגמה תמימה יחסית של חברה המנטרת התנהגות משתמשים מתוך כוונה להבין אותה טוב יותר (וכן, גם לנצל אותה לטובתה). הבעיות מתחילות כשחברות משתמשות בניסוי הענק שלהן על מנת ללמוד איך לתמרן אותנו בדרכים שונות, שלרוב ישרתו את האינטרסים שלהן וידחפו אותנו להתנהגויות שלא יהיו בהכרח חיוביות מבחינתו. והאינטרס הזה הוא, פעמים רבות, שיפור הכנסות החברה על חשבון חוויית המשתמש.

למשל, אתר StubHub, המאפשר לבעלי כרטיסים לאירועים והופעות למכור אותם מחדש, ערך ניסוי שנועד לבדוק מתי הכי כדאי לאתר להודיע למשתמשים על עלויות העסקה: מיד בהתחלה, עם הכניסה לעמוד, או רק בעת התשלום?

אחרי תמרונים ובדיקות שונות, התברר שהסתרת העמלות שנגבות עד הרגע האחרון הובילה לעלייה של 13% בהיקף המכירות, ולגידול של 5.73% במחיר הכרטיס הממוצע. היה לכך גם צד שלילי: הסתרת העמלה הקטינה את הסיכוי שמשתמשים יחזרו לאתר בחודשים שלאחר הרכישה, אבל הירידה הזו לא קיזזה את העלייה במספר הכרטיסים שנמכרו ובמחירם. המשתמשים, בין אם ידעו זאת ובין אם לא, נדפקו. והניסוי הצליח.

לפעמים אי אפשר להסתיר את הניסוי מהמשתמשים. אמזון ספגה ביקורת ציבורית רחבה כשהחלה לשחק עם רשימת המתנות לקראת לידת תינוק שניתן ליצור באתר, ובין המוצרים שהוסיפו ההורים המצפים השחילה פרסומות בדמות מוצרים נוספים, כאשר רק תגית קטנה ציינה שמדובר במוצר ממומן. לפי כתבה של הוול סטריט ג'ורנל, מכרים רבים קנו את המוצרים הללו, אחרי שסברו שההורים הוסיפו אותם לרשימה. התגובה של אמזון? "אנחנו תמיד מבצעים ניסויים". הפעם הניסוי נכשל, אבל רק כי החברה נתפסה עם המכנסיים למטה.

את אחד הניסויים הידועים ביותר לשמצה ערכה פייסבוק ב-2012, והוא כלל קרוב ל-700 אלף משתמשים שהשתתפו בו ללא ידיעתם. הניסוי נחשף שנתיים מאוחר יותר כשממצאיו פורסמו בכתב העת המדעי Proceedings of the National Academy of Sciences.

במסגרת הניסוי, שנערך ב-11-18 בינואר 2012, בחרו שלושה חוקרים 689,003 משתמשי פייסבוק באנגלית ותמרנו את הפידים שלהם, ללא ידיעתם: למחצית הם הציגו פחות תוכן חיובי, ולמחצית השנייה פחות תוכן שלילי. במקביל, בחנו החוקרים את הסטטוסים שפרסמו הנבדקים, על מנת לברר איך, אם בכלל, השפיע עליהם המצב הרגשי של הפיד על ידי בדיקה סמנטית של הסטטוסים - האם הם כללו מילים שליליות או חיוביות.

לדבריהם, נמצאה התאמה. “אצל האנשים שהתוכן החיובי בפיד שלהם הופחת, שיעור גדול יותר מהמילים בסטטוסים שלהם היה שלילי ושיעור קטן יותר היה חיובי", הם כתבו במאמר. “כשהשליליות הופחתה, התגלה דפוס הפוך. התוצאות מצביעות על כך שהרגשות שמביעים חברים, באמצעות רשתות חברתיות, משפיעים על מצב הרוח שלנו. מדובר, לידיעתנו, בראיה הראשונה להידבקות רגשית בקנה מידה גדול באמצעות רשתות חברתיות".

מאתרים משתמשים בפייסבוק, צילום: שאטרסטוק מאתרים משתמשים בפייסבוק | צילום: שאטרסטוק מאתרים משתמשים בפייסבוק, צילום: שאטרסטוק

הזעם הציבורי שהתעורר כתוצאה מכך היה חסר תקדים ביחס לפייסבוק (אם כי מאז כבר הספיקה החברה לשבור את השיא הזה), ומאז לא ביצעה הרשת החברתית ניסויים מסוג זה (או, סביר יותר, פשוט לא חזרה על השגיאה של לפרסם אותם בכתבי עת מדעיים).

בספרם, טוענים לוקה ובזרמן שהתגובה לניסוי של פייסבוק היתה מוגזמת ולא במקומה, שכן השפעות הניסוי היה קטנות. "מתוך כל 10,000 מילים שכתב אדם שנחשף לפיד שלילי, רק ארבע נוספות היו שליליות", הם כתבו. "ובכלל, מפרסמים וקבוצות אחרות מתמרנים את רגשות הלקוחות כל הזמן למטרתם".

ואולם, כפי שמבחינה פרופ' האנה פריי מיוניברסיטי קולג' בלונדון, שחוקרת דפוסי התנהגות אנושית, המחברים מפספסים את הפואנטה. "זה לא נכון לתרץ את הניסוי על סמך ההשפעה הממוצעת שהיתה לו על מאות אלפי אנשים", היא כתבה ב"ניו יורקר". "לא מדובר בארבע מילים לכל אדם. ואין דרך לדעת את המצב ההתחלתי של אלו שהשתתפו במחקר. ייתכן שלאנשים יציבים נפשית לא יפריע שינוי קטן, אך יש כאלו שכבר קרובים לנקודת השבירה שלהם. זה נכון שאנחנו חיים בעולם שבו כל מיני חברות מנסות להשפיע על ההתנהגות שלנו, אבל הפרסומות שמופיעות במחצית של הסופרבול לא מבוססות על אלגוריתמים שעיצבו אותן לעיניך בלבד, על סמך מידע אישי".

אתיקת הניסויים בבני אדם ברשת, צילום: shutterstock אתיקת הניסויים בבני אדם ברשת | צילום: shutterstock אתיקת הניסויים בבני אדם ברשת, צילום: shutterstock

הניסויים של חברות הטכנולוגיה מעלים סוגיה מהותית יותר. כזו, מציינת פריי, שעולם הרפואה התמודד אתה במאה שעברה: האופן שבו מבצעי הניסוי מתייחסים למושאי המחקר שלהם. עולם הרפואה ידע בעברו כמה ניסויים מחרידים, ולא כולם נוהלו בחסות המשטר הנאצי והיו למעשה לא יותר מעינויים מתוחכמים. אחד המקרים הידועים ביותר לשמצה הוא ניסוי העגבת בטסקיגי, שהחל ב-1932 ונמשך 40 שנה. במסגרת הניסוי, הודבקו קרוב ל-400 אזרחים אפרו-אמריקאים, ללא הסכמתם או אפילו ידיעתם, במחלת המין במטרה לבחון את ההתפתחות הטבעית שלה ושיטות טיפול אפשריות. הניסוי נמשך כבר אחרי שבשנות ה-40 התברר שפנצילין יכול לרפא עגבת, והופסק רק ב-1972 אחרי שדבר קיומו הודלף לעיתונות.

אחת התוצאות הבולטות של ניסוי זה היתה גיבוש כללים אתיים ברורים לעריכת ניסוי בבני אדם, שדורשים אישור נרחב של הניסוי לפני קיומו וקבלת הסכמה מדעת של משתתפי הניסוי. אבל חוקרים בתחום הדיגיטלי, היכן שניתן להשתמש במידע על מנת לבצע ניסויים בבני אדם, לא עברו את אותה מערכה שעברו חוקרים בתחום הרפואה ושהביאה לגיבוש הכללים הנוקשים שמונעים עוולות דוגמת ניסוי טסקיגי. במדינות דמוקרטיות לפחות.

לוקה ובזרמן סבורים ששקיפות וולנטרית תפתור את הסוגיה הסבוכה. פריי פחות משוכנעת. "אני לא חושבת שכל פעם שאתר חדשות בודק איזו כותרת מושכת יותר משתמשים צריך לקבל אישור של ועדת ביקורת", היא כתבה. "אבל אם לא לא נקבע כללים אתיים, חברת מדיה חברתית תוכל בעיקרון לבצע מניפולציה בכמות התוכן הפוליטי הקיצוני או בסיפורים של מכחישי אקלים שמוצגים בפיד. ואפשר לדמיין ניסוי של שירות הזמנת נסיעות שנועד לבחון האם ניתן לסחוט יותר כסף ממשתמשים עם סוללה חלשה".

בעיה אחרת היא העובדה שניסויים אלו מתנהלים לרוב בצורה לא שקופה, בפרט בכל הנוגע לאופן ביצוע הניסוי, ושגם אם הכל היה חשוף למדענים אחרים אין יכולת לשחזר אותם – כל השליטה בפלטפורמות שבהן מתבצע הניסוי נמצאת בידי החברות עצמן, ולמי שפועל מחוץ להן אין גישה דומה או אפילו קרובה לכלים שמאפשרים לבצע ניסוי זהה בהיקף דומה. זה בעייתי, כי אחד היסודות הבולטים של ניסויים מודרניים הוא היכולת לשחזר אותם על מנת לוודא את התוצאות או להפריך אותן.

מדובר ביסוד בעל חשיבות עליונה, כפי שהתברר בעקבות ניסוי שנערך בעבר בדרום הודו. תינוקות באזור זה נולדו כשהם סובלים מתת-תזונה, מכיוון שהאמהות שם אכלו כמויות קטנות מאוד של מזון ככל שהתקרב מועד הלידה בגלל חשש מלידה של תינוק גדול מדי. בניסוי שבוצע התברר שהפעלת תוכנית תמיכה והסבר לאמהות, שכוללת אספקת תוספי מזון וחינוך, סייעה להוריד משמעותית את שיעור התת-תזונה בקרב ילודים.

מרוצים מתוצאות הניסוי, ארגוני סיוע החלו לפרוס את התוכנית גם בבנגלדש, שם סבלו תינוקות מבעיה דומה כתוצאה מחשש דומה של האמהות. אבל שם לא אובחן שינוי משמעותי. הסיבה? בהודו, האמא היא זו ששולטת בתזונת המשפחה. בבנגדלש, זו החמה. התוכנית כוונה ליעד הלא נכון.

"יש הרבה דברים טובים שאפשר להשיג באמצעות ניסויים דיגיטליים", סיכמה פריי. "הם יכולים לעזור לנו להבין את ההשפעה של זמן מסך או של כפתור הלייק על תחושת האושר שלנו, למצוא ולתקן אפליה, לקדם אורח חיים בריא יותר. אבל כשניסויים אלו מתבצעים ללא ביקורת ציבורית, האתוס המדעי נפגע. ענקיות הטכנולוגיה יכולות לדווח לנו על ממצאיהן, אני לא בטוחה שאנחנו צריכים לקחת אותן במילתן".

קצרצרים

 

  • אף פעם לא מאוחר מדי: וורן באפט, בן 89 בלבד, הוא אחד המשקיעים הפרטיים הגדולים באפל עם נתח של 5.6% ממניות החברה. חרף זאת, עד היום הוא המשיך להשתמש בטלפון פשוט מהסוג הישן, הכולל כפתורים פיסיים ותג מחיר של 20 דולר (יש סיבה שהבחור מיליארדר). לא עוד: באפט חשף השבוע ששידרג לאחרונה לאייפון 11. "הטלפון הישן שלי נעלם לתמיד", הוא אמר ל-CNBC. נחפש אותך בווטסאפ.

  • טיקטוק (TikTok) ממשיכה לאבד את האמון של הממסד האמריקאי. TSA, הסוכנות שאחראית על האבטחה בשדות התעופה בארה"ב, אסרה על עובדיה להשתמש באפליקציה הפופולרית, שנמצאת בבעלות חברה סינית, ליצירת סרטונים בעבור חשבונות המדיה החברתית של הסוכנות. "מספר קטן של עובדים השתמש בעבר בטיקטוק במכשירים האישיים שלהם כדי ליצור סרטונים לשימוש בפעילות המדיה החברתית של TSA. הנוהג הזה הופסק", נמסר.

תגיות