טכנולוגיות חדשות מביאות איתן גם רוע, מישהו צריך לשלם על זה

אחד הנושאים האהובים על מדור זה הוא השלכות בלתי צפויות – התוצאה של יצירת טכנולוגיה עוצמתית ושחרורה לשדה ניסוי של מיליארדי אנשים. האינטראקציה איתה, היצירתיות, הגמישות, התבונה, וכן לפעמים גם הרשעות, של המרקם האנושי – כל אלו כמעט תמיד יביאו לשימושים שיוצרי הטכנולוגיה לא דמיינו, להשלכות (לפעמים טובות, יותר מדי פעמים רעות) משמעותיות שאף אחד לא דמיין, שאם היה מדמיין אולי היה עוצר לחשוב ומתכנן דברים מחדש.

כשאפל יצרה את האייפון, היא לא יכלה לדמיין שהמכשיר יגרום לעלייה בעומס בכבישים, על ידי כך שיפתח את הדלת לחברות כמו אובר, שיגבירו את הביקוש לנסיעות ברכבים פרטיים על חשבון הליכה או תחבורה ציבורית ויעמיסו על תשתיות אורבניות עמוסות גם כך. חברות שילוח מזון כמו וולט לא קמו במטרה לזהם את הסביבה, Airbnb לא דמיינה שהשירות שלה ישבור את מרקם החיים בשכונות מגורים בערים מתוירות, וכשאזה רסקין המציא את הסקרול האין-סופי הוא לא חשב שהתוצאה תהיה התמכרות קשה לגלילה ברשתות חברתיות.

אימוג'ים. לטכנולוגיה יש השפעות שליליות | איור: יונתן פופר

כשפייסבוק (היום מטא) השיקה את הניוז פיד, היא לא חשבה שאחת התוצאות תהיה ניסיון הפיכה נגד ממשלת ארצות הברית, כפי שהתרחש ב-6 בינואר 2021 (הניוז פיד הוביל להפצת פייק ניוז, תיאוריות קשר סביב הבחירות, להקצנה של משתמשים); או שחסימת החדשות באוסטרליה תפגע בהרבה מדינות קטנות בסביבה; או שמטבע הקריפטו שלה עלול לחולל שמות בכלכלה העולמית. אוקי, נראה שלמטא יש בעיה ייחודית עם קושי לזהות השלכות, אבל זו כבר סוגיה אחרת.

הבעיה עם השלכות בלתי צפויות היא, כמובן, שהן בלתי צפויות. אי אפשר לדעת מה הן, אי אפשר להיערך להן. האומנם? "אני מעדיפה את המונח 'השלכות שלא נשקלו', כי הוא מטיל את האחריות לתוצאות שליליות ישירות על הממציאים והיזמים", כתבה ב-Wired החוקרת רייצ'ל בוטסמן, שספרה האחרון Who can you trust? עוסק בדרכים שבהן טכנולוגיה מעצבת את חיינו.

העיסוק בהתמודדות עם השלכות בלתי צפויות שלא נשקלו אינו חדש. כבר לפני קרוב ל-90 שנה מיפה רוברט מרטון חמישה גורמים שמונעים מאנשים להבין את ההשלכות האפשריות של מעשיהם: בורות, ראייה לטווח קצר, ערכים, פחד וטעות. בוטסמן מציעה גורם שישי, שרלוונטי במיוחד לתקופה שבה אנו חיים – מהירות.

מארק צוקרברג, מנכ"ל מטא | צילום: פייסבוק

"מהירות היא אויבת האמון", היא כתבה. "כדי לקבל החלטות מיודעות לגבי אלו מוצרים, שירותים, אנשים ומידע ראויים לאמון שלנו, אנחנו צריכים קצת חיכוך שיאט אותנו. ומהירות היא בעיה כפולה. נדרשו יותר מ-50 שנה כדי ש-99% מהבתים בארצות הברית יאמצו את הרדיו. נדרשו 38 שנה כדי שטלוויזיה צבעונית תגיע לרמת אימוץ דומה. מנגד, לאינסטגרם נדרשו שלושה חודשים כדי להגיע למיליון משתמשים אחרי השקתה ב-2010. טיקטוק הגיעה למשתמש המיליארד ב-2021, ארבע שנים אחרי שהושקה – מחצית מהזמן שנדרש לפייסבוק, יוטיוב או אינסטגרם להגיע לציון דרך דומה, ושלוש שנים מהר יותר מווטסאפ. כשמסגרת הזמן של אימוץ צרכני נדחסת מעשורים לחודשים, קל ליזמים להתעלם משינויים התנהגותיים עמוקים שההמצאות האלו מעוררות בקצב מואץ. יזמים יגידו לעצמם שהם עדיין בשלב החדשנות או הניסוי, כשלמעשה מיליוני אנשים משתמשים במוצרים שלהם".

תקנים הגנתיים יותר

במקביל יזמים ממוקדים בהאצת קצב הגדילה שלהם. המנטרה המפורסמת של מטא היא Move fast and break things, לא לעצור לרגע לחשוב מה יכול להשתבש. והחברה באמת זזה מהר ושוברת לא מעט מדברים. מנטרה לתיקונם, עם זאת, עדיין אין לה. זה מצטרף לכך שאותם יזמים גם לא מנסים לחשוב מה יהיו השלכות הטכנולוגיה שלהם, מסרבים אפילו לדבר על מה יקרה כשהיא תגיע לשימוש בהיקף רחב. "אי אפשר לדמיין את ההשפעה בקנה מידה גדול", היא תשובה שגרתית שבוטסמן שמעה מהם.

"אבל חוסר יכולת לדמיין השפעה בקנה מידה רחב היא טיעון ממש טוב לכך שאנחנו לא צריכים לפרוס טכנולוגיה בקנה מידה רחב", אמר רסקין, ממציא הסקרול האין-סופי. "אם אתה לא יכול לקבוע את ההשפעה של הטכנולוגיה שאתה עומד לשחרר, סימן שאתה לא צריך לעשות את זה".

בוטסמן מקבילה את הטיעון הזה למצב שבו חברת תרופות לא יכולה לחזות השלכות שליליות או תופעות לוואי מסכנות חיים של תרופה שהיא מפתחת, ופועלת למכור אותה בכל מקרה. "זה בלתי נתפס, כי חברות תרופות חייבות לעמוד בשורה של ניסויים, פרוטוקולים ותקני בטיחות. כמובן שהמערכת לא מושלמת, אבל זה זמן לתקנים הגנתיים יותר למוצרים טכנולוגיים. אנחנו לא יכולים להעלים השלכות בלתי צפויות, אבל אנחנו יכולים להשתפר במיתונן".

התמכרות לגלילה בפיד של פייסבוק | צילום: שאטרסטוק

פתרון אפשרי אחד שמציעה בוטסמן הוא הטלת אחריות על יזמים וראשי חברות. "במדיה חברתית מנכ"לי הפלטפורמות לא יכולים לשאת באחריות לתוכן שהמשתמשים בוחרים לפרסם, אבל הם צריכים להיות אחראים לכל תוכן שהאלגוריתמים שהם מפתחים ומפעילים מפיצים ומקדמים. רגולטורים לא יכולים להכריח אנשים להשתמש במוצר או שירות בצורה אחראית, אבל יזמים צריכים לשאת באחריות להחלטות העיצוביות שהם מקבלים, שיכולות להגן על או לפגוע במשתמשים ובחברה בכלל. ליזמים יש חובה להטמיע, לשדרג ולחשוב מחדש על מודלים עסקיים ומנגנונים מבניים כדי לצמצם השפעות שליליות".

לרסקין, שהקים ועומד היום בראש המרכז לטכנולוגיה אנושית, יש שלושה רעיונות למניעת השלכות לא צפויות. הראשון, רישיון קוד פתוח חדש שמגיע עם מקבילה טכנולוגית של השבועה ההיפוקרטית. לדבריו, מדובר במעין מגילת זכויות שתפרט מצבים או שימושים שיובילו לשלילת היתר השימוש בטכנולוגיה. הדבר יאפשר ליוצר הטכנולוגיה למנוע ניצול לרעה.

מדד אחריות פרוגרסיבי

שנית, הוא מציע להתאים את האחריות של היזמים להיקף השימוש בטכנולוגיה. "אם במוצר או בשירות שלך משתמשים פחות מ-10 אלף איש, אתה צריך להיות תחת רגולציה שונה מאשר אם בסיס המשתמשים שלך גדול מאוכלוסיית מדינה", הוא אמר. לפי רעיון זה, בכל פעם שמוצר מגיע לאבן דרך בהיקף המשתמשים שלו – 100 אלף, מיליון, מיליארד – הוא יצטרך לבקש רישיון חדש על בסיס ההשפעות החיוביות והשליליות של הטכנולוגיה שלו. "מדד אחריות פרוגרסיבי ייצר הרבה המצאות בקנה מידה קטן, אבל ברגע שהן גדולות מספיק כדי לגרום נזק יש אחריות שכרוכה בכך", הסביר רסקין. שלישית, רסקין מציע ליזמים ליצור "צוות אדום" כלשונו, או "צוות איפכא מסתברא", כלשוני. צוות זה יפעל באופן עצמאי מדירקטוריון החברה או המשקיעים, ותפקידו יהיה למפות את כל הדרכים שבהן ניתן להשתמש בטכנולוגיה לטוב ולרע.

בוטסמן מוסיפה שיזמים וממציאים צריכים להתרגל לשאול שאלות מסוג "מה קורה כש...". למשל "מה קורה כשההמצאה שלי משאירה אנשים מאחור?" "מה קורה כשמערכת שלי סובלת מהטיה לא מודעת?" או "מה קורה כשאינטרסים של המודל העסקי שלי לא תואמים את טובתם של הלקוחות?" "זיהוי והפחתת השלכות בלתי צפויות דורשים צניעות גדולה והשארת מקום לספק", כתבה בוטסמן. "היא דורשת מאתנו לקחת את הזמן הדרוש כדי לחקור מה אנחנו לא יודעים, ולחפש בצורה פעילה חלופות אפשריות. היא דורשת אמונה בעצמך וברעיון שלך, אבל פקפוק בידע העדכני שלך".

בסופו של דבר אין פתרונות קסם להשלכות בלתי צפויות. מה שצריך זה יזמים קצת פחות יהירים, מנכ"לים קצת פחות בטוחים בעצמם, מפתחים שמוכנים לעצור ולחשוב לעומק לפני שהם משחררים לעולם טכנולוגיה חדשה ולא מוכרת. הבעיה כאן היא שאנשים מהסוג הזה לא מגיעים בדרך כלל לעמדות השפעה. מארק צוקרברג הקים את פייסבוק כי הוא לא מסוג האנשים שעוצרים לחשוב; אם היה עושה זאת אולי היה זונח את כל הרעיון מלכתחילה כלא ישים.

רעיונות גדולים נולדים במוחות שלא רואים חסמים, לא רואים כשלים אפשריים, רק הצלחות, פריצות דרך ומהפכות. ולשנות אנשים כאלו, זו כבר משימה בלתי אפשרית.