אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר.
מצטערים, התוכנה החליטה שעדיף שתמות מהמחלה הזאת צילום: שאטרסטוק

דו"ח טכנולוגי

מצטערים, התוכנה החליטה שעדיף שתמות מהמחלה הזאת

אלגוריתמים חדשים של מערכת הבריאות האמריקאית מקצצים במענקים וטיפולים למבוטחים קשישים ונכים, מדוע רק סין וארה"ב ירוויחו ממהפיכת הבינה המלאכותית, למה פרסם צוקרברג התנצלויות דווקא בעיתונים ומה הקשר בין סטיבן סיגל ובלוקצ'יין

27.03.2018, 15:36 | יוסי גורביץ

האלגוריתם שיפקיר אתכם למוות  

זוכרים את הימים שבהם היינו צווחים ככרוכיה מול פקידה באיזה מוסד ממשלתי שמה שהיא אומרת לא סביר, לא הגיוני ולא אפשרי, והיא היתה מושכת בכתפיה ואומרת "זה המחשב אמר"? אז היום במקום "מחשב" אומרים "אלגוריתם"; רכיבי קוד הם עניין מסובך מאוד עבור האדם הסביר, שלא תמיד יודע כיצד הם פועלים ומשפיעים על חייו. לאחרונה גילו נכים וקשישים רבים בארצות הברית את טיב ההשפעה: האלגוריתם מנסה להרוג אותם.  

תעשיית הבריאות האמריקאית, גם כך אחד הגופים היותר טורפניים בעולם, החלה בשנים האחרונות באוטומציה של התהליכים שלה. האוכלוסיה האנושית חיה יותר מהצפוי וההטבות שמיועדות לה עדיין מבוססות על מודלים של תוחלת חיים קצרה יותר. אין יותר כסף, כי זה אומר להטיל מסים על תאגידים ועל עשירים, אז צריך לקצץ בהטבות. ואת זה אלגוריתמים עושים נהדר. אתה מכניס להם נתונים, והם קובעים בכמה יקוצץ הסיוע. עד למצב שבו לוקים בשיתוק מוחין צריכים לבחור בין ניקוי הבית ובין מגע חברתי.

התוכנה מעדיפה שלא נעזור לך, צילום: שאטרסטוק התוכנה מעדיפה שלא נעזור לך | צילום: שאטרסטוק התוכנה מעדיפה שלא נעזור לך, צילום: שאטרסטוק

ולחולים והנכים אין כתובת לתלונה; פעם היה לך עובד סוציאלי, עמוס, דרוס ומחוק, אבל עדיין זוכר למה הוא עושה את העבודה ועדיין נצמד לשאריות האמפתיה שלו. עכשיו הוא הוחלף על ידי תוכנה. האלגוריתם, כמובן, לא כתב את עצמו: הוא נכתב על ידי עובד הייטק. אבל כמו שעובד ההייטק שכותב את הקוד של פצצות חכמות לא רואה שהמטרות הן לעתים קרובות ילדים וחסרי מגן אחרים, כך גם כותב הקוד שמחסל את ההטבות של נכים לא רואה את הנכים. הוא רק כותב קוד. מרגע שהמריאו הרקטות, למי אכפת היכן הן נופלות? מצטער, זה בטיפול של מחלקה אחרת.

מי ירוויח מעליית הבינה המלאכותית? לא אנחנו

לדברי קאי-פו לי, נשיא גוגל סין לשעבר, יש מדינות שירוויחו הרבה מאוד מעליית יישומי האוטומציה והבינה המלאכותית. זו הרשימה שלו:

1. ארה"ב

2. סין

וזהו. לדבריו, מדינות עם אוכלוסיה גדולה, אבל ללא פיתוחי AI משלהן או חברות ענק מקומיות כמו גוגל, פייסבוק, אמזון או באידו - מיועדות לשמש כנקודות איסוף מידע. הן תספקנה לחברות שיושבות בסין וארה"ב את המידע שיאפשר לחברות הענק להיפטר מהעובדים שלהן ולהחליפם בתוכנות ורובוטים. אתם משתמשים הרבה בגוגל ופייסבוק? אין לכם אמזון מקומית שתנצל את זה? הכסף שפעם הלך לעובדים בכלכלה המקומית שלכם ילך למקום אחר.

שי ג שי ג'ינפינג ודונלד טראמפ | צילום: רויטרס שי ג

ללי אין פתרון לבעיה. הוא אומר שצריך להתחיל לחשוב על עבודה מחדש, לשלוח אנשים ליצור דברים שהם אוהבים. לא ברור, עם זאת, מאיפה יגיע הכסף – וגם אם יימצאו מקומות עבודה שאנשים אוהבים, לא ברור איך אפשר יהיה למנוע מבינה מלאכותית וחברות ענק להשמיד גם את מקומות העבודה האלה עבור עוד כמה זלוטס לאוליגרכיה של מנהלי חברות הענק.

ארצות הברית וסין נמצאות עכשיו בתחילתה של מלחמת סחר; טראמפ רוצה להטיל מכסי מגן על עשרות מיליארדים על יבוא מוצרי טכנולוגיה מסין, וראש ה-FCC שלו מזהיר משימוש במוצרים סיניים בתעשיית התקשורת האמריקאית. לכאורה החשש הוא מפגיעה בבטחון הלאומי; בפועל מדובר בהתגוששות על המקום הראשון בשוק עתידי של מכונות-על ותשתיות למכונות-על (רשתות דור 5).

במקביל, הודיע נשיא צרפת שאסור למדינה שלו להישאר מאחור והוא מתכוון לפתוח בקרוב ביוזמה אגרסיבית שאמורה להציב את צרפת במקום מוביל בתחום ה-AI. הוא הזהיר שצרפת לא זיהתה את המהפכות הטכנולוגיות הקודמות (עליית האינטרנט, המובייל והרובוטיקה התעשייתית) ושאסור לה לפגר גם בשדה הזה. מקרון הבין שמי שלא אוכל, ייאכל, והוא לא רוצה שצרפת תגמור כמו אפריקה או המזרח התיכון. 

ומה בישראל? ובכן, אצלנו יש הרבה סטארט-אפים שמפתחים יישומי AI וחולמים להירכש בידי חברה אמריקאית. נראה שכבר החלטנו באיזה צד של המשוואה ברצוננו לעמוד.

לא רק דרקונים ודמוגורגון

משחקים הם דרך מקובלת להנחלת מסרים חברתיים משחר ההיסטוריה; עוד ב-1,400 לפנה"ס השתמשו עמי דרום ומרכז אמריקה במשחקי כדור כחלק מפולחן דתי. כיום משמשים לכך גם משחקי וידאו, במיוחד כאלה שמנסים להציף מסרים טעונים - למשל This War of Mine שמציג את חייהם של אזרחים באזורי מלחמה, Papers Please שמדמה חיים תחת שלטון טוטליטרי ואחרים. המפתחים מנסים לגרום לקהל הרחב להזדהות כך עם מצבים בלתי אפשריים, ולגלות חמלה לפליטים ונדכאים.

עתה נראה שהטרנד הזה מתחיל לצאת מהמחשב בחזרה לשטח, דרך מנהג גיקי ותיק: משחקי תפקידים בעולם האמיתי (LARP). למשל, משחק שמדמה מחנה פליטים על גבול וויילס, לאחר שואה כלכלית שחולל הברקזיט באנגליה. הדמויות הן של פליטים ופקידים שמנהלים את המחנה, ושני הצדדים חווים זעזוע לא מבוטל מהדילמות המוסריות שמוצגות בפניהם.

פליטים סורים בירדן, צילום: ארגון ישראייד israAID פליטים סורים בירדן | צילום: ארגון ישראייד israAID פליטים סורים בירדן, צילום: ארגון ישראייד israAID

זה לא המשחק היחיד מסוגו: חאלט חיסאר, יוזמה פלסטינית-פינית, מדמה את החיים בשטחים תחת השלטון הישראלי ו-Just a Little Lovin מדמה את החיים בניו יורק בראשית ימי האיידס.

המטרה היא לגרום לאנשים לדמיין את האחר: ללכת כמה צעדים בנעליו. לחוש דברים ברמה הרגשית ולא רק ברמה האינטלקטואלית. פסיכולוגים טוענים שיש לחוויה כזו השפעה פסיכולוגית עצומה. לא קל לייצר אמפתיה בימינו, כך שיש לקוות שתפוצת הפעילויות הללו תצמח, כמו גם זו של משחקי המחשב האמורים.

קצרצרים

1. הגלגלים נופלים מהמכונית האוטונומית של אובר: כשבוע לאחר תאונה קטלנית באריזונה, ובעוד מושל המדינה אוסר על אובר לעשות נסיונות בחיי אזרחים נוספים, ביצע נהג אובר פנייה שגויה בסן פרנסיסקו ונתקע במורד גרם מדרגות שמיועד להולכי רגל. הנהג אמר לכלי תקשורת שה-GPS שלו הוביל אותו למקום, אף שהיה שילוט בולט למדי שהבהיר שזו לא דרך לכלי רכב. אף שהתקלה היא אנושית הפעם וקרתה אינספור פעמים בעבר לנהגים שלא קשורים לחברה, ספק אם זה עוזר למוניטין של אובר - והאירוע מאיר את העובדה שנהגי אובר נאלצים להשלים משמרות של 12 שעות.

אופס! אופס! אופס!

2. מארק צוקרברג פרסם השבוע מודעות ענק בשורה של עיתונים בבריטניה וארה"ב שבהן הביע נוסח מפותל של התנצלות. הוא רצה שיאמינו לו. עכשיו, מאליה עולה התהיה: חבר, יש לך גישה לשני מיליארד משתמשים. תקע להם את ההתנצלות בפיד. במקביל, הופיע צוקרברג בכמה תכניות טלוויזיה גדולות. למה? צלם את עצמך בווידאו, בלי שאלות מביכות, ושלח למשתמשים שלך. הסיבה היא שצוקרברג זקוק לסוג של מכובדות, לסוג של אמינות, ומה לעשות - פייסבוק לא משדרת אמינות או מכובדות. בשביל זה עדיין צריך את המדיה הקלאסית; צוקרברג רוצה כנראה להשפיע על מעצבי דעת קהל, ולכן פונה אליהם בכלים שהם מכבדים.

3. מה שמוביל אותנו לטום אנדרסון, אושיית רשת נשכחת. אנדרסון היה אחד המייסדים של מייספייס, הרשת החברתית המובילה קודם לפייסבוק. אתמול צייץ אנדרסון מחדש קריקטורה שבה הוא נקרא להציל את העולם על תקן אובי וואן קנובי, שהופיעה עם ההאשתג #deletefacebook. יש לציין שכאשר מכר אנדרסון את החברה לרופרט מרדוק, הוא לא טרח להגן על מידע המשתמשים ומרדוק מכר אחר כך את המידע הזה (החלק היחיד שעוד היה שווה משהו במייספייס) לתאגיד טיים. אולי אנחנו צריכים אביר אחר.

4. יש ICO בשם Bitcoiin (שימו לב ל-i הנוספת), שמופעל על ידי שני טיפוסים לא מוכרים ואחד סטיבן סיגל. כן, ההוא שגילם את הטבח בסרט "מצור ימי" ואת השוטר שמרביץ לאנשים בערימה מצהיבה של סרטים אחרים. אתמול הודיעו שני הטיפוסים הלא מוכרים שדרכם ודרכו של סיגל נפרדות, השמיעו "מיפ מיפ" עליז ונעלמו עם הכסף. כמה כסף? לא ברור. לטענתם הם גייסו 75 מיליון דולר. כעת למשקיעים ששמו את כספם על הונאה מובהקת (כל הרעיון של ה-i הנוסף הזה הוא לבלבל בין ההונאה ובין ביטקוין) אין עם מי לדבר יותר. היו שלום ותודה על הדגים.

5. הימים הם ימי סוף המלחמה הקרה, שנות השמונים המאוחרות, וגנרל ה-KGB  ולדימיר רובאנוב תלש את שערותיו. הוא זיהה סכנה שהבוסים המאובנים שלו לא היו מוכנים להתייחס אליה: לוחמת סייבר. רובאנוב כתב מזכר אחרי מזכר שבו ציין את היתרון המובהק של האמריקאים בטכנולוגיות מחשב, שלדבריו יכלו לשמש את האמריקאים בתקיפת התשתיות הסובייטיות ובמלחמת תעמולה. (התקפת תשתיות כזו אכן בוצעה, אם כי רובאנוב לא היה מודע לה – באמצע שנות ה-80 השמיד ה-CIA מזקקת נפט גדולה על ידי שליחת פריט תוכנה ששינה את ויסות הנפט והוביל לפיצוץ) עם פירוק ה-KGB ב-1991, הפך רובאנוב לחבר במועצת הבטחון של הקרמלין. פער הסייבר בין ארה"ב לרוסיה היה כה גדול בשנה האיומה של 1992, שבה רוסיה קרסה לסחר חליפין, שהרוסים ניסו נואשות לסגור אותו על ידי הצעה לאמנה שתאסור על שימוש בנשק סייבר - והאמריקאים לא היו מעוניינים. איך שגלגל מסתובב.

שיתוף בטוויטר שיתוף בוואטסאפ שיתוף בפייסבוק שיתוף במייל

תגיות