דמיינו את האפוקליפסה: מה הדבר הכי גרוע שרובוט יכול לעשות

מי בחרב ומי ברובוט

ההנחה שלנו היא שהמהנדסים המטורפים שבונים עכשיו רובוטים בכל מיני מרתפים הם שוחרי טובת האנושות. הרי זה מה שעמק הסיליקון אומר לנו כל הזמן: אנחנו פה כדי לשפר את החיים שלכם.

כולם מכירים את המצב שבו מישהו מפתח משהו בכוונות טובות ומקבל פרנקנשטיין או עורך אודישן פרטי למבקר המדינה כדי לוודא שהכל תקין ואז חוטף דו"ח לפרצוף. אבל

מה יקרה אם מישהו יחליט לפתח רובוט זדוני במכוון?

זה לא בלתי סביר. כפי שאפשר לראות בהמשך, יש בעלי הון שכבר מתחילים לאיים על העובדים שרובוטים ייקחו להם את העבודה אם הם יתנהגו לא יפה. בעלי הון שהם גם בעלי זיכרון עשויים לזכור שעובדים מפוטרים עשויים להיות ממורמרים. לעתים הם שורפים את המועדון. לא כדאי שיהיה לנו איזה רובוט למצב כזה?

מחקר חדש עוסק בשאלה הזו בדיוק: למי יש אינטרס לבנות רובוט זדוני (להרבה מאד אנשים, כמו גם לנבלים הרגילים – תאגידים, צבאות וממשלות); ואיזה נזק יוכלו רובוטים כאלה לגרום (כל מה שרציתם בתוספת ערימה של דברים שכנראה לא חשבתם עליהם, מנזק כלכלי ועד להפצת פתוגנים שישמידו את המין האנושי או סתם ישתלטו על מאגרי נשק גרעיני).

וזה רק מה שחוקרים אנושיים יכלו לחשוב עליו. מה יקרה כשתבונה מלאכותית תתחיל אשכרה לחשוב בעצמה אי אפשר בכלל לדמיין. די ברור, עם זאת, שאם מלכתחילה לא יהיו לה גבולות אתיים זה סיפור שבהחלט יתכן לו סיום רע מאד.

כורה בור, בו יפול

אחד מסוגי ההונאה המקובלים בעמק הסיליקון הוא להבטיח לעובדים שלך מניות ברגע שהחברה תונפק, ואז לעשות תרגיל שמאפשר רק לך ולמקורביך למכור את המניות במסגרת ההנפקה הראשונית. אחר כך, ערך המניות צולל – ולעובדים אין טעם למכור את המניות, כי הן שוות פחות מדי. במסגרת הפיתוי הזה של "פעם תהיה עשיר גדול, עלינו", צריך להקפיד לא לדווח לעובדים כמה בעצם שוות המניות שלהם, אחרת יכול להתפתח מרד.

הנושא הזה מעסיק, מטבע הדברים, את העובדים. חלק מהם מתחיל עכשיו לגלות אוצר משפטי קטן: החוקים התאגידיים של דלאוור מאפשרים לבעלי מניות לדרוש מהחברה מידע רציף על שווי המניות.

עובדים עם אופציות הם בעלי מניות. המון חברות סטארט-אפ רושמות את עצמן בדלאוור, כי שם מיסי החברות כמעט לא קיימים והאנשים שאוהבים לומר לנו שהם פועלים למען המין האנושי אוהבים גם להתחמק מהחובה הבסיסית של תשלום מס אמת. יש סבירות מסוימת שחוקי המסים של דלאוור הם הסיבה העיקרית לקיומה של המדינה המיותרת הזו.

עכשיו, כמה עובדים גילו שלפעמים החוק עובד בשבילם. הם רק צריכים להראות שיש להם מניה אחת לפחות ואז לשלוח הצהרה שבה נאמר שהם רוצים לדעת מה מצב המניות כדי להעריך את שווי המניות שברשותם. ובום, מסך החשאיות של החברות נופל.

הידיעה הזו מגיעה בימים שבהם ערך חברות הסטארט-אפ צונח ויש סימנים לפקיעה איטית של בועת ההייטק. לא בבום, כמו לפני 15 שנה, אלא ביבבה ארוכה של יציאת האוויר מהבלון. נעדכן.

ראשית, לא לגרום נזק

אם אתם חשים בתופעות בישראל שמזכירות תופעות מזמנים אפלים באירופה, אתם לא לבד מסתבר. יש עליה מובהקת בסמכותניות (אוטוטריזם, בלעז) ברחבי העולם. זו תוצאה של משבר כלכלי מתמשך יחד עם משבר פליטים וקריסה אזורית במזרח התיכון. במערב, אנחנו רואים את זה בעליה של הימין הקיצוני (שימו לב למה שכמעט קרה באוסטריה) במקביל לעלייתה של מדינת המעקב. בשאר העולם זה בלשון המעטה בוטה יותר.

עיתונאים ביקורתיים ופעילים חברתיים מוצאים את עצמם תחת יותר ויותר מעקב או הטרדה של הרשויות או של ארגוני בריונים המסונפים אליהן. ואת הבעיה הזו מנסה לפתור האפליקציה Whistler, שנבנית בימים אלה.

היוצרים שלה הם הדיסידנט הסרבי סרדז'ה פופוביץ' וניקו סל, שיצר את אפליקציית המסרונים הבטוחים Wickr. המטרה שלה היא קודם כל לאפשר לפעילים תקשורת בטוחה, בין אם במדינתם בין אם מעבר לה, כמו גם יצירה מהירה של סרטונים והקלטות ואז הפצה מהירה ובטוחה שלהם. היא צפויה גם להכיל כפתור פאניקה, שמיועד להתריע על מעצר או על מעקב הדוק; כפתור הפאניקה גם ישמיד את התוכן שעל המכשיר, ויתעד את מיקומו של המשתמש, גם אם הוא יילקח לאתר "שחור." כמובן, במידה והמשטר יפריד בין הפעיל ובין המכשיר – פעולה סטנדרטית בכל מעצר היום – זה לא יהיה שימושי במיוחד.

האפליקציה צפויה להגיע קודם כל לאנדרואיד ואחר כך לאייפון, ויפה שעה אחת קודם. הבעיה המרכזית שלה: איך, מצד אחד, שומרים על תקשורת בטוחה ומצד שני מעבירים מידע לדברים כמו פייסבוק.

אופס, שודרגת

במיקרוסופט להוטים מאוד שתעברו להשתמש במערכת ההפעלה החדשה שלהם, ווינדוס 10. להוטים, אולי, טיפה יותר מדי: המון משתמשים שאין להם כוח לכאב ראש הזה ושהמערכת הנוכחית שלהם מבחינתם טובה מספיק מסרבים בעקביות להצעה לשדרג שמיקרוסופט מקפיצה להם מדי פעם. למיקרוסופט יש כבר ניסיון רע עם מערכת טובה-מספיק, חלונות XP, שהפכה למקבילה הדיגיטלית של פג'ו 404, אז היא עושה תרגיל מסריח: משתמשים מתלוננים שכאשר הם מקליקים על האיקס שאמור לסגור את החלונית שמיקרוסופט דוחפת להם, הם מגלים שהוא לא רק סוגר את החלון אלא – הפתעה - מתקין את ווינדוס 10.

 

במיקרוסופט טוענים בתגובה שההתרעה המדוברת היא על "שדרוג מומלץ" ולכן סגירת החלון אינה מבטלת את השדרוג, אלא מתזמנת אותו למועד מאוחר יתר. המסך אומנם כולל אפשרות לביטול השדרוג, אולם זה מופיע באמצע המסך, עם הכיתוב: change upgrade schedule or cancel scheduled upgrade.

קצרצרים

1. יש מיליארדר מיותר מהמקובל בשם פיטר תיל, ליברטריאן עם יותר מדי כסף שהתפרסם כשניסה לשכנע צעירים להפסיק את הלימודים שלהם ולעבור לאיזה סטארט-אפ. עכשיו הוא מתפרסם מזווית אפילו פחות מחמיאה. לתיל יש ונדטה ארוכת שנים נגד אתר גוקר, שאת הזרוע הטכנולוגית שלו, וואליוואג הזכור לטוב, הוא השווה בשעתו לאל קאעדה. עכשיו נטען שתיל מימן מאחורי הקלעים את תביעת הענק של האלק הוגן נגד גוקר. מיליארדר שמשתמש בכסף העודף שלו כדי לסתום את הפה לכלי תקשורת. יש להם קלאסה, לעשירי עמק הסיליקון.

2. יש ברנש בשם אד רנזי. הוא היה בעבר הבעלים של תאגיד תחליף המזון הידוע מק'דונלנדז. העובדים של התאגיד החלו להתאגד לאחרונה, והדרישה שלהם – שנתמכת על ידי פלגים שונים במפלגה הדמוקרטית – היא לשכר מינימום של 15 דולרים בשעה. רנזי הופיע בתכנית של ערוץ פוקס, שם הצהיר שאם אכן יהיה שכר מינימום בגובה הזה, לא תהיה לתעשיינים ברירה אלא להמיט אסון על המין האנושי ולפתח גזע רובוטים שיעבדו במקום בני אדם. בפעם הבאה שתעשיינים יטענו בפניכם שאם להם יהיה טוב גם לכם יהיה טוב, אל תשכחו שהם מוכנים למכור אתכם לרובוט הקרוב אם תדרשו מהם שכר הוגן.

 

3. גברבר כלשהו מניו זילנד צילם בחשאי אותו ואת חברתו הקטינה מקיימים יחסי מין. כשזו החליטה – בצדק מוחלט, כמסתבר – לזרוק את הזבל, הוא העלה את הסרטון לפייסבוק. הרשויות בניו זילנד ראו את ההתנהלות הזו בעין רעה, הוגש כתב אישום, ועכשיו הוא יישב בכלא במשך שנה. יצא בזול.

4. יו"ר גוגל, אריק שמידט, הודה שהוא משתמש באייפון, מוצר הדגל של החברה המתחרה. שמידט כבר נתפס עם בלקברי, לפני כשנתיים. עכשיו יש לו אייפון. לדבריו יש לו גם אנדרואיד, אבל מתקבל הרושם ששמידט לא מתלהב יותר מדי מאנדרואיד. מישהו מהיח"צ של גוגל צריך לתפוס אותו לשיחה צפופה על ערכי המותג.