קוד לרצח: איך נבטיח שרובוט קרבי יזהה פקודה בלתי חוקית בעליל?

דו"ח טכנולוגי

קוד לרצח: איך נבטיח שרובוט קרבי יזהה פקודה בלתי חוקית בעליל?

מומחה אתיקה מסביר כיצד ניתן להגדיר לרובוטים צבאיים מתי לסרב פקודה, מה יש למומחי התפתחות ילדים נגד אפליקציית הקטינים של פייסבוק, בריטניה מתחילה להטיל קנסות על מחדלי סייבר ולמה אתם לא רוצים מטה של אמזון בעיר שלכם

30.01.2018, 15:37 | יוסי גורביץ
איך קוד מסרב פקודה?

בסוף שנות השמונים הפציץ סדאם חוסיין את העיירה הכורדית חלבג'ה בכמות גדולה של גז עצבים וגז חרדל, והרג כך אלפי אנשים. היה זה מעשה לא רציונלי בעליל (ולא רק בשל הצד המוסרי הברור): קילו לקילו, חומר נפץ סטנדרטי הורג יותר אנשים מאשר גז, זול יותר לאחסון והפעלה, לא מייצר בלאגן פוליטי ויכול להשיג את אותם יעדי רצח מהר יותר. אז למה בחר העריץ העיראקי דווקא בו? משום שזה נשק טרור. הוא מטיל אימה הרבה יותר מאשר סתם חומר נפץ. לא סתם הוא אסור: אנחנו מפחדים יותר ממה שהורג אותנו מבפנים, מה שגורם לגוף לפעול נגדנו.

בימים אלה מפתחים שלל צבאות בשקדנות את נשק הטרור הבא: רובוט-רוצח. כבר יש כלי נשק רובוטיים בעולם, אך הם אוטונומיים למחצה ולא מבצעים מתקפות בעצמם. טכנית, גם מוקש הוא נשק אוטונמי, אבל אנחנו מדברים על אוטונומיה ברמה אחרת לגמרי: נשק שיכול להחליט את מי להרוג ומתי. 

איך יוכל הרובוט לסרב פקודה?, צילום: Nerdist איך יוכל הרובוט לסרב פקודה? | צילום: Nerdist איך יוכל הרובוט לסרב פקודה?, צילום: Nerdist

ומכאן אלמנט הטרור: מכונה שהורגת אנשים על דעת עצמה. מכונה שלא מסוגלת לחוש כאב אבל גורמת כאב. מכונה שתהרוג אותך בקור רוח, ללא מחשבה שניה, ללא היסוס, ללא שביב הרחמים שמסוגל לעצור גם לוחם שש לקרב, שלרגע אחד ראה ילד שמזכיר לו קרוב משפחה. אבל לצד היתרון המבצעי, רובוט רוצח זוכה ביתרון נוסף, משפטי: נשק הטרור הזה יאפשר למפעילים שלו לחמוק מדין.

משפטנים עוסקים בקדחתנות בנושא הרובוטים הקטלניים כבר עשור. הם טוענים שבעוד שביחס למשפט המלחמה הסטנדרטי, שאלת האחריות היא פשוטה למדי. באמת? כמה פשוטה? מי נושא באחריות למקרה בו רובוט רוצח חיסל את הקורבן הלא נכון? המתכנת? המפקד? הרובוט עצמו?

האתיקן מייקל ג'יי רובילאר מציג פיתרון שמפשט קצת את העניין: מי אחראי על הרובוטים? אנחנו. השאלה היא פשוטה: ניקח את הקוד שעל פיו פועל הרובוט, ונשאל מה היה קורה אם חיילים בשר ודם היו פועלים על פי הקוד הזה, ללא סטיה. האם הוא עומד בדיני המלחמה או לא? עיזבו עכשיו את השאלה האם הפקודה מבוצעת על ידי בשר ודם או מתכת וסיליקון. האם הקוד, הפקודה, חוקית או לא? האם הקוד הזה מאפשר לרובוט להבחין בין מטרות מותרות ואסורות?

בסופו של דבר, אומר רובילאר, הרובוט מבצע את מה שמוסדות אנושיים רוצים שיבצע. אם גנרלים ושרים רוצים רובוטים שיבצעו פשעי מלחמה, והציבור מסכים לכך בשתיקה, אז זה מה שיקרה. אי אפשר להפיל את התיק על מכונות. אנחנו אלה שבונים אותן. האחריות היא עלינו וכדאי שנלמד לשאת בה.

התרחקי מהילדים, עכשיו ומהר

פייסבוק היא מכונת התמכרות וזה לא סוד; היא מיועדת למכר אותנו לשימוש בה ובכירי המהנדסים והמשקיעים שלה כבר הודו בכך. היא עושה את הכסף מניצול חולשות אנושיות: הצורך בהכרה מצד אחרים, הפחד להשאר לבד. והגאונות שלה היא שבכך שיש לה מספר עצום של משתמשים, היא מסוגלת בקלות להקרין את התחושה שאם לא תשתתף במרדף אחר הלייקים, אתה חסר ערך.

וכמו כל פושר, גם פייסבוק צריכה כמה שיותר לקוחות, ורצוי צעירים כמה שיותר. זו הסיבה שהיא השיקה לאחרונה אפליקציית מסנג'ר לקטינים. כמובן, מחלקת היח"צ שלה מיהרה להודיע שלהורים תהיה שליטה מלאה וכולי. אבל העקרון נשאר אותו העקרון ואם מישהו חושב שהורים מסוגלים לשבת ולנהל את חיי המדיה החברתית של הילדים שלהם וגם לתפקד אחר כך, הוא טועה ומטעה. שר הבריאות של בריטניה (כן, להם יש כזה) קרא לפייסבוק לשמור מרחק מהילדים שלו.

פייסבוק, עיזבי את הילדים, צילום: שאטרסטוק פייסבוק, עיזבי את הילדים | צילום: שאטרסטוק פייסבוק, עיזבי את הילדים, צילום: שאטרסטוק

עכשיו מצטרפים אליו יותר מ-110 מומחי התפתחות של ילדים, והם קוראים לפייסבוק לחסל את המוצר. הם מציינים את כל מה שאנחנו כבר יודעים: שאין לנו מידע על מה שמדיה חברתית עושה להתפתחות מנטלית של ילדים, ושהרעיון לחבר ילדי גן למוצרים כאלה הוא פשוט איום ונורא. הדבר האחרון שהם צריכים, אומרים המומחים, הוא תמריץ להעביר את החיים שלהם לרשת.

הבעיה פה, כמובן, היא בהנחה שלפייסבוק יש מצפון או אחריות חברתית; זו חברה מסחרית ולא אכפת לה, אלא אם בעלי המניות יתרגזו או שהרגולטור יטיל קנס עצום. סביר להניח שבעוד כמה שנים, יצא המהנדס של פייסבוק לילדים ויתוודה שהמטרה היתה להרגיל את הילדים לשימוש באפליקציה כדי שהם פשוט יזרמו לאפליקציה הכללית בגיל 13, ולהרגיל אותם לחלוק כמה שיותר מידע עם פייסבוק. הוא יכה אז על חטא, יאמר שהוא היה צעיר וטיפש ונזקק לכסף. לנו אין את התירוץ הזה, אנחנו יודעים מהי פייסבוק - והגיע הזמן להגביל את פעולתה.

להצמיח עמוד שדרה

אמזון מתכננת לבנות מטה שני בארה"ב. בהתאם, כל עיר שמכבדת את עצמה היתה צריכה לומר לאמזון "וואלה, את צריכה מטה. מה יוצא לנו מזה?" - אבל המציאות עובדת אחרת; מאות ערים מיהרו לשלוח הזמנות מתרפסות לאמזון לבוא לגור אצלן, יחד עם פירוט מלא של מה שהעיר יכולה להציע - כשהפריט החשוב ביותר הוא אילו הטבות מס תקבל החברה.

השם המדויק ל"הטבות מס" הוא "קיצוץ שירותים": העיר מוכנה לוותר על כסף שמגיע לה. הכסף שלא נכנס לקופה שלה, הולך לקופה של אמזון. לעיר עדיין אין כסף, ועכשיו היא גם צריכה לטפל בתאגיד ענק שצריך שירותים. המשמעות: השירותים לכל שאר העיר יקוצצו, או ששאר התושבים יצטרכו לשלם יותר מסים. זה דפוק להדהים, אבל ככה זה בקפיטליזם המאוחר.

עיצוב מטה אמזון, צילום: nbbj.com עיצוב מטה אמזון | צילום: nbbj.com עיצוב מטה אמזון, צילום: nbbj.com

רק עיר אחת, כמובן, תיבחר, אבל מאות כבר שלחו את הפרטים שלהן. בפעם הבאה שאמזון תרצה לבנות מחסן או מתקן גדול, היא לא תצטרך להשקיע יותר מדי במחקר: מאות ערים כבר הסבירו בפרוטרוט מה היתרונות שלהן. כבונוס, אמזון גם תדע מראש כמה העיר מוכנה לתת לה. אמנם, לא על מטה, אבל היא יודעת מה הגבולות שלה. זה יהיה הקו שממנו יתחיל המשא ומתן.

ערים חשות שהן צריכות להיות מעורבות במכירה פומבית כזו של עצמן משום שאם הן לא ישתתפו, הן יפסידו לערים אחרות. הגיע הזמן להוציא את הסוג הזה של מזימה אל מחוץ לחוק. אמזון ממילא נשענת על סעד ציבורי גם כך - חלק ניכר מהעובדים שלה מקבלים השלמות הכנסה ותלושי מזון. הציבור משלם, וג'ף בזוס מתעשר.

קצרצרים

1. לממשלת בריטניה, ככל הנראה, נמאס מהתואר הלא מחמיא של אלופת העולם באובדן מידע רגיש, ולאחרונה היא הודיעה שחברות בריטיות שיסבלו מפריצות מידע ויתברר שהגנת המידע שלהן לא היתה ראויה, יהיו צפויות לקנס של עד 17 מיליון ליש"ט. התשתיות הרלוונטיות הן תשתיות הבריאות (מוקד קבוע לדליפות), האנרגיה, התחבורה והתשתיות הדיגיטליות. הקנס, עם זאת, יהיה צעד אחרון ורק לאחר שרגולטור קבע שהחברה נכשלה קשות. כלומר, יהיה די זמן למנהלים הבכירים לקשור את עצמם למצנח הזהב ולהתרחק מגרוטאת החברה הצוללת.

פרצו אליך? באשמתך? שלם קנס, צילום: Global Digital Citizen Foundation פרצו אליך? באשמתך? שלם קנס | צילום: Global Digital Citizen Foundation פרצו אליך? באשמתך? שלם קנס, צילום: Global Digital Citizen Foundation

2. משתמש בריטי של אובר גילה שהאקרים רוסים פרצו לחשבון שלו ויצאו לסיבוב נסיעות במוסקווה על חשבון הברון, ותקעו אותו עם חשבון של 229 ליש"ט. הלקוח פנה לבנק שלו וביקש לערער על החיוב, משום שכלל לא היה ברוסיה באותה העת. אובר נאלצה להודות שהחשבון של הלקוח נפרץ, ומיהרה להעניק לו חשבון זכות של 16,000 רובל, מטבע שאינו שימושי במיוחד בבריטניה. רק לאחר מאבק נמרץ וקצת פרסום בתקשורת העוינת, התרצתה החברה והעמידה לרשותו זיכוי בליש"ט. נו, באמת, אובר; כבר נפטרתם מקלאניק, מה התירוץ שלכם עכשיו?

3. ממשל טראמפ מיהר להבהיר אתמול (ב') שבניגוד למסמכים שדלפו מהמועצה לבטחון לאומי אין לו כל כוונה לבנות בעצמו רשת 5G בארה"ב ולשלוט בה. ההצעה המקורית קראה לממשל לבצע בפועל הלאמה של רשת ה-5G, שעודנה בחיתוליה. הסיבה: חשש לא ברור מכך ששבבים סינים זדוניים ישתלטו עליה. ה-FCC מיהרה להודיע על התנגדותה לתכנית. היא נשארת כסימן מובהק לכך שהממשל הזה אחוז פחד מטכנולוגיה סינית.

4. אלון מאסק הודיע לעולם שהוא מציע לו לרכוש להביור, והעולם התייצב ודרש שייקח ממנו כבר את הכסף. חברת הכריה של מאסק, Boring, מכרה 10,000 להביורים לציבור והלקוחות יקבלו את הצעצוע שלהם במרץ הקרוב. יש לציין שהשם "להביור" הוא טיפה מוגזם: מדובר במבער שאורך הלהבה שלו הוא לא יותר מ-25 ס"מ, משום שאחרת, מאסק יסתבך עם הרגולטורים. כאן טמונה הגאונות שלן: למכור לאנשים מוצר נחות בשם מטעה (כמו "הטייס האוטומטי" של טסלה). על כל פנים, תשמחו לדעת שגם אם מאסק היה מוכר להמונים להביור של ממש, לא היתה שום בעיה למכור אותו ב-48 מהמדינות של ארה"ב. שימוש בו - להבדיל מהחזקה - מצריך עם זאת רשיון. רק באמריקה.
שיתוף בטוויטר שיתוף בוואטסאפ שיתוף בפייסבוק שיתוף במייל

תגיות