אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר.
התנגשות ערכים: המכונית האוטונומית ניצבת בפני התלבטות מוסרית צילום: גוגל

מאקרו טכנולוגי

התנגשות ערכים: המכונית האוטונומית ניצבת בפני התלבטות מוסרית

מה יקרה כאשר המכונית האוטונומית תעמוד בפני תאונה ותצטרך להכריע כיצד לנהוג? מתכנתים מפתחים אלגוריתם בשם "אופטימיזציה של התנגשות" שימצא את האפשרות בה היא תסב הכי פחות נזק

10.06.2016, 16:07 | הגר רבט

1. כרוניקה של תאונה ידועה מראש. אי שם במרתפים האפלים של חברות הטכנולוגיה יושבים הוגי המכוניות האוטונומיות ומחברים את האלגוריתם שזכה לשם המאיים "אופטימיזציה של התנגשות". מחקרים מראים שמכוניות ללא נהג יצמצמו את מספר תאונות הדרכים, אבל ההנחה היא שבהינתן מכוניות תמיד יהיו תאונות. בהיעדר נהג, על המכונית להחליט בעצמה כיצד לנהוג בסיטואציה שבה בכל מקרה יהיו נפגעים, ולמצוא את האפשרות שתסב הכי פחות נזק.

ההחלטה אינה של הנהג ההחלטה אינה של הנהג ההחלטה אינה של הנהג

 

2. התלבטות מוסרית. יום שטוף שמש, המכונית האוטונומית משייטת בכבישי פאולו אלטו, ולפתע מתפרץ מישהו לכביש. כעת עומדות בפני המכונית שלוש אפשרויות: להמשיך ישר ולפגוע בהולך הרגל, לסטות שמאלה ולפגוע ברוכבת אופנוע או לסטות ימינה ולהתנגש חזיתית בחומת בטון ולגרום נזק ליושבים ברכב. ומה אם הולך הרגל הוא ילד? ואולי רוכב האופנוע אינו חובש קסדה? ההחלטה המלאכותית של המכונית הופכת להחלטה מוסרית.

3. הוראות שימוש. לכשיושלם האלגוריתם הרה הגורל הזה, סביר שיצרני המכוניות יידרשו לחשוף אותו לציבור, ואולי אפילו לצרף לכל כלי רכב "הוראות שימוש" שמפרטות את הקוד האתי שלו. להבדיל מנהג אנושי, שדרך קבלת ההחלטות שלו אינה תהליך לוגי לינארי לחלוטין גם בסיטואציות בעלות מרכיבים זהים, האלגוריתם שמאחורי המכונית יגיע תמיד לאותה החלטה.

המכונית של גוגל. חישוב לוגי המכונית של גוגל. חישוב לוגי המכונית של גוגל. חישוב לוגי

 

4. אוקסימורון. צרכני המכוניות העתידיים יעמדו בפני החלטה משלהם: אם האלגוריתם מוטה לגרימת נזק ליושבים במכונית, כיצד הדבר ישפיע על ההחלטה לרכוש רכב כזה? אם האלגוריתם משקלל את חבישת הקסדה של רוכבת האופנוע וימנע מלפגוע ברוכבת ללא קסדה, עולה החשש שרוכבות עלולות להעדיף שלא להשתמש בקסדה באזורים שבהם יש רוב למכוניות אוטונומיות.

5. הצרכנים יכריעו. במקרה הטוב יתעורר דיון ציבורי ער על האופטימיזציה של ההתנגשות. הקהל הרחב יהיה מודע להשלכות של קניית מכונית אוטונומית, ישמיע את קולו, ישפיע על היצרניות ובסוף אפילו יבצע בחירה מודעת ומושכלת בבואו להחליט אם לקנות רכב אוטונומי. במקרה הרע, גורלו של הקוד האתי המפורט והארוך יהיה דומה לזה של "תנאי השימוש" שמופיעים בכל התקנה של תוכנה, ושאיש מעולם לא טורח לקרוא.  
שיתוף בטוויטר שיתוף בוואטסאפ שיתוף בפייסבוק שיתוף במייל

תגיות

8 תגובות לכתיבת תגובה לכתיבת תגובה

7.
הנושא עצמו הוא לא נאיבי כי הוא נושא
הנושא עצמו הוא לא נאיבי כי הוא נושא שמעולה בכל אמצעי התקשורת ניתן לקבל בסבירות את מה שהעלתה שבסוף המדינה תתערב ותחליט מהם הקודים האתים שממנו יגזר האלגוריתם שהחברות יכתבו עבור הרכב למצבי קיצון שיש בהם אלמנטים אתיים (למרת שעד כה אין חקיקה כזאת והשאלות האלו מתבצעות בתוך החברות איפה שהם כן יכולות לזהות מצב מסוים וליצור התנהגות רכב שיגיב בהתאם להחלטה שנכתבה מראש) כמובן שזה מאד יקל על החברה שלא תצטרך להחליט בעצמה מהם הקודים האתים וכך היא בעצם תהיה יותר מוגנת ע"י מערכת החוקים האלו אם המדינה לא תתערב אז אחרי כמה משפטים ותקדימים הם אלו שיובילו את החברות להתישר לפי אותם תקדימים משפטים, בכל מקרה כמות הנושאים האתים הם יותר יותר רחבים מהכתבה והם מעלים שאלות שעד היום היו בדיונים אין סופים של פילוספים ועכשיו צרכים לקבל החלטה אתית בעולם המציאותי האנושי שעולה רק בגלל היכולת של הרכב האוטמטי העתידי לאבחן מצבים במהירות ודיקנות שאדם לעולם לא יוכל לעמוד בהם יש משהו מענין שמערכת רובוטית מכריחה את האדם לקבל החלטות אתיות שעד כיום הוא יכל להתפלסף עליהם מאות שנים.
Quill  |  11.06.16
6.
הבעיה הגדולה שהמכונית תפעל בהתאם לכללים. אני ואתה
הבעיה הגדולה שהמכונית תפעל בהתאם לכללים. אני ואתה יודעים "להגמיש" את הכללים כדי לסייע בזרימת תנועה. למשל, לנסוע קצת יותר מהר מהמותר בשטח פתוח, או לחצות קו לבן אם זה נדרש כדי לעקוף אוטובוס. מכונית שפועלת רק על פי הכללים תביא בעיקר להאטת התנועה וליצירת פקקים. זאת ועוד, מי יתכנת כל הזמן את המכונית על הכללים (למשל, הגבלת מהירות), איך היא תתכנן את המסלול שלה תימנע מפקקים וכו'. יש בכל זאת יתרון לאינטואיציה האנושית על אלגוריתם מתוכנת.
Elephant  |  11.06.16
5.
כתבה קצת נאיבית. בסוף מי שבאמת יחליט יהיה
כתבה קצת נאיבית. בסוף מי שבאמת יחליט יהיה שליחי הציבור - דהינו הפוליטיקאים = חברי הפרלמנט = במקרה שלנו חברי הכנסת. קצת נאיבי לחשוב שיתנו ליצרניות להחליט על האלגוריתם. התהליך יהיה שהפרלמנט יקבע חוק ותו תקן לאלגוריתם הזה. היצרניות יהיו חייבות לעמוד בתקן הזה. ויהיו מכונים שתפקידם יהיה לוודא שהמכונית עומדת בדרישות התקן. לא מן הנמנע שאותה מכונית תתנהג שונה במדינות שונות בהתאם לתקן שיחוקק בכל מדינה. למשל בהודו התקן ידרוש הגנהת יתר על פרות המתפרצות לכביש
Strawberry  |  11.06.16
4.
בכל מקרה עדיף מכונית אוטומטית שאפשר לאמן עוד
בכל מקרה עדיף מכונית אוטומטית שאפשר לאמן עוד ועוד ושמהירות התגובה שלה מיידית מאשר נהג אנושי שלוקח לו שניה ומעלה להגיב ושמי יודע כמה נסיון יש לו על הכביש. עוד בימי חיינו תאונות דרכים יפסיקו להיות הגורם מס׳ 1 למוות בעולם המערבי. זה מרגש! 
Pin  |  10.06.16
לכל התגובות