צילום: אי פי איי
לא רק סייבר: די בתמרור מלוכלך כדי לגרום לתאונת רכב אוטונומי
חוקרים מאונ' וושינגטון בחנו מערכות נהיגה אוטונומית וגילו כי 100% מהן טועות בזיהוי תמרורים בתנאי תאורה שונים, או אפילו אם הדביקו עליהם מדבקות. מה שנהג אנושי לא ירגיש בו, עלול להוביל לתאונה קטלנית בדור המכוניות הבא
לא צריך להיות האקר כדי לגרום למכונית אוטונומית לעשות תאונה; מחקר חדש של אוניברסיטת וושינגטון גילה שניתן להטעות מערכות בינה מלאכותית ברכב ע"י עיוות, זיוף ושינוי תמרורים ושלטים - כשדי בהדבקת סטיקרים על פניהם.
קראו עוד בכלכליסט
בניסוי שערכו החוקרים עולה תמונה מדאיגה לפיה מערכות הנהיגה האוטומטיות פגיעות ב-100% לשינויים ויזואלים במרחב - גם כשאלו מסתכמים בשינויים שיהיו שקופים לחלוטין עבור נהג אנושי. מעבר בין סוגי כבישים, כמות נתיבים, תאורה או לכלוך על השלטים הם רק חלק מהמצבים בהם יש להתחשב בעת נסיעה ועלולים לגרום לשגיאות הרות גורל.
החוקרים בדקו את המערכות באמצעות מדבקות שנראות כמו תמרור עצור או מדבקות מפוקסלות עם הכיתוב "אהבה" ו"שנאה" שהדפיסו במדפסת רגילה, והדביקו אותם על התמרורים המקוריים. כמו כן, תמרור "עצור" שעבור עין אנושית נראה כדהוי סווג באופן עקבי ע"י מערכות הנהיגה האוטונומית כתמרור הגבלת מהירות של 72 קמ"ש. בסך הכל, המערכות טעו בזיהוי התמרורים ב-74% מהמקרים, גם כשנבחנו בזוויות ומרחקים שונים.
לפי החוקרים, קל מדי לשבש במכוון את מערכות הנהיגה האוטונומית. במציאות בה חלק מיצרני הרכב נשענים על פרויקטים של קוד פתוח, מספיק לפענח כיצד להתל במערכת אחת כדי להשפיע על כלי רכב רבים ולסכן את נוסעיהם. הפתרון שמציעים החוקרים הוא הצלבת המידע שמערכות המכונית רואות בשטח עם מידע מאומת, ממאגרים כגון מפות הכבישים ותוכנות ניווט.
בתוך כך, הרגולטור בבריטניה לא מחכה למפתחות כלי הרכב האוטונומיים ופרסם הנחיות חדשות המחייבות את כל יצרני המכוניות למגן אותן מפני מתקפות האקרים. בבריטניה חוששים שכלי רכב אוטונומים יהיו יעד אטרקטיבי עבור פושעי סייבר, לביצוע מתקפות כופר, גניבת מכוניות או מידע אישי שנוגע לנהג.
הרגולטור החליט כי על היצרנים לצייד את המערכות שלהן בכלים שיאפשרו מחיקת נתונים מזהים אישיים מרחוק ולשמור על אבטחת המידע שבהן, כשהאחריות תוטל על דירקטוריון ייצרניות הרכב.
5 תגובות לכתיבת תגובה