השקעה של אלון מאסק תממן פיתוח מוסר אצל מחשבים ורובוטים
בעוד מומחי טכנולוגיה מזהירים מפני סכנות האינטליגנציה המלאכותית, השקיע היזם 10 מיליון דולר במוסד מחקר שיממן 37 פרויקטים שונים בתחום - שנועדו לפתח מגבלות מוסריות במוחות סינתטיים
קראו עוד בכלכליסט
ב-FLI ערים לסמיכות שבין פרסום הזוכים במענקים שלהן לבין עלייתו למסכים של הסרט העדכני בסדרת שליחות קטלנית, ומדגישים את החשיבות שבהפרדה בין עובדה לבדיון.
“הסכנה בתרחיש של שליחות קטלנית היא לא שהוא יתממש, אלא שהוא מסיח את דעתנו מהנושאים האמיתיים שרלוונטיים לבינה מלאכותית", אמר נשיא המכון, מקס טגמרק. “אנחנו נשארים ממוקדים ו-37 הצוותים שזכו למענקים יעזרו לפתור בעיות אמיתיות".
רוח חדשה בתחום ה-AI
אחד ממקבלי המענקים, טום דיטריך מהאיגוד לקידום בינה מלאכותית (Association for the Advancement of Artificial Intelligence), הסביר איך הפרויקט שלו, שמפתח שיטות אבחון עצמי למערכות בינה מלאכותית לצורך התמודדות עם מצבים לא מוכרים, שובר את התבנית שמקובלת במחקר: “בימים הראשונים, מחקר הבינה המלאכותית התמקד במשתנים ידועים באמצעות התמודדות עם בעיות כמו משחק שחמט או תכנון עולם קוביות, שבהן כל המשתנים היו ידועים במדויק".
"החל משנות ה-80 של המאה הקודמת, מחקר הבינה המלאכותית התמקד במשתנים שתכונותיהם אינן ידועות, באמצעות שימוש בהתפלגות כדי לגלות ולמדוד את הסבירות של חלופות אפשריות. המענק הנוכחי יאפשר לנו לקדם מחקר שבו גם המשתנים עצמם אינם ידועים: איך מערכת בינה מלאכותית יכולה לפעול בצורה זהירה ושמרנית בעולם שמאוכלס במשנתים שאינם ידועים, היבטים שמעצבי המערכת לא צפו מלכתחילה?”
לא התפרסמו תגובות לכתיבת תגובה