אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר.
"חייבים לעצור את הנשק הרובוטי - זהו כלי אידיאלי לג'נוסייד"

"חייבים לעצור את הנשק הרובוטי - זהו כלי אידיאלי לג'נוסייד"

כך נטען במכתב פתוח שפרסמו סטיבן הוקינג, מייסד אפל סטיב ווזניאק, אלון מאסק ומאות מאות מדענים ואישי הייטק - ומתאר את סכנת השימוש במכונות מלחמה אוטונומיות. לטענת הכותבים, אינטליגנציה מלאכותית בשדה הקרב תעזור לטרוריסטים ודיקטטורים ותוליד מירוץ חימוש מסוכן

28.07.2015, 11:56 | עומר כביר
"העולם עלול להיכנס למירוץ חימוש בכלי נשק מבוססי בינה מלאכותית, שיכולים להגיע בקלות לידיהם של טרוריסטים, דיקטטורים ושרי מלחמה ולגרום לנזק גלובלי עצום" -כך מזהירים מאות ממדעני המחשב, אנשי הטכנולוגיה והמדע ואנשי התרבות המובילים בעולם, ובראשם דמויות כמו הפיזיקאי סטיבן הוקינג, מייסד אפל סטיב ווזניאק והיזם אלון מאסק, במכתב פתוח שפרסמו אמש.

קראו עוד בכלכליסט

המכתב הוצג לקראת הכנס השנתי הבינלאומי לאינטלגנציה מלאכותית (IJCAI), שנפתח היום בבואנוס-איירס. “כלי נשק אוטונומיים יכולים לבחור ולפגוע במטרות ללא התערבות בני אדם", נכתב. “בינה מלאכותית הגיע לשלב שבו שימוש במערכות כאלו, דוגמת מסוקים שיכולים לחפש ולהשמיד אנשים לפי מדדים שנקבעו מראש, יהיה ישים בתוך שנים, לא עשורים".

מל"ט הפרדטור, כלי תקיפה בעל יכולת פעולה אוטונומית חלקית, צילום: אם סי טי מל"ט הפרדטור, כלי תקיפה בעל יכולת פעולה אוטונומית חלקית | צילום: אם סי טי מל"ט הפרדטור, כלי תקיפה בעל יכולת פעולה אוטונומית חלקית, צילום: אם סי טי

לפי המכתב, כלי נשק אוטונומיים יהוו את מהפכת הלוחמה השלישית - אחרי אבק שריפה ונשק גרעיני. “השאלה המרכזית שניצבת היום בפני האנושות היא האם לפתוח במירוץ חימוש גלובלי של בינה מלאכותית או למנוע אותו. אם אחת מהמעצמות הצבאיות תקדם פיתוח כלי נשק כאלו, מירוץ החימוש יהיה בלתי נמנע והתוצאה הסופית ברורה: כלי נשק אוטונומיים יהיו הקלשניקובים של מחר. בניגוד לנשק גרעיני, הם לא דורשים חומרים יקרים או קשים להשגה, והם יהיו נפוצים וזולים לייצור".

וכשזה יקרה, מזהירים החותמים, דרכם של כלי נשק כאלו לשוק השחור תהיה קצרה במיוחד. “משם הם יכולים להגיע בקלות לידיהם של טרוריסטים, דיקטטורות שרוצות להדק את שליטתן באוכלוסייה, שרי מלחמה שרוצים לבצע טיהור אתני ועוד. כלי נשק אוטונומיים הם כלי אידאלי למשימות כמו התנקשות, ערעור יציבותן של מדינות, דיכוי אוכלוסייה והריגה בררנית של קבוצה אתנית מסוימת".

סטיבן הוקינג, מהחותמים על המכתב, צילום: עמית שאבי סטיבן הוקינג, מהחותמים על המכתב | צילום: עמית שאבי סטיבן הוקינג, מהחותמים על המכתב, צילום: עמית שאבי

"אנחנו מאמינים שמירוץ חימוש מסוג זה לא יהיה לטובת האנושות בדיוק כמו שמרבית הכימאים והביולוגים לא מעוניינים לבנות נשק כימי או ביולוגי, כך מרבית חוקרי הבינה המלאכותית לא מבקשים לבנות כלי נשק מבוססי בינה מלאכותית - ולא רוצים שאחרים ישחירו את שדה פעילותם בעשותם כן דבר שעלול לעורר זעם ציבורי נגד בינה מלאכותית ולמנוע הטבות אפשריות שלה. יש לעצור את כניסתו של העולם למירוץ חימוש בכלי נשק מבוססי בינה מלאכותית ולבסס איסור על שימוש בכלי נשק אוטונומיים שלא נמצאים בשליטת בני אדם".

מי אמור לטפל בבעיה?

המכתב מציג תחזית שחורה ועגומה, אך לא בלתי-מציאותית, וכבר הספיק לעורר הד ציבורי משמעותי הודות למספר וזהות החותמים עליו. אלו כוללים, לצד הוקינג, ווזניאק ומאסק, גם כמה מהחוקרים המובילים בעולם בתחום הרובוטיקה והבינה המלאכותית, ממוסדות מחקר בעלי שם עולמי כמו ברקלי, הארווארד, MIT וסטנפורד. כמו כן, חתומים עליו חוקרים בולטים בחברות טכנולוגיה כמו מנהל חטיבת המחקר של מיקרוסופט אריק הורוביץ, מנהל המחקר של גוגל פיטר נורביג, חוקרי בינה מלאכותית מפייסבוק, טוויטר ועוד. לצדם חתומים על המכתב גם חוקרים ומובילי דעת קהל בתחומים אחרים, דוגמת הבלשן והוגה הדעות פרופ' נועם חומסקי, חתן פרס פרופ' פרנק ווילצ'ק, וכן פילוסופים, משפטנים, פעילי זכויות אדם, כלכלנים ועוד.

עם זאת, המכתב לא מופנה לגורם ספציפי ולא כולל הצעות מיידיות לפעולה (למשל, כינוס ועידה בנושא של המעצמות הגדולות), ולא ברור איזו השפעה ארוכת טווח תהיה לו בסוגיה המדוברת, אם בכלל.

תגיות

10 תגובות לכתיבת תגובה לכתיבת תגובה

6.
נקווה שרדיפת הבצע הישראלית, לא תגרום ליצוא ידע בטחוני בתחום
ישראל היא בין המובילות בתחום ולכן צריכה לשמור את הידע לעצמה. כמו שנכתב בכתבה, יש סיכוי גדול שידע כזה יזלוג גם לאירגוני טרור. וחייבים למנוע זאת בכל מחיר. ועפ"י ניסיון העבר, בישראל רואים רק את סימני הדולר בעיניים. מכרנו מל"טים לרוסים, שבונים את הכור הגרעיני לאירן וסוריה. וגם מחמשים אותם מכף רגל ועד ראש. ולא רק זאת, היום הם כבר הינדסו לאחור את כלי הטיס שלנו ומוכרים בעצמם. אנחנו גם מוכרים לסינים, שגם להם אין בעיה לחמש את אויבינו. וגם להם אין בעיה לפענח טכנולוגיות חדשות, שמגיעות לידיהם. ובמקרה של נשק כל כך מתקדם ומסוכן, צריך לשקול אפילו אם להעביר את הידע לארה"ב, שכידוע מחמשת גם מדינות כמו מצרים, ירדן וסעודיה. וזאת כדי לשמר את מאזן האימה בין הצדדים. הם מתעלמים מהשלטון הרעוע באותן מדינות, שיכול להתהפך כל רגע. ושאף אחד לא יודע מי ישלוט בהם מחר.
שראל  |  30.07.15
לכל התגובות