אלון מאסק: אנשי גוגל עלולים לבנות רובוטים מרושעים בטעות

קצת קשה לנתח מה נקודת הזמן שבו נראה הומוניד דומה לאדם וסופר בינה מלאכותית הסיבה היא שכדי לחזות את העתיד אנו מסתכלים אחורה כדי להבין את קצב ההתפתחות ואנו יוצרים קו ישר משם לעתיד והצפיה שלנו שההתפתחות לכיוון העתיד יהיה קו לינארי מתי שזה כנראה יותר דומה לפארבולה שתופסת תאוצה, לא רק זה יקרה גם יתחילו שדרוגים גנטיים, כרגע במצבינו כל אחד יחשוב שזה מפלצתי, אבל בעתיד ללדת ילד לדוגמא טבעי של עבר שדרוג גנטי יהיה כמו התעללות הוא יוולד לעולם שבו הוא לא יוכל בכלל להתקרב לרמות של האנשים מסביבו העתיד הזה הוא לא כל כך רחוק והוא גם הולך יד ביד ביכולות המחשוב שמתפתחות, גם סופר בינה מלאכותית לדוגמא מערכת כזאת ששולטת במערך התגובה הצבאי כרגע כל אחד יגיד שזה מטורף, אבל אם המערכת של האויב תפותח כך ואתה תמשיך לסמוך על תגובה אנושית מול מערכת שמנתחת מידע פי 10000 יותר מהר מהאדם התוצאות יהיו קשות כך שברור מה יהיה ההחלטה והיא תהיה להסתמך על מערכות של סופר בינה מלאכותית אם איזה השגחה של האדם על המתווה הכללי, הבעיה כמובן שזה כמו לשבת על נמר ענק ועצום משאית פול טרילר שאמאבדת את הבלמים כל העוצמה שלה ממשיכה קדימה אבל פה מדובר בעוצמות עתידיות הרבה יותר גדולות ממשהו פיזי כמו היכולות החשיבה של האדם מול ממלכת החיי אתה כאילו צופה בחיות מלמעלה כמו תבונה על וכך עלולה להיות בינה מאלכותית מולינו שעלולות להשאיר אותנו באבק מאחור כבר כיום יש דברים שהמחשב שהוא עוד עלוב ביחס לאדם משאיר אותנו באבק בתחומים מאד צרים אבל אלו יתרחבו אם הזמן ויכסו את שלל היכולות האנושיות, אלון מסק צודק אבל מדובר בעוד כמה עשורים משהוא כמו בערך 50 שנה צריך לזכור שלא רק העוצמה ומהירות החישוב חשובים אלה גם האלגוריתם שרץ במערכת הזאת צריך להשתפר, המוזריות של המערכות האלו יתחילו לנבוע אם הזמן סוציופט אנושי יש בו עוד מרכיב אנושי של אכזריות שממנה הוא נהנה ופחד על עצמו, אלו דברים שאנו מכירם אבל פה יש בינה מלאכותית עוד יותר זרה מכל בעל חיים שאי פעם זחל שחה רץ או עף על פני כדור הארץ ובגלל זה צריך להיזהר כי מערכת שמתנהלת בעולם דינאמי היא דינאמית מיוסדה לומדת בעצמה ובגלל המורכבות האדירה יהיה קשה לצפות כל תקלה או תגובה אפשרית שעלולה לעלות ובמקרה של בינה מלאכותית זה יכול להיגמר לא טוב.

צריך למצוא דרכים אחרות לפתור את הבעיות הצפויות.

בני אדם.

היא כבר עכשיו נמצאת בכל מקום

מצטער אם אני לא קשור, פשוט לא קראתי את הכתבה אבל התלהבתי מהרעיון