גם במהירות העברת הפולסים (מהירות האור במחשבים, לעומת מהירות נמוכה בהרבה במוח אנושי) וגם בתדר העבודה (מיליארדי פולסים לשניה במחשב לעומת מאות פולסים בודדות ברשת עצבים ביולוגית) , בקיצור זה רק עניין של זמן עד שעוצמת המחשבים תשתווה לזו של מוח אנושי, צופים שזה יקרה תוך 10-15 השנים הקרובות.

יהיה מרוץ חימוש.

זה נחמד כשמשחקים בפילוסופיה. אבל אי אפשר ללכת נגד העובדות הפיסיקליות הבסיסיות. גן הוא קוד ביולוגי שמורכב מחומצות אמינו בדומה לקוד מחשב שמורכב מביטים. אפשר להשוות את מידת המורכבות של קוד ביולוגי והמהירות בה הוא מעבד מידע לעומת מה שיכול לעשות מחשב. ההגבלה בסופו של דבר נמצאת בחוקי מכניקת הקוואנטים. המציאות היא שהקוד הביולוגי מורכב ויעיל בכמה סדרי גודל ממה שמחשב יוכל אי פעם להיות. ופה בדיוק נמצאת התשובה האם מחשב יהיה מסוגל להיות כמו בעל חיים. והתשובה מה לעשות היא לא. חלק מהאנשים שהשתתפו בשאלון יודעים את התשובה אבל מסיבות של פופוליסטיות הם מעדיפים לתת לאנשים תשובה רומנטית ולא את התשובה האמיתית והמשעממת.

לא תיתכן אבולוציה של מכונות ולכן אין סכנה והכל שטויות

יש להתייחס כפי שמתייחסים לכל כלי אחר שברשות האדם. אני חושב שמחשבים חזקים בעתיד הלא כל כך רחוק כן יוכלו לדמות מוח אנושי, בעתיד היותר רחוק אפילו ביעילות. זה השלב הבא באבולוציה והגביע הקדוש אותו תרים אנשים לאורך כל ההיסטוריה - חיי נצח על גבי שבב. ייתכן כי נצליח בעזרת מחשבים כה חזקים לחיות לנצח אם בדחיפת הגוף האנושי לקצה היכולת ע"י טכנולוגיות חדישות לניהול וחידוש תאים ואם בהעתקת התודעה שלנו רגע לפני מיתה לתוך שבב. לגבי שאלת האויב, האם תודעה אחת או כמה ייגרמו נזק לאחרות (הגדרה של אויב היא רחבה מדי כדי להשיב בקצרה) לדעתי כן. האם ייגרם נזק לאדם כפי שהוא היום כתוצאה מקיום מחשבים כאלה סופר חזקים ? כנראה שלא.

אלוהים נתן לכול דבר עם מוח ובחלק מהמקרים גם בלי מוח לקרות.

לא מהמחשב צריך לדאוג, אלא מהשימוש שבני אדם יעשו בו. אין ספק שהטכנולוגיה הזאת כאן כדי להישאר. מי שחוקר את התחום מודע ליכולות המדהימות והתועלת העצומה שיכולה להיות מופקת מזה. אבל כיום כל אחד יכול לתעל זאת לטובת רווח או יתרון צבאי. מצד שני יש כאלה שיותר אופטימיים, שמעתי על פרויקט ונוס לאחרונה, והם מציגים חזון של עולם שמתנהל בעזרת המיחשוב החכם הזה, שבמקום לתפוס את מקום האדם נותן לו איכות חיים ורווחה.. משהו מאוד מיוחד

אלקים לא ייתן לזה לקרות...

ישנם אנשים שחושבים על הבעיות האלה די הרבה זמן, הנושא פשוט מתחיל להכנס לmainstream כיוון שנעשה קל יותר לדמיין את התרחישים האלה מאשר בשנות ה80 נניח, כשקבוצה מצומצת יחסית של מדעני מחשבים, מתמטיקאים, עתידנים וסופרי מד"ב היו היחידים שהתייחסו לעניין ברצינות.

גם בתרחיש האופטימי וגם בפסימי. לכשעצמי, אני גם מאמין שזה נראה כרגע אפשרי בעתיד לא יותר מדי רחוק ולכן *חייב* להיות מפוקח. ורק צריך לקוות שאנחנו נדע לפקח טוב על משהו שכחם מאיתנו לאין שיעור.

אין נשמה, אין שום דבר על טבעי בקוגניציה האנושית, אנשים הם רובוטים ביולוגיים שהתפתחו באופן טבעי בתהליך אבולוציוני, ובלתי נמנע שמחשבים יהיו הרבה יותר חכמים מאיתנו ובהחלט יתכן שיגרמו לפגיעה עצומה באנושות אפילו עד כדי הכחדת האנושות לחלוטין, אבל בטבע מי שהכי מתאים לסביבה שורד ולא מי שהכי חכם, ולכן אולי בכל זאת יש לאנושות סיכוי קטנטן להינצל...