אנשים קצת יותר מעודכנים בנושא מכם, כמו סטיבן הוקינג, ביל גייטס, ואילון מאסק כ"כ מוטרדים מההיתפתחויות בנושא, שהם הקימו עכשיו קרן במיליארד דולר ע"מ לנטר ולקבוע סטנדרטים בנושא המורכב הזה. אינטלגנציה מלאכותית הוגדרה כ"ההמצאה האחרונה של המין האנושי" לטוב ולרע.

זה בדיוק כמו קבוצת אנשים שיוצאת מתל-אביב ונוסעת דרומה, ובדרך הם מנסים להבין באיזה מסעדה בחיפה הם יאכלו צהריים. אין אינטליגנציה מלאכותית וגם לא תהיה בקרוב, מפני שאף אחד לא יודע עדיין מה זה בכלל אינטליגנציה וכולם עוסקים רק במערכות מומחה.

המחשבים לעולם לא יוכלו ליצור משהו יש מאין, להמציא, לכתוב שיר או לצייר ציור מעורר השארה. אבל כשמסתכלים על זה, רוב האנושות היא בדיוק כזו, לא יוצרת יש מאין, לא ממציאה כלום, לא כותבת שיר או מציירת ציור מעורר השראה. רוב האנושות היום הולכת לכיוון של קיצוניוץ דתית שהיא סוג של,, חגביות? בלי בכלל להיות מגומדת על ידי מחשבים, סתם כי היא מאבדת את עצמה לדת.

אם מזינים את כל החוקים ואת כל המידע הדרוש לתוך אוטומט, הוא יקבל החלטות "נכונות". כאשר "נכונות" = פלט לפי החוקים המוזנים לאוטומט (תוכנה, חומרה וכולי). אם היתה טעות בתכנון או מימוש לש הקוד או המעגל, אזי המכונה לא טועה בפלט אלא אחראי לבניית המכונה טעה. האם זה אומר שהאוטומט חכם? לא בהכרח. זה אומר שהוא יכל לעשות הרבה יותר חישובים, בצורה מהירה מאוד, וללא טעויות. לדוגמה, מערכות ממוחשבות לאוטומציה של פוליסות ביטוח, זכאות לעזרה סוציאלית וכיוצא בזה עושות תהליכים של בני אדם רק ללא טעויות ומהר יותר. בין זה לבין היכולת ללמוד לבד ולהסיק מסקנות לבד (כולל לשנות "דעה" על בסיס מידע אמפירי חדש) יש הבדל עצום.

מהרגע שהמחשבים יתחילו לקבל החלטות עצמאיות לגבי התוכנה והחומרה שלהם, למעשה הם יעסקו במקבילה למושג הרבייה באורגניזמים. לכן זה יהיה הרגע שבו הם יותר לא יהיו "דומם" אלא "חי מלאכותי".

תקראו יותר ממדען אחד שמדבר על הנושא. רוב המדענים שעוסקים בתחום ה-AI (גם ברמה הפילוסופית) מסכימים שגם תוכנת AI עם IQ ארבע-ספרתי, תמשיך לבצע את המשימה שלשמה נוצרה. תוכנה שנכתבה על מנת לשחק שחמט בצורה הטובה ביותר, לא תתחיל לחשוב על מהות היקום רק כי היא "מאוד חכמה".

גם אם ה AI שנבנה עלולה לרצות וגם להיות מסוגל להשמיד אותנו אלה שיצרוהו.