אין למחשבים של ימינו את העוצמה שמספיקה כדי אפילו להתקרב למה שאתה מציע (וגם חסר לנו הרבה ידע בביולוגיה כדי להכניס בכלל את הנתונים הנכונים מהתחלה) , כמות התגובות הכימיות/ביולוגיות בחיידק היא גדולה מאד, וכדי לבצע תהליך אבולוציוני כפי שאתה מציע לא מספיק לסמלץ חיידק אחד יש צורך ליצור במחשב אוכלוסיה של לפחות כמה עשרות מיליוני חיידקים. וכאשר בתהליך האבולוציה הם יתחילו להתפתח לבעל חיים קצת יותר מורכב מחיידק כמות החישובים שהמחשב יצטרך לבצע עבור כל יצור בנפרד תעלה בצורה אקספוננציאלית שלא לדבר על אוכלוסיה שלמה שלהם, בטח אם מדובר בעכבר שאפילו על מחשבי על לא הצליחו לסמלץ את מוחו השלם, ובטח לא בזמן אמת. בקיצור התסריט שהצעת הוא דמיוני לחלוטין, זה לא יקרה ואין שום יכולת אפילו להתקרב לשם.

ובכלל "מדע הכלכלה" (המרכאות זה כי כלכלה זה לא באמת דיסיפלינה מדעית) מסתכל על נתונים מהעבר וההווה ומנסה לבחון התאמתן לתיאוריות שמסבירות את המציאות. בפועל נתונים מהעבר וההווה בכלל לא יכולים לומר מתי תתבצע פריצת דרך מדעית בעתיד. הייתי מצפה מכתבה שמתיימרת להיות מדעית - להביא גם אינפורמציה זו לקוראים.

גם האשה נבראה מצלע הגבר והיא שולטת בו

כלומר, מותר לקשקש ולחנטרש, אלא שכדאי לעשות זאת באופן מעניין. כל התחזיות בעניין הנדון לא שוות את הפיסקלים שבהן הן נכתבות, ואף על פי כן, נורא כיף לדבר בזה.

כל מה שצריך לעשות זה לתכנן מודל של חד תאי איאוקריוטי עם DNA, כתוכנה כמובן, ויכולת לשינויים רנדומליים ב DNA הממוחשב. מכניסים כמה אילוצים בסיסיים מהחיים למערכת ונותנים לה לרוץ. כשבכל שניה החיידק יכול לעבור אבולוציה כמו במיליון שנה מה שייתקבל יהיה מאוד מעניין. רמת המורכבות של הייצור הממוחשב תלך ותגדל אך גם קצב האבולוציה יקטן עקב סיבוכיות החישובים. בנקודה זו זה כבר תלוי ביכולת החישוב של המעבד. כמובן שיצטרכו ליצור מודל סביבתי עם חוקים כימיים ופיזיקליים וכולי.

אם כח הקניה ירד בעקבות פיטורים נרחבים האם להון תהיה משמעות? מי יקנה את המוצרים? הגרייה נוירונית טכנולגיה שיש סיכוי שתשנה את היכולת שלנו לרכוש מיומניות חדשות תוצאה אפשרית, הפרט לא יהיה מוגבל ביכולות שעימם נולד ומכאן השינוים החברתים השינוים בכלכלה בלתי נתפסים הדפסה תלת מימדית אם נוכל לייצר את רוב מה שאנחנו צריכים איך ישתנה המבנה החברתי והכלכלי?

נראה לי שהכתב תרגם כתבה ולא טרח להסביר כאילו זה מובן מאליו.

ניתן לראות את שבירת מבחן טיורינג, תכנות השחמט המודרניות, המכונית ללא נהג, שליטה בשפה של google voice search ועוד המון דוגמאות מחיי היום-יום שלנו. הכלכלה שלנו לא אמורה להתאים לעידן הסינגולריות, זה דיי אמור לבוא בבום מבחינה כלכלית. זה שהכלכלה, או יותר נכון הכלכלנים לא רואים את השינוי בפתח, רק מוכיח כמה השינוי יהיה ראדיקלי, וכמה בני האדם עיוורים לתוצאה.

השכר לא יעלה והתוצר גם הוא לא. יותר סביר שהיצור יפסק (פרט ליצור עצמי של עוד מחשבים שלא עושים דבר פרט לייצר עוד מחשבים...) השכר? מחשבי הבנקים ישחקו שח זה עם זה - לא יהיה שכר לאנשים מזי הרעב שיקוששו גרגירים בפינות נידחות שם הם אינם מפריעים למכונות. כשהיגיע האדם הלבן לאמריקה, עלה היצור והשכר של הילידים? הם נהינו מהידע וטכנולוגית הנשק החם? כמה שטויות במאמר בודד?

"כשנחלוק את הכוכב הזה עם יצורים חכמים מאיתנו, הם שיקבעו" הדובר אמר חוכמה והתכוון בעצם לאינטליגנציה. רחוק עדיין היום בו אפשר לייחס למחשבים אינטליגנציה המזכירה במשהו את זו של האדם, שלא לדבר על אינטליגנציה רגשית, שלא לדבר על חוכמה. אבל מילא כל זה - העליונות האמיתית של האדם היא בורסטיליות שהוא ניחן בה בכישורים הנדרשים מבן אנוש, היכולת לפעול בצורה אפקטבית באספקטים שונים של החיים. ורסטילות כמו זו שמאפשרת לייצור אחד להיות מסוגל למשל למזוג כוס מים, בשנייה שלאחר מכן להמציא לחן לשיר של לאה גולדברג ובזו שאחר כך לכתוב תגובה מנומקת לכתבה כמו זו בכלכליסט. לא מומלץ להמתין ליום הזה בעמידה.

סביר להניח שזה יקח עשרות שנים בין 50 ל 100 שנה עד שנראה מכונות עם התנהגות דינאמית כמו האדם , בכל מקרה יעלו שאלות האם זה סימולציה של התנהגות או זה הדבר האמיתי, יתכן ותחושות פנימיות כמו שיש בעולם החי הם תכונה שהתפתחה על גבי החומר שממנו אנו ושאר בעלי החיים עשוים ממנו כי היה שם פוטנציאל הישרדותי שנוצל באופן אקראי ותרם לשרידות הפרט שניצל את זה, יתכן שבהחלפת החומר אולי זה יהיה חיכוי התנהגות אבל לא יתן למכונה את תחושת הרגש הפנימית שהיא סוג של מניע חשוב אצל האדם ושאר החיות, כך שנקבל משהוא שהוא מאד שונה אולי סוג של מכונה שאין בה רגש אמיתי בינה שהיא זרה לגמרה מכל דבר שמוכר לנו, לא משהוא מרושע ולא משהוא טוב פשוט מערכת שונה לגמרה שכן יכולה לגרום לנו נזק כבד עכב יתרונות עיבוד מידע מהיר יותר ברמות דמיוניות גם אם זה עוד 100 שנה שזה כלום מבחינה אבלוציונית זה נחשב מידית משנולד כיום כנראה יפגוש את המעבר הזה

מה הקשר בינו ובין הנושא הזה ?? מחשבים מבצעים היום דברים מדהימים שרק עד לפני 15 שנה נחשבו למדע בדיוני! הם נוהגים במכוניות ומנחיתים מטוסים, הם מזהים אנשים ואובייקטים בתמונה, מנצחים את אלופי העולם בשחמט ובמשחקי טריוויה וידע (פרוייקט ווטסון של IBM) והמון דברים נוספים, אנו על סף פיצוח של אופן פעולת המוח וחלק מהמודלים כבר מופעלים על תוכנות מחשב והתוצאות מדהימות! למשל רשת עצבית חדשנית שלמדה לשחק בעצמה ללא שום הנחיות או הכוונה בעשרות משחקי מחשב והגיעה לרמה של שחקן מקצועי! בקיצור כלכלן מבין בסינגולריות ובטכנולוגיה כמו שחמור מבין במרק ירקות. זה פשוט לא רציני.

מתוך דבריו של כותב המאמר: "כדי שהיכולות המשתפרות של המחשבים יובילו לסינגולריות, הבינה המלאכותית צריכה להיות מסוגלת למלא את כל הפעילויות האנושיות ולא רק לחבר מספרים, לפתור משוואות, לשחק שח ולפרש דיבור. היא צריכה גם לסעוד חולים, לקרוא לילדים סיפורים לפני השינה ולתקן פנצ'רים." כדי שהבינה המלאכותית תוכל לבצע דברים כאלו, צריך תחילה לסיים את ה Reverse engineering של המוח האנושי. מספר פרויקטים חשובים אמונים על מטרה זו של בנית מוח אנושי המבוסס על מוח ביולוגי (כשבראשם פרוייקט ה- Human brain של האיחוד האירופי, בראשו המדען הנרי מרקראם, שאמור לסיים את הפרויקט בעוד כ-8 שנים ובינתיים קצב ההתקדמות משביע רצון). לדוגמא, לשם הפרויקטים הללו, בונים מחשבים יעודיים להרצת רשתות נוירונים - Neuromorphic chips (במקום להריץ את הרשתות על מחשבי Von neumann רגילים שלא דומים בשום דבר למוח אורגני, שעבורם הרצת רשתות נוירונים זה תהליך לא יעיל להחריד), צ'יפ יעודי אחד כזה הושלם לאחרונה בבריטניה ונקרא SpiNNaker ומסוגל להריץ רשתות נוירונים ביעילות מדהימה (כאשר המטרה היא להגדיל את מספר הנוירונים והסינפסות על הצ'יפ הזה כדי שבסופו של דבר יגיעו למספר במוח אדם). זו בדיוק הטכנולוגיה שתביא אותנו ל A.I חזק המבוסס על המוח האנושי, ולפני שתהיה הטכנולוגיה הזו אי אפשר לצפות לדברים שכותב המאמר מבקש. אז לסיכום המצב הוא פשוט כזה: כרגע מתבצע R&D חזק כדי לתת לנו בעוד 10 עד 20 שנים מחשבים המסוגלים לחקות את תהליך המחשבה האנושי. ברגע שיהיו מחשבים כאלו, הדרך לסינגולריות קצרה מאוד. כותב המאמר מסתכל היום, ואומר שהוא לא רואה עדויות לכך שקיימת אינטיליגנציה מלאכותית כזו היום, וזה נכון, כיום היא לא קיימת, אך בעוד 10-20 שנה תהיה קיימת. אם הכותב היה איש A.I שמאורע ב R&D ובלוחות הזמנים, הוא היה מגיע למסקנות שונות מאשר הגיע אליהן בתור כלכלן שמסתכל רק על מה שקיים כרגע.

לא שאני תומך בתפישה הסינגולרית, אבל נראה שהחוקר לא הבין את התיאוריה. קצב ההתקדמות ישאר דומה עד לקפיצה, ואז יגיע הזינוק. אף אחד לא יכול לדעת מתי הוא יגיע או איך, אבל כשהוא יגיע קצב ההתקדמות לא יהיה דומה לשום דבר - וזאת הסיבה שאי אפשר לחזות אותו. מה שכן, צריכים להתסדר כמה וכמה גורמים כדי שזה יקרה, ואחד מהם הוא deep AI. הרעיון ב-deep AI הוא מכונות עם הבנה, כלומר כאלה שיכולות להבין שפה טבעית, ללמוד ולחקור בעצמן - ומזה אנחנו עדיין רחוקים. עם זאת, בהחלט ייתכן שהכל יהיה בידי בעלי ההון, והם לא יספקו כלום לאף אחד. אחוז אחד יהיה עשיר מעבר לכל דמיון והשאר בעוני מחפיר.

לא מכיר אף אחד שחושב ברצינות על מלחמה אלימה בין אנשים למכונות. הפחד מסינגולריות הוא הפחד מתחרות- מה שכרגע האנשים המוכשרים עושים לאנשים הפחות מוכשרים יעשה להם ע"י המכונות. This is the way the world ends This is the way the world ends This is the way the world ends Not with a bang but a whimper. בכל מקרה מן הסתם שAI אמיתי ומלא עוד רחוק וכנראה לא יגיע בדורנו, ומן הסתם שמקצועות שדורשים שילוב של מוביליות וקוגנציה עדיין נחלת בני אדם (אם כי ניתן לראות התקדמות מואצת גם ברובוטיקה) כך שיש צורך בסיעוד, בנקיון, ועוד מקצועותת מהסוג הנ"ל, אבל מה שכן יש כרגע זו עליה בטכנולוגיות שמאפשרת מינוף יכולות קוגנטיביות. לא רק בשביל "בעלי הון". אנשים מוכשרים יכולים עכשיו לעשות יותר ולצבור כוח נוסף, אנשים לא מוכשרים מטוטאים הצידה. אני לא יודע כיצד הוא ביצע את כל המדידות (יהיה נחמד עם תפרט מעט) אבל יש ענפים שלמים באמריקה שאיבדו יותר ממחצית מעובדיהם עם שינוי מסוים בפריון אבל לא משהו מאוד דרמטי. בכל מקרה, אם רוב ההוצאה מוסטת לאפיק של קניית ציוד ואת הציוד הזה מייצרים בעיקר רובוטים ומי שמקבל את הההכנסה הוא בעל ההון- הרי זו היא *בדיוק* הסיבה שבגינה חוששים מסינגולריות. נ.ב לא הבנתי למה השכר אמור לקפוץ ב200%? רוב מוצרי הצריכה (שלכאורה הם שמבטאים את העליה ברמת החיים) מורכבים ממשאב גולמי+עבודה. AI יכול לתת עבודה אבל המשאב נשאר מוגבל. אמנם יש מוצרים שבהם רוב העלות היא על עבודה אבל יש כאלו שרוב העלות היא משאב. למשל דליי פלסטיק, משיחות עם חברים שעוסקים ברכש הבנתי שבעל מפעל סיני מוכר מוצרים כאלו בכמעט אותו המחיר שעולה לו חומר הגלם. ואם מתחשבים בעליית רמת החיים של רוב העולם אז השכר בכלל אמור לרדת כי המשאבים מתחלקים ביותר אנשים. מלתוס וכו'...

ולמה היא צריכה לדעת לסעוד מבוגרים ? בעולם שבו המכונה אנטליגנטית יותר מבני האדם - בני האדם יכחדו (שלא לאמר יושמדו) כך שלא יהיו ילדים, ולא יהיו מבוגרים. כוחות הביטחון לא יוכלו לשלוט במכונות שבאמצעותן הם מספקים את אותו ביטחון, כי המכונה החכמה יותר תעקוף כל פקודה שתהווה סכנה לקיומה.