אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר.
מוסף שבועי 29.8.19 א.בוט יהושע, איור: קורן שדמי איור: קורן שדמי

א.בוט יהושע

בזמן שהסופרים הגדולים מתאהבים בגיבורים רובוטיים, מומחי הבינה המלאכותית כבר מפתחים להם יורשים: סופרים־בוטים

31.08.2019, 16:26 | ג'ון תורנהיל, "פייננשל טיימס"
בהכללה גסה, אפשר לסכם את ההיסטוריה הספרותית כך: בהתחלה כתבנו על אלים, בהמשך על בני מלוכה, ואז על אנשים רגילים, ובסוף על עצמנו. אחרי שחקרנו ללא לאות כמעט כל ממד באנושות כתבנו גם על מכונות. ועכשיו אנחנו מתקרבים למהפכה המטרידה מכולן, זו שבה מכונות הן שיכתבו על בני אדם (ואולי, יום אחד, המכונות יכתבו אפילו על מכונות).

להאזנה לכתבה, הוקלט על ידי הספריה המרכזית לעיוורים ולבעלי לקויות קריאה

כמעט כל יום מביא איתו התקדמות מבהילה בתחום הבינה המלאכותית (AI). ב־1997 העולם נדהם כשהמחשב כחול עמוק, מבית יבמ, ניצח את שחקן השחמט הגדול ביותר, גארי קספרוב. אבל כחול עמוק היה רק קצת יותר ממחשבון־מבוסס־חוקים עוצמתי במיוחד; "שעון מעורר ב־10 מיליון דולר", הגדיר אותו קספרוב. העידן הנוכחי שונה: ההתקדמויות האחרונות בטכניקות ה־Deep Learning, התפוצצות המידע ממכשירי הסמארטפון והמחשבים שלנו והעלייה המשמעותית בכוח המחשוב מאפשרות לתוכנות לבצע מגוון גדל והולך של משימות, והן עושות זאת באיכות טובה, לעתים טובה יותר מבני אדם: הן מפרשות הדמיות רפואיות, מטיסות מטוסים, מזהות תמונות, מפענחות דיבור. וגם במשחקים במקום כחול עמוק באה AlphaGo, תוכנה של חברת Google DeepMind שגברה על שניים משחקני הגו (המשחק הסיני העתיק והמתוחכם) הטובים בעולם, אחרי ש"למדה" באופן עצמאי. חלק מהחוקרים הסינים כינו את הניצחונות שלה "רגע הספוטניק" של המדינה — שהוביל לעלייה משמעותית בהוצאות על תחום הבינה המלאכותית. ברקע מדברים על מירוץ חימוש חדש.

הבאזז הגובר סביב בינה מלאכותית הצית בשנים האחרונות את דמיונם של כמה מהסופרים הבולטים של זמננו, ובהם איאן מקיואן וג'נט וינטרסון. רובוטים חושבים, שבעבר היו נחלתו הבלעדית של המדע הבדיוני, חדרו כעת לספרות המיינסטרים. המוזה העכשווית של מקיואן היא לא אחרת מדמיס האסביס, מייסד DeepMind.

המשיכה הנוכחית לבינה מלאכותית קשורה לכך שהיא ממסגרת מחדש את הדיון האינסופי בשאלה מה המשמעות של להיות אנושי, ושהיא מאתגרת את התפיסות שלנו לגבי זהות, יצירתיות ומודעות. ה־AI היא נקודת השיא של החשיבה המדעית הרציונלית, ובו בזמן ייתכן שהיא גם נקודת השפל שתביא להריסתה. או כפי שההיסטוריון פרופ' יובל נח הררי שאל: האם אנחנו מתקרבים ליום שבו המחשבים יכירו אותנו טוב יותר מכפי שאנחנו מכירים את עצמנו?

אולי הסיבורגים ימשיכו לכתוב רומנים, על בני אדם וגם על חייהן הפנימיים של המכונות. הבעיה היחידה היא שאנחנו, בני האדם, לא נוכל לקרוא אותם, לא כל שכן להבין אותם

איי.ג'יי גוּד, המתמטיקאי שעבד לצד אלן טיורינג על פיצוח הצופן הנאצי ונחשב אחד מחלוצי הבינה המלאכותית, היה גם מהראשונים שהבינו את מלוא המשמעות של המונח "התפוצצות אינטליגנציה" (Intelligence Explosion). לפי גוד, כשמכונות אולטרה־חכמות יעקפו את רמות האינטליגנציה של בני אדם הן יוכלו להמציא בעצמן מכונות טובות עוד יותר, ולהותיר אותנו הרחק מאחור. "לפיכך, המכונה האולטרה־אינטליגנטית הראשונה תהיה ההמצאה האחרונה של בני האדם, בהנחה שהמכונה הזו צייתנית מספיק כדי לגלות לנו כיצד להשתלט עליה", הוא כתב ב־1965.

הרגע הזה של סינגולריות טכנולוגית, אם יתממש אי פעם, הוא מעין מקבילה לבריאה של צורת חיים חדשה, המעלה את האדם החושב לדרגת אלוהות. זה יהיה האירוע המשמעותי ביותר ב־300 אלף שנים של היסטוריה אנושית. לפי המדען ד"ר ג'יימס לאבלוק, הרגע הזה גם יסמל את סיומו של עידן האנתרופוקן ("האדם החדש"), שנמשך כ־300 שנה ושבו האדם החושב יצר טכנולוגיות משנות חיים, כולל המכונות האינטליגנטיות. לפי לאבלוק, ברגע הזה אנחנו ניסחף במפולת של אלגוריתמים שתוביל לעתיד של אחרי בני האדם, עתיד שבו ההבנה שלנו בצורות חיים אלקטרוניות תהיה דומה להבנה שיש לדובי קוטב במפלסות שלג.

גיבורי הספרים החדשים

בני אדם תמיד הוקסמו מיצירות מלאכותיות שהתעוררו לחיים, עוד לפני הבינה המלאכותית. במיתולוגיה היוונית זו גלתיאה שנישאה לפיגמליון, בפולקלור היהודי זה הגולם, קארל צ'אפק הצ'כי כתב את "R.U.R", מחזה על מפעל שייצר עובדים מלאכותיים, וכאשר הועלה בארצות הברית ב־1922 הכניס לתרבות את המונח "רובוט". היצירה המפורסמת מכולן היא כמובן זו של מרי שלי, שכתבה ב־1816 על ויקטור פרנקנשטיין, מדען צעיר ומבריק שהשתמש בחלקי גופות מבתי מטבחיים כדי ליצור מפלצת מחרידה, וזו יצאה משליטה.

יצירת המופת הזאת היא שהעניקה לוינטרסון את ההשראה לספרה האחרון, "Frankissstein", שבו הסיפור המקורי מוטמע בתוך סיפור אהבה המתרחש בימים אלה בין ריי, רופא טרנס, לפרופ' ויקטון סטיין, מומחה לבינה מלאכותית. "הסיפור הזה הוא המצאה שיושבת בתוך המצאה אחרת — המציאות עצמה", הסבירה וינטרסון, והתייחסה ל"פרנקנשטיין" המקורי כמכתב בבקבוק שאפשר להבין במלואו רק עכשיו, כ־200 שנה אחרי שנכתב. כפי שהמתמטיקאית עדה לאבלייס כתבה, במחצית הראשונה של המאה ה־19, קוד למחשב שעדיין לא נבנה, שלי חזתה עולם שעדיין לא נוצר. "הנשים הללו הסתכלו מעבר להווה, וקפצו קדימה לעתיד שעדיין לא היה קיים", טענה וינטרסון בראיון ל־BBC. ומבחינתה השחר של עידן הבינה המלאכותית הוא משהו שצריך לברך עליו, אפילו להוקיר אותו. "הדבר הכי טוב בעידן כזה הוא שלא תהיה באמת סיבה לעסוק במגדר. זה לא משנה אם מדובר בגבר שאוהב גבר או באשה שאוהבת אשה כשאנחנו עומדים לחלוק את כדור הארץ עם צורות חיים לא־ביולוגיות שיהיו חסרות מגדר. זה יכול לשנות הכל, ואני מתה על זה", אמרה וינטרסון, שחקרה את האינדיבידואליות והמיניות שלה באוטוביוגרפיה "למה לך להיות מאושרת אם את יכולה להיות נורמלית?".

רובוט סופר, צילום: ויקימדיה רובוט סופר | צילום: ויקימדיה רובוט סופר, צילום: ויקימדיה

סופרים אחרים מחזיקים בדעה אמביוולנטית ואפלה יותר, למשל בנוגע להופעת רובוטים בעלי מראה אנושי, ההתגלמות הוויזואלית של הבינה המלאכותית. ב"Machines Like Me", ספרו האחרון, מקיואן כותב על צ'רלי, נווד נטול דאגות שקונה את אחד מבני האדם הסינתטיים הראשונים שנוצרו, שנקרא, כמה סימבולי, אדם. הוא "מוגדר בן לוויה, שותף לסיעורי מוחות, חבר ומשרת שיכול לרחוץ כלים, לסדר את המיטה ו'לחשוב'". הוא יכול גם לעשות סקס ויש לו תאי רוק מתפקדים שכדי לתחזק אותם הוא צורך חצי ליטר של מים בכל יום. "לפנינו ישב צעצוע המשחק האולטימטיבי, חלום כל הזמנים, הניצחון של ההומניזם — או מלאך המוות שלו. מרגש מעבר לכל מידה, וגם מתסכל".

אף שלפי ספר ההוראות זה לא אמור לקרות, אדם "מתאהב" במירנדה, בת זוגו של צ'רלי, ומתחיל לכתוב לה שירי אהבה, כ־2,000 שירי הייקו בסך הכל. האם אדם באמת מתאהב? האם רובוט יכול להפוך להיות מודע לגמרי, לחוות רגשות ולבטא אותם? אלה שאלות שמהוות בסיס לאלפי שנים של דיונים פילוסופיים על מהות המודעות. אבל צ'רלי מנסח את זאת בפשטות: "אם הוא נראה, נשמע ומתנהג כמו בן אדם, אז מבחינתי זה מה שהוא".

לפי מקיואן, הצעידה קדימה של המדע טומנת בחובה גם את הנסיגה משמירה על האינטרסים האנושיים, "סדרה של הורדות בדרגה שמובילות להכחדה". בעבר בני האדם היו מרכז העולם, כשהשמש והכוכבים "מקיפים אותנו בריקוד חסר גיל של הערצה". אבל אז "אסטרונומיה חסרת לב" צמצמה אותנו לכוכב שחג הסביב השמש, אחד מני רבים. ובכל זאת, בני האדם המשיכו להיאחז ברעיון הדמיוני שהם ייחודיים באופן מבריק, "מונו בידי היוצר להיות השליטים של כל מה שחי", ואז ביולוגיה חסרת נשמה אישרה שרק מעט מאוד מבדיל בינינו לשאר היצורים החיים, ואנו "חולקים אילן יוחסין עם בקטריות, צמחי נוי, דגים וכבשים".

המבצר האחרון שלנו היה המודעות, אבל כעת "אותה תודעה שבעבר מרדה נגד האלים עומדת להדיח את עצמה מכס המלוכה — באמצעות הרחקתה מהישג ידה. בגרסה המצומצמת, אנחנו נבנה מכונה חכמה קצת יותר מאיתנו, ואז נתכנת אותה כך שתיצור מכונה נוספת שתהיה מעבר ליכולת ההבנה שלנו. ואז, לשם מה הן יזדקקו לנו?", כותב מקיואן ומהדהד את דברי איי.ג'יי גוד על Intelligence Explosion.

מה מכונה כבר יכולה לכתוב

מומחים לבינה מלאכותית שיקראו את הספרים הללו יטענו שמדובר בדמיונם המשתולל של הסופרים. ההצלחה של DeepMind במשחק הגו היא הישג מרשים, אך לא כזה שמבשר על הופעתן הקרבה של צורות חיים חדשות וכל־יכולות. תוכנות למידת מכונה נהפכות למעולות בתחומים רבים, אבל אלה תחומים מצומצמים; התוכנות נותרות חלשות בכל הקשור לאינטליגנציה הכללית. אחרי הכל, רובוטים מודרניים עדיין מתקשים לטפס במדרגות.

פרופ' אליסון גופניק, פסיכולוגית התפתחותית באוניברסיטת קליפורניה בברקלי ומומחית ב"תיאוריה של התודעה", טוענת שבעתיד הנראה לעין הסכנה לאנושות מטיפשות טבעית תמשיך להיות גדולה בהרבה מהסכנה שבבינה מלאכותית. "אין כל כך בסיס לחזון האפוקליפטי או לחזון האוטופי של בינה מלאכותית שתחליף את בני האדם. עד שלא נפתור את הפרדוקס הבסיסי של הלמידה, הבינה המלאכותית הטובה ביותר לא תוכל להתחרות בילד ממוצע בן 4", היא כתבה באסופת המאמרים "Possible Minds".

ובכל זאת, למידת מכונה ממשיכה לעורר הדים בתחומים מצומצמים רבים — ובהם כתיבה. יש תוכנות של בינה מלאכותית שכבר כותבות דיווחים חדשותיים לסוכנויות ידיעות מובילות; בבלומברג, למשל, טוענים שקרוב לשליש מהתכנים שהם מפרסמים נכתבים בעזרת רובוטים, כשהמערכת Cyborg שולפת את העובדות החשובות מדיווחים פיננסיים ומייצרת מהן סקירה חדשותית בסיסית. באופן אירוני, חלק ניכר מהדיווחים שכותבים רובוטים גם נקראים בידי רובטים, אלה שמחוברים לפלטפורמות מסחר פיננסיות אוטומטיות. מידע חשוב כבר מזוהה, נקרא, מנותח ומדווח כמעט בלי התערבות אנושית. אנחנו כבר מתחילים לכתוב את עצמנו אל מחוץ לתסריט.

א.בוט יהושע
 
להאזנה לפודקאסט
לחץ כאןא.בוט יהושע

אבל לכתיבה של בינה מלאכותית יש מגבלות קשות, ואלה באו לידי ביטוי בפרויקט מרתק של רוס גודווין, טכנולוג ומדען מידע. ב־2017, בעקבות "בדרכים", רומן המסע המפורסם של ג'ק קרואק, גודווין נהג מניו יורק לניו אורלינס ואסף מידע באמצעות מצלמה, מיקרופון, שעון ו־GPS. הוא הזין את הנתונים לרשתות עצביות מלאכותיות ש"למדו" מאות ספרים כדי לזהות דפוסים ספרותיים. התוצאה היא הספר "1 the Road".

משפט הפתיחה בספר בהחלט מהדהד דברים שקראנו: "השעה היתה 9 ו־17 דקות בבוקר, והבית היה כבד". אך לפי בריאן מרצ'נט, כתב המגזין "אטלנטיק" שעקב אחר התהליך, התוצאה הסופית מזכירה בעיקר שילוב בין "הספר 'Electric Kool-Aid Acid Test' של טום וולף וסטריט ויוּ של גוגל שמקריינת סירי". קרואק זה לא היה.

ומה אנחנו כבר נוכל לקרוא

גם לאור כשלים כאלה, אי אפשר שלא להתפעל מהמהירות שבה הבינה המלאכותית התפתחה בעשור האחרון, ואי אפשר שלא לתהות לאן היא עוד תגיע. ההנחה שבינה מלאכותית תבוא לידי ביטוי ברובוטים שנראים כמו בני אדם, כמו אצל מקיואן, מחמיאה לאנושות, אבל סביר הרבה יותר שהיא תתפתח בצורות לא גשמיות שבקושי נצליח להבין.

לאבלוק, שחגג בחודש שעבר יום הולדת 100, הוא ההוגה של השערת גאיה, שלפיה כדור הארץ הוא מערכת משולבת של אורגניזמים חיים וסביבה לא־אורגנית, והוא משוכנע שזה רק עניין של זמן עד שנעניק את "מתנת הידע" לצורות חדשות של יצורים תבוניים. לדעתו, בינה אלקטרונית תחליף את המין האנושי, ואם יהיה לנו מזל בני האדם יוכלו להישאר בסביבה כדי לבדוק את הסיבורגים "בדיוק כפי שפרחים וחיות מחמד משמחים אותנו היום". ולא צריך להיות מתוסכלים מכך, הוא מסביר: מילאנו את התפקיד המדהים שלנו בהיסטוריה של הקוסמוס. לאבלוק מציע להתנחם במילותיו של אלפרד טניסון בשיר שלו על אודיסאוס המזדקן: "אָמְנָם הַרְבֵּה נִגְזַל, אַךְ גַּם נוֹתָר, / וְאִם בְּכוֹחַ דַּל כְּבָר לֹא נוּכַל / אֶת מְלוֹא תֵּבֵל שוּב לְהָנִיף כְּמוֹ אָז, / הֲרֵי לִבֵּנוּ הַנּוֹעָז נוֹתָר" (תרגום: עופרה עופר אורן).

אולי הסיבורגים ימשיכו לכתוב רומנים, על בני אדם וגם על חייהן הפנימיים של המכונות. הבעיה היחידה היא שאנחנו, בני האדם, לא נוכל לקרוא אותם, לא כל שכן להבין אותם.

תגיות