נאום המכונה: הנשיא החליף את עצמו במודל סטטיסטי שמשטיח את השיח

בשבוע שעבר אדם שמייצג את אחד המוסדות היוקרתיים ביותר בישראל הכריז בגאווה כי השתמש ב־ChatGPT במהלך עבודתו. היה זה נשיא המדינה יצחק (בוז'י) הרצוג שהשתמש בצ'אטבוט כדי לכתוב מחצית מנאום שנשא בכנס בשבוע שעבר. התעלול הרעיוני תועד ודווח על ידי התקשורת, ונחגג כמעין אירוע מבשר קדמה: נשיא שמחובר לעת הנוכחית ועדות חיה לאפשרויות הגלומות בצ'אטבוט להחליף משימות של בני אדם, לייעל, לשפר ולחדש.

הרצוג לא היה הפוליטיקאי היחיד בעולם שהשתמש ב־ChatGPT כדי לכתוב שברירי נאום, אם כי הוא הבכיר שבהם. חבר קונגרס צעיר מהמחוז הרביעי של מסצ'וסטס עשה מעשה דומה בשלהי ינואר, והקריא 100 מילים של מחולל הטקסט בקונגרס. כך עשה גם חבר פרלמנט צעיר אחר מאוסטרליה בתחילת החודש. שניהם, אגב, עשו זאת ככלי לדבר על החשיבות בפיקוח וניהול התחום. אין ספק שהצ'אטבוט עמד במשימתו והחליף כותב נאומים בשר ודם, ובמובנים אלו בהחלט מדובר בחידוש. אך האם זו המסקנה העיקרית שעולה מהמקרה?

ראוי לשים לב כי פעמים רבות כשמושק כלי אוטומציה חדש, השאלה היא לא אם המכונה הצליחה או לא להשלים את המשימה, אלא האם התוצר שמתקבל שהוא "לא טוב" (כמו המקור) הוא "טוב מספיק". זאת אומרת האם אנו מוכנים לקבל בשם היעילות אובדן של איכות? למשל, האם טוב ייצור המוני של בגדים ברמה נמוכה יותר, מאשר עבודת יד איטית? התשובה שנעניק לשאלה זו יכולה להבהיר מדוע חלק יתרשמו מהתעלול היח"צני של הנשיא הרצוג, ואחרים ייטו להתבייש.

1. ערבול מחדש ואובדן

מאז הושק ChatGPT בדצמבר וביסס את עצמו כשם נרדף לבוט מותחכם, החל מרוץ חימוש אל תחתית עומק המחשבה. שורה של חברות, ובהן OpenAI, יוצרת הצ'אטבוט, הודיעו על מאמצן לפתח כלים לזהות טקסטים שנוצרו באמצעות בינה מלאכותית גנרטיבית. המטרה היא לזהות אותנטיות בתוצרי טקסט אחרים כמו חיבורים של תלמידים, שיווק, עיתונות ולמה לא – גם נאומים. כך בזמן שחברות מפתחות כלים שנועדו לחקות מחשבה אנושית, אחרות מנגד מפתחות כלים שנועדו לזהות את החיקוי, בזמן שבפינה רחוקה של האינטרנט לבטח חברות ממדרגה שלישית מנסות לפתח כלים שיצליחו להתגבר על ההתגברות. כל כך הרבה זמן, כוח אדם והון מוקדשים להליך זה, ולכן ראוי לשאול שאלה אחת פשוטה: מה הטעם?

ChatGPT. מחרוזת מילים שמופקת באופן סטטיסטי | צילום: שאטרסטוק

במאמר ארוך ב"ניו יורקר" בשבוע שעבר השווה טד צ'יאנג את ChatGPT לקובץ JPEG. צ'יאנג הסביר שכששומרים שוב ושוב קובץ תמונה, איכותו נפגמת בגלל הדחיסה שמתרחשת עם כל שמירה. כך גם הצ'אטבוט, הוא טוען, כל תוצר שהוא מפיק כולל אובדן של מה שנקלט. הערבול מחדש הזה והצגת מידע מופחת, במקום שהיה פעם ציטוט מדויק, גורמים לנו לראות את המידע הזה כחדש, כמו הבעה של רעיונות במילים מקוריות. האובדן הזה, החיסור, מסביר צ'אינג, גורם לצ'אטבוט להיראות חכם יותר, הוא מהתל בנו, ומרשים אותנו.

אבל האמת היא שהצ'אטבוט אינו חכם, מקורי או מציג מידע חדש. הוא מודל סטטיסטי שלא מסוגל לייחס משמעויות או להבין עובדות, ומתמחה בעיקר בניסוח שוטף של שטויות מומצאות. מי שהתנסה בצ'אט אמור להתוודע לעניין זה מיד. התוצרים, אין ספק, נראים קוהרנטיים על פני השטח, איכות שנובעת, כפי שצ'יאנג היטב להסביר, מהאובדן שהיא מכילה. אך מתחת לאותה שכבה מרשימה ומנוסחת היטב שוכבים רעיונות שטוחים, לא נכונים או פשוט שטויות. לא סתם ChatGPT, בזמן הקצר מאז הושק, הצליח לבסס את עצמו כרעיון נרדף לניסוח מחשבות רדודות. "לפי איך שהוא נשמע", אחד אולי יעיר באגביות וסרקסטיות, "החליפו אותו ב־ChatGPT". את החוסר הזה לא תמיד מקבלים ולעתים הלא טוב — הוא לא טוב מספיק. זאת הסיבה מדוע למשל בפלטפורמת שאלות־תשובות למתכנתים Stack Overflow נאסר להיעזר בבוט. מנהלי הפלטפורמה הסבירו שהוא באופן חד וחלק מייצר יותר תשובות לא נכונות מנכונות, ולכן אמרו "לא, אנו לא מוכנים לקבל את האיכות הפוחתת של העבודה רק בשביל לקצר בזמנים, להתייעל ולהחליף בני אדם".

תסביך הבורג: מונח שטבע ל.מ סקאסאס לפיו אנשי טכנולוגיה ומומחים אחרים רואים בהתנגדות לטכנולוגיה חסרת תכלית, זאת בשל מחויבות פילוסופית לדטרמיניזם טכנולוגי - הרעיון שהטכנולוגיה מניעה את ההיסטוריה

כאן ראוי להדגיש כי ה"טוב פחות" הוא, וכפי שהאמרה השחוקה במגזר הטכנולוגיה אומרת, לא באג, אלא פיצ'ר. כל תכליתו של הצ'אטבוט מאז ומעולם היא לייצר דמיון שטחי. מפתחיו יודעים שהוא לא מחזיק בכוונה, חשיבה, תשומת לב או אכפתיות לגבי מה נכון או לא נכון. לבוט הזה אין סט ערכים, אלא רק סט נתונים מלווה במעקה בטיחות שנוצר על ידי קנייתים בתשלום נמוך, כדי שחלילה לא ישתמש בביטויים גזעניים. אין שמאל ואין ימין, אין סוכנות ואין מוסר, רק מחרוזת מילים שמופקת באופן סטטיסטי. זהו כלי שהזינו אותו ביותר מידע משאי פעם יוכל האדם האנושי לספוג, שנהנה מחודשים של מחקר אינטנסיבי, שיפוץ ותיקון וכמויות חסרות תקדים של משוב מרחבי העולם, ובכל זאת הוא עדיין מחולל בלתי פוסק של שטויות, מידע מזויף ורעילות חברתית. וזהו גם הכלי שבו השתמש נשיא המדינה בנאום שנשא במסגרת תפקידו כדוגמה לחדשנות.

2. לא טוב ולא טוב מספיק

העולם לא זקוק ל"סתם" עוד נאום מנשיא המדינה. נאום לצורך נאום אינו תכליתו, ואין שום ערך או חדשנות בלחולל אחד כזה על ידי מכונה. אם זו היתה הבעיה אפשר לבקש מהצ'אטבוט לכתוב אלפים כאלו בן רגע. במקום זאת הנשיא הוזמן להביא מעצמו מילים שמבטאות כוונה שזורות במשמעות, תוצר תהליך של חשיבה מעמיקה, ניסוח רעיונות מורכבים מלאי פרטים וניואנסים, שמתחברים כולם לשפה באופן ייחודי. לא פלא שפוליטיקאים בכירים ברחבי העולם לא השתמשו בצ'אטבוט, לפחות לא בגלוי ובגאווה. הקהל שהגיע לשמוע את הנשיא הגיע לשמוע את תוצרי תהליך חשיבתו, את רכיבי האנושיות, היצירתיות והמורכבות שלו. האם הנשיא הרצוג שכח מדוע התבקש לנאום? האם בכלל ידע? האם הנשיא הרצוג הבין את מי החליף כשהחליט להשתמש ב־ChatGPT? האם הבין שהחליף את עצמו?

חשבו מה שתרצו על מוסד הנשיאות, חשוב, ממלכתי או מיותר, אבל מה שהוא זה לכל הפחות מראית עין של מרחב של משמעות. אנו מחפשים להתרשם, אבל לא ממחוללים של טקסטים אוטומטיים שיכולים להחליף בני אדם. אנחנו מחפשים להתרשם מאנשים יוצאי דופן, אלו שמסוגלים לגעת בעובדות באופן ישיר ומקורי ולפענח אותן ברהיטות באמצעות שפה; מי שיכולים למסור רעיון מנוסח היטב וליצור דיאלוג שיכול להביא לתוצאות ייחודיות כמו לאחד מדינה ששרויה באחד המשברים החברתיים והפוליטיים הגדולים בחייה. נשיא שזונח רעיון זה, אפילו רק לשבריר נאום בשבריר של כנס בשם רעיון אמורפי של חדשנות, הוא נשיא שלא הבין את כוונתה של הטכנולוגיה להשטיח. או שהוא הבין, ובכל זאת בחר להשטיח. תהיה הסיבה אשר תהיה, בסוף אנו הציבור נותרנו עם תוצר פוליטי רדוד ועצל. זה לא טוב, וגם לא טוב מספיק.