רגע לפני הדחת אלטמן: חוקרים ב-OpenAI התריעו על פריצת דרך שעלולה לאיים על עתיד האנושות

זמן קצר לפני הדחת סם אלטמן מראשות OpenAI בשבוע שעבר, מספר חוקרים בחברה שלחו מכתב לדירקטוריון שבו התריעו על פריצת דרך בפיתוח בינה מלאכותית עצמתית שיכולה לאיים על עתיד האנושות – כך לפי דיווח של רויטרס. מקורות עם ידע בנושא אמרו לסוכנות הידיעות שהמכתב ופריצת הדרך שיחקו תפקיד משמעותי במהלך להדחת אלטמן.

אתמול, פחות משבוע לאחר שהודח במפתיע על ידי דירקטוריון החברה, סוכם על חזרת אלטמן לתפקיד מנכ"ל OpenAI. עד עתה, לא סיפק הדירקטוריון או מי מחבריו הסבר מפורט להדחה הפתאומית, והסתפק אמירות כלליות דוגמת "אין עוד אמון ביכולתו" או "התפוררות התקשורת" בין הדירקטורים לאלטמן.

עתה מדווחת רויטרס שטרם להדחת אלטמן, קיבל הדירקטוריון מכתב שבו חוקרים ב-OpenAI התריעו מפני פרויקט פנימי בשם Q* (מבוטא קיו סטאר), שיכול להוות פריצת דרך במאמצי החברה לפתח מה שמכונה "בינה מלאכותית כללית" (Artificial General Intelligence, AGI) – מודל AI שבחברה מגדירים ככזה שמסוגל לבצע טוב יותר מבני אדם את מרבית המטלות בעלות ערך כלכלי. לדברי מקור ב-OpenAI, המכתב היה גורם אחד בשורה ארוכה של גורמים שהובילו להדחת אלטמן.

לפי הדיווח, המודל החדש מסוגל לפתור בעיות מתמטיות מסוימות ברמה של בית ספר יסודי. הצלחה בפתרון בעיות אלו הפכה חוקרים לאופטימיים לגבי ההצלחה העתידית של Q*. כיום, מודלי בינה מלאכותית גנרטיבית מסוגלים אמנם להתמודד בצורה מרשימה עם משימות טקסטואליות, אך מתקשים להשיב לבעיות או לפתור משוואות מתמטיות, שם יש רק תשובה נכונה אחת.

בניגוד למחשבון, מודל ה-AGI של OpenAI מסוגל ללמוד, להבין ולבצע הכללה של סוגיות מתמטיות. בחברה מעריכים שתכונות אלו יאפשרו לו לפתח יכולות הסקה שדומה לאלו של תבונה אנושית, ושאותן ניתן יהיה ליישם במחקרים מדעיים חדשניים. עוד דיווחה סוכנות הידיעו שהחוקרים התריעו במכתבם מפני צוות של מדעני AI, שחוקר דרכים לביצוע אופטימיזציה של מודלי AI קיימים, במטרה לשפר את יכולות ההסקה שלהם ובסופו של דבר לבצע עבודה מדעית.

במקביל לדיווח ברויטרס, אתר The Information שמוקדם יותר השנה השלימה OpenAI פיתוח שיאפשר לה ליצור בינה מלאכותית עצמתית יותר. פיתוח זה, שייתכן שהוא זהה ל-Q* עליו דיווחה רויטרס, הובל על ידי המייסד והמדען הראשי שלה החברה, אילייה סוצקבר, שהיה בין חברי הדירקטוריון שהובילו את הדחת אלטמן (אך בהמשך התחרט על חלקו בהדחה ופעל להשבת אלטמן לחברה).

מקורות ב-OpenAI אמרו לאתר שפרויקט זה העלה חששות בקרב עובדים שלחברה אין די מנגנוני הגנה בתהליך המסחור של מודלי AI מתקדמים. לפי הדיווח ברויטרס, במכתב ששלחו לדירקטוריון הביעו העובדים חששות דומים שעסוק בסכנה האפשרית של בינה מלאכותית עצמתית.