OpenAI פירקה הצוות שבחן סיכוני הבינה המלאכותית; אחד הבכירים שפרש: "שטנו נגד הרוח"

OpenAI פירקה את הצוות שעסק בסיכונים ארוכי הטווח שמציבה בינה מלאכותית ובפיתוחים שנועדו לשלוט עליה, שנה אחת בלבד לאחר שהקימה אותו - כך מדווחת סוכנות CNBC. לפי הדיווח, חלק מחברי הצוות מועברים לצוותים אחרים בחברה.

בשבוע שחלף הודיעו שני ראשי הצוות - ד"ר איליה סוצקבר, המייסד והמדען הראשי של OpenAI, ויאן לייקה, כי הם מתפטרים מהחברה. סוצקבר הוביל לפני חצי שנה את המהלך הכושל להדחתו של המייסד והמנכ"ל סם אלטמן.

הצוות שהוקם כאמור לפני שנה, התמקד ב"השגת פריצות דרך מדעיות שנועדו לכוון ולשלוט במערכות בינה מלאכותיות שהן הרבה יותר חכמות מאיתנו". OpenAI הבטיחה אז כי תקדיש 20% מכוח המחשוב שלה ליוזמה במשך ארבע שנים.

לייקה חשף היום פרטים נוספים לגבי נסיבות עזיבתו. "הצטרפתי ל-OpenAI כי חשבתי שזה יהיה המקום הכי טוב בעולם עבור המחקרים שלי", צייץ ב-X. "ואולם לפני זמן מה נוצרו ביני לבין ראשי OpenAI חילוקי דעות בנוגע לסדר העדיפויות של החברה, עד שהדבר הגיע לנקודת שבר". לדבריו, חלק גדול יותר מפעילות החברה אמור להיות מוקדש לבטיחות, ניטור, מוכנות והשפעה חברתית שתהיה לבינה המלאכותית.

"קשה מאוד לפתור את הבעיות האלה, ומדאיג אותי שאנחנו לא נמצאים במסלול לפתרונן. הוסיף. "בחודשים האחרונים הצוות שלי שט נגד הרוח. לפעמים נאבקנו על משאבי מחשוב, ונעשה קשה יותר ויותר לבצע את המחקר החשוב הזה".

לדברי לייקה, "בניית מכונות החכמות יותר מבני אדם היא משימה מסוכנת מטבעה. OpenAI נושאת באחריות עצומה בשם האנושות כולה. אבל בשנים האחרונות, תרבות הבטיחות של OpenAI עברה למושב האחורי, ואת מקומה תופסים מוצרים נוצצים".

אלטמן התייחס השבוע לעזיבתו של סוצקבר, וכתב: "זה מאוד עצוב לי; איליה הוא בקלות אחד מגדולי המוחות בדורנו, אור מנחה בתחומנו, וחבר יקר. החום והחמלה שלו פחות ידועים אבל לא פחות חשובים".