מכתבים לא יעצרו את פיתוח ה-AI - ולכן המדינות חייבות להתערב

מה הסיכוי של המכתב הפתוח מטעם הארגון Future of Life Institute להצליח להשהות את פיתוח מודלי הבינה המלאכותית החזקים למשך חצי שנה? ככל הנראה קלוש ביותר ובכל מקרה מדובר בצעד ממש לא אפקטיבי ללא התערבותן המיידית של מדינות בנושא - בעיקר בתחומים הדחופים של התמודדות עם דיס-אינפורמציה ופגיעה נרחבת אפשרית בשוק התעסוקה. ההתערבות הכרחית על מנת להבטיח את היכולת של אזרחי העולם להנות מהיתרונות של הטכנולוגיה, תוך צמצום של החשיפה לסיכונים.

במכתב עולות טענות על קיומם של סיכונים נרחבים במערכות AI ונטען כי המשך הפיתוח שלהן צריך להיות מותנה בבדיקה שתבטיח שההשפעות שלהן תהיינה חיוביות ושהסיכונים הטמונים בהן יהיו ברי-ניהול. החתומים עליו מביעים חשש מההשפעה של מערכות AI על הפצת מידע כוזב ועל פגיעה קשה בשוק התעסוקה, כמו גם מהתפתחותה של בינה מלאכותית כללית שעשויה להיות עוצמתית, מעל לקצה גבול היכולות האנושיות כולן וללא גבולות ותוהים: "האם עלינו להסתכן באובדן השליטה בציביליזציה שלנו?".

בשנים האחרונות הדיון סביב אסדרה של AI החל לצבור תאוצה מסוימת. בחברות הטכנולוגיות, למשל, החלו לפעול לניסוח קווים מנחים ולהקמת צוותי אתיקה, שיעילותם מוטלת בספק והם קיימים בעיקר נוכח שיקולים של יחסי-ציבור. מולן, מקבלי החלטות במוסדות מדינתיים ובינלאומיים, עדיין מתקשים להדביק את קצב השינוי הטכנולוגי ובאופן כללי ניכר שהעולם רחוק מאוד מרגולציה וחקיקה אפקטיבית בתחום.

האם המכתב יניע את הגורמים בעלי יכולת ההשפעה? ובכן, חרף העובדה שמומחים ומובילי דעה רבים חתמו על המכתב, בינהם אלון מאסק, יהושע בנג'יו וסטיוארט ראסל, ההירתמות של התעשייה להשהיית הפיתוח אינה מובנת מאליה. מחקרים מצביעים על מורכבות בעמדות הקהילה הטכנולוגית לגבי רגולציה. מחקר חדש שנערך באוניברסיטת ת"א (במסגרת עבודת התזה של ענבר דולינקו, אחת ממחברות מאמר זה) מצא כי בקרב מומחים טכנולוגיים קיימת תמיכה מסויגת ברגולציה, שהופכת משמעותית יותר כשהרגולציה צרה וממוקדת ליישום או שימוש מסוים.

על פי השיח בפורומים שונים ברשתות החברתיות, המכתב מעורר בעיקר ציניות בקרב אנשי תעשיית הבינה המלאכותית בארץ ובחו"ל, מפני שהוא נתפס כנגוע באינטרסים ומתייחס ל-AI באופן נרחב מדי. בשעה שהתחרות בין החברות רק מתעצמת ונדמית כ"מרוץ חימוש" בדרך אל המודל החזק והגדול מכולם, הקריאה להפסקת הפיתוח (ששמה כבסיס השוואה את שמו של הגוף המוביל בתחום, OpenAI) עשויה להתפרש כניסיון של המשתרכות מאחור להדביק את הקצב לפני שהדבר יעשה בלתי אפשרי. שנית, גם אם רבים יחתמו על המכתב, יש לזכור שמדובר בעניין לא מחייב שאינו בר-אכיפה.

המכתב גם לא מתייחס לשחקניות חשובות בזירה הטכנולוגית – מדינות. חלקן משקיעות סכומי עתק במחקר ופביתוח של AI, לרוב במסגרת תוכניות לאומיות שמטרתן השגת הובלה בתחום. מעורבותן היא לעיתים אחד הגורמים המאפשרים את הצלחתן של חברות פרטיות הפועלות בהן, עקב השקעה בתשתיות לאומיות מאפשרות או בהשכלה המאיצה צמיחתם של כישרונות בתחום. נוכח הפוטנציאל האדיר שטמון בטכנולוגיה עבור הזירה הביטחונית-מבצעית והמודיעינית, קשה לדמיין מדינה שתכבול את עצמה להסכם לא מחייב שכזה ותסכן את מוכנותה הביטחונית.

התנהלות מדינות העולם במסגרת התהליך הבינלאומי להגבלתן של מערכות נשק אוטונומיות קטלניות (חלקן מבוסס AI) עשוי ללמד רבות על הקשיים הצפויים בתחום האסדרה וההגבלה של הבינה המלאכותית באופן כללי. תהליך זה רווי פוליטיקה בינלאומית ומשתרך בעצלתיים - בוודאי בהשוואה לקצב הפיתוח הטכנולוגי, שהוא מהמהירים בהיסטוריה. גם כאן מדובר ב במרוץ חימוש שהמשתתפות בו לא יכולות להרשות לעצמן להישאר מאחור עקב הפוטנציאל האדיר הטמון בטכנולוגיה ובשל הסיכון שיריבותיהן יקדימו אותן או ימנעו מלהגביל את עצמן בצורה דומה וישיגו יתרון.

אף על פי שהסבירות שהמכתב, בפני עצמו, יוביל להשהיית הפיתוח בתחום ה-AI היא נמוכה וייתכן שמדובר בלא יותר מצעד פרובוקטיבי של בעלי עניין, עדיין ניתנה כאן הזדמנות להעלות את הנושא החשוב והדחוף לסדר היום הציבורי, עקב הסיקור התקשורתי הנרחב. אי אפשר לעצור את הקדמה והטכנולוגיה עקב הפוטנציאל העצום הטמון ב-AI לכלכלה, לביטחון ולרפואה, אבל אסור לנו להתעלם גם מן הצדדים הפחות מחמיאים ב-AI בהם: דיפ-פייק, דיסאינפורמציה, הטיות אלגוריתמיות, אלגוריתמים סוררים וסיכוני סייבר מוגברים.

על חברות ומדינות לנסות לתת לכל אלה מענה ולא להרים ידיים מראש. החברות הפרטיות, גם אם ירצו, לא תוכלנה לפעול ביעילות לבדן, ולכן המדינות הן אלה שמחויבות להגיב באמצעות שילוב בין בפתרונות טכנולוגיים לחקיקה מהירה. הדבר דחוף שבעתיים בתחומי ההתמודדות עם דיס-אינפורמציה והפגיעה הנרחבת האפשרית בשוק התעסוקה. אפשר רק לקוות שהגורמים המעורבים יגלו אחריות בזמן ויפעלו יחד ליצירת כלים להתמודדות עם המציאות המורכבת הזו, באופן שיאפשר ליהנות מהיתרונות של הטכנולוגיה המתקדמת, תוך צמצום החשיפה לסיכונים קיצוניים.

ענבר דולינקו היא חוקרת טכנולוגיה ומדיניות, בעלת תואר שני במדע המדינה מאוניברסיטת תל אביב, המתמחה בבינה מלאכותית.

ד"ר לירן ענתבי היא מנהלת תוכנית טכנולוגיות מתקדמות במכון למחקרי ביטחון לאומי, מרצה באקדמיה ויועצת לחברות וארגונים בתחום.