Generative AI: הכוח ההרסני וההזדמנויות בזירה הגיאופוליטית

"מי ששולט בעבר שולט בעתיד; מי ששולט בהווה שולט בעבר" – המשפט הזה מתוך "1984" של ג'ורג' אורוול נשמע היום יותר מציאותי מתמיד.

מה היה קורה אילו ניתן היה לשכתב את ההיסטוריה בלחיצת כפתור? אילו כל אירוע, עובדה או דמות היסטורית יכלו להשתנות ברגע? ומה אם היכולת הזו הייתה נגישה לכל אחד, בכל מקום בעולם?

בעידן הדיגיטלי המתקדם, Generative AI משנה את הדרך שבה אנו מבינים, יוצרים וצורכים מידע. טכנולוגיות כמו ChatGPT ו-Runway מאפשרות ליצור טקסטים, תמונות וסרטונים המחקים מציאות עד כדי טשטוש הגבול בין אמת לשקר. אך עם זאת, כוח רב זה מביא עמו סיכונים חדשים ומורכבים המשלבים אתגרים גיאופוליטיים חמורים, במיוחד עבור ישראל בתקופה קשה זו שבה אנו נמצאים במלחמה רב מערכתית וחזיתית, ומוקפים באנטישמיות גואה.

כיום, האפשרות לייצר מידע מטעה בקנה מידה רחב יוצרת הזדמנויות חדשות למניפולציה, במיוחד במרחבים כמו הרשתות החברתיות והתקשורת הדיגיטלית. גורמים מדינתיים ולא מדינתיים כאחד עושים שימוש בבינה מלאכותית כדי לעצב נרטיבים ולערער יציבות פוליטית. מדובר באיום ממשי על קיומנו, כאשר קמפיינים של דיסאינפורמציה תורמים להקצנה של דעות גזעניות ואלימות ברחבי העולם, מה שמוביל לעלייה משמעותית באנטישמיות ובשנאה.

דו"ח עדכני של OpenAI שפורסם החודש ממחיש את האיומים הנשקפים מדיסאינפורמציה מבוססת AI. מאז תחילת השנה, נחשפו מעל 20 מבצעי השפעה שנוצלו לרעה על ידי גורמים זרים, תוך שימוש בטכנולוגיות AI ליצירת תכנים מזויפים הנוגעים לבחירות ולהתפתחויות פוליטיות ברחבי העולם, כולל בישראל. מדינות כמו איראן, רוסיה וסין, המשתמשות בבינה מלאכותית להפצת תעמולה, זריעת שנאה והצגת דימויים מעוותים של מציאות פוליטית, מציב איום ישיר על קיומה וביטחונה של ישראל.

דו"ח של אונסק"ו והקונגרס היהודי העולמי מתריע על האתגרים שמציבה הבינה המלאכותית הג'נרטיבית לשימור זיכרון השואה ואירועים היסטוריים מכוננים אחרים ומצביע על שלוש בעיות מרכזיות: יצירה והפצה מהירה של תוכן מזויף המנוצל להפצת דיסאינפורמציה על ידי שחקנים זדוניים, מחסור במידע אמין ונגיש ממקורות רשמיים ונטייה לפשט יתר על המידה נושאים היסטוריים מורכבים. התוצאה היא עיוות אפשרי של הזיכרון ההיסטורי במיוחד בקרב הדור הצעיר הנשען על מודלי שפה מבוססי AI לצורך חיפוש וצריכת מידע, מה שמעלה שאלות קריטיות לגבי אמינות ודיוק המידע והשפעתו על עיצוב דעת הקהל היום ובעתיד הקרוב.

לישראל, שממוקמת במרכז זירה גיאופוליטית סוערת, הסיכונים של דיסאינפורמציה והפצת נרטיבים מזיקים יכולים להיות קיומיים. מול איומים אזוריים כמו משטרים עוינים המבקשים לערער את קיומנו, השפעות הדיסאינפורמציה עלולות לפגוע ביציבות הפוליטית והחברתית של המדינה, לפגוע במעמדנו בזירה הבינלאומית ולערער את זכות קיומנו. לכן, מדובר במצב חירום המחייב פעולה מיידית, וישראל נמצאת בעמדה ייחודית לנצל את כוחה הטכנולוגי, כולל Generative AI, כדי להילחם בנרטיבים אלו ולהגביר את יכולות ההגנה שלה.

בזירה הדיגיטלית, הבינה המלאכותית הג'נרטיבית היא גם המגן וגם החרב של ישראל, המאפשרת לה להילחם בהפצת דיסאינפורמציה מצד "ציר הרשע" של משטרים אוטוריטריים ואויבי הדמוקרטיה, המנסים לפגוע בדמוקרטיות ברחבי העולם. כמדינה דמוקרטית יחידה במזרח התיכון, ישראל ממלאת תפקיד אסטרטגי לא רק עבור האזור אלא גם עבור כלל המדינות הדמוקרטיות בעולם, תוך שימוש ביכולותיה הטכנולוגיות המתקדמות להוביל את המאבק הזה ולהגן על ערכי החופש והשלטון הדמוקרטי.

שירן מלמדובסקי סומך | צילום: מאי סביר

בשימוש חכם, ניתן להפעיל את הטכנולוגיה כדי להילחם בדיסאינפורמציה ובהסתה המכוונת כלפי ישראל, לייצר נרטיבים חיוביים ולהגביר את יכולות ניטור התוכן העוין המופץ ברשתות חברתיות. כמו כן, AI יכולה לשמש בזיהוי וניטור מתקפות סייבר והפצת שנאה, כמו גם בהנגשת תכנים חינוכיים במטרה לחזק את תדמיתה של ישראל בזירה הדיגיטלית ולהלחם בתכני אנטישמיות ושנאה.

בהתמודדות עם הסכנות וההזדמנויות שמביאה עמה הבינה המלאכותית הג'נרטיבית, ישראל חייבת לפתח אסטרטגיות חדשניות שיבטיחו את קיומה וביטחונה. רק באמצעות גישה מאוזנת, המשלבת פיתוח טכנולוגי, יצירת אקוסיסטם מבוסס ושיתופי פעולה גלובליים, נוכל להבטיח שטכנולוגיה זו תשרת את החברה בצורה הטובה ביותר.

מעמדה של ישראל כדמוקרטיה במזרח התיכון מעניק לה חשיבות כמודל לשיתוף פעולה עם מדינות דמוקרטיות. הניסיון שלה בהתמודדות עם איומים ביטחוניים ותודעתיים, לצד טכנולוגיות ה-AI המתקדמות, מאפשר לה להוביל את ההגנה על ערכים דמוקרטיים בעידן המודרני.

ההמלצות לפעולה מתחילות בעידוד שיתופי פעולה בין ממשלות וגורמים בינלאומיים, חברות טכנולוגיה, מוסדות אקדמיים וארגוני חברה אזרחית למציאת פתרונות כוללים לאתגרים שמציבה הבינה המלאכותית לרבות קידום רגולציה. יש להשקיע בטכנולוגיות AI מתקדמות שיאפשרו לזהות ולסמן תוכן מזויף או מטעה, וליצור כלים שיגנו מפני מניפולציות שעלולות לפגוע בתהליכים דמוקרטיים ובקהלים גדולים. כמו כן, יש לפתח תוכניות חינוכיות שמטרתן להעלות את המודעות לסכנות הדיסאינפורמציה ולהקנות כלים לצריכת מידע ביקורתית בטווח הקצר והארוך.

לסיכום, Generative AI מציב בפני ישראל אתגרים מורכבים, אך יחד עם זאת, הוא יכול להוות פיתרון פוטנציאלי להגנה על ערכינו, ההיסטוריה שלנו וביטחוננו הלאומי. בידי ישראל האפשרות לא רק לשרוד, אלא גם להוביל את הדרך בשימוש בטכנולוגיות מתקדמות לשם עיצוב נרטיבים חיוביים והגנה על עתידה.

שירן מלמדובסקי סומך היא המייסדת והמנכ"לית של חברת הייעוץ Generative AI for Good