ארה"ב: רשת בוטים רוסית השתמשה ב-AI כדי להפיץ מידע שקרי

מחלקת המשפטים של ארה"ב חשפה רשת בוטים רוסית של 968 חשבונות X (לשעבר טוויטר), שעשתה שימוש ביכולות מבוססות בינה מלאכותית (AI) על מנת להפיץ מידע שקרי בארה"ב ובמדינות אחרות, ובהן גם ישראל. לדברי מחלקת המשפטים, הרשת הוקמה והופעלה על ידי רשת החדשות הפוטיניסיטית RT, כחלק ממאציה להפיץ תעמולה פרו-רוסית.

לטענת הממשל האמריקאי, החל מ-2022 ביקשה RT, שנמצאת בשליטת ממשל פוטין, לפתח דרכים חלופיות להפיץ דיסאינפורמציה מעבר לשידורי הטלוויזיה הרגילים שלה. לתפקיד נבחר המשנה לעורך הראשי של RT (שמזוהה רק בכינוי A), שהוביל פיתוח של תוכנה ששימשה ליצירת והפעלת רשת הבוטים. רשת זו יצרה אישיות פיקטיביות בחשבונות מדיה חברתית, שדרכם יכלה RT להפיץ מידע בקנה מידה רחב. בתחילת 2023, בתמיכה ובמימון הקרמלין, קצין FSB (היורשת של ה-KGB) הקים צוות שכלל בין השאר עובדים של RT, שתפקידו היה לתפעל את רשת הבוטים ולהפיץ דיסאינפורמציה באמצעותה.

הדוגמאות לפעילות הרשת שמציגה מחלקת המשפטים כוללות חשבון שהתחזה לאזרח אמריקאי, שבמענה לפוסט של מועמד לתפקיד פדרלי בנוגע למלחמה באוקראינה פרסם סרטון שבו פוטין מצדיק את פעולות רוסיה במלחמה; חשבון שהתחזה לתושב מיניאפוליס שהעלה סרטון של פוטין מדבר על כך שאזורים בפולין, אוקראינה ולטביה שייכים לרוסיה; וחשבון שהתחזה לאזרחית אמריקאית ושפרסם סרטון שבו טוען פוטין שהמלחמה באוקראינה היא הבסיס ל"סדר עולמי חדש".

לפי הודעה משותפת של כוח משימה בינלאומי בהובלת ה-FBI, לצורך בנייה ותפעול הרשת עשו RT ועמיתיה שימוש ב-Meliorator כלי תוכנה ייעודי משולב AI שימש אותן ליצירת הדמויות הפיקטיביות ולהפצת התכנים. יכולות הכלי כוללות יצירה המונית של חשבונות מדיה חברתית בעלי מראה אותנטי; פרסום תוכן שדומה לתוכן טיפוסי של מדיה חברתית; שיקוף דיסאינפורמציה מבוטים אחרים; מינוף נראטיבים שיקריים קיימים כדי להעצים קמפייני השפעה; וניסוח מסרים בהתאם לאפיון הבוט. הפעילות של Meliorator זוהתה נכון ליוני 2024 ב-X בלבד, אך ניתן להתאים את פעילותו לרשתות מדיה חברתית אחרות.