טכנולוגיית הדיפ פייק מגיעה לרשתות החברתיות וזה דווקא דבר טוב

אם צריך לסמן את החששות הטכנולוגיים הגדולים ביותר בפתח השנה החדשה, טכנולוגיות דיפ פייק יעמדו כנראה בראש הרשימה. היכולת להשתמש בתוכנה או באפליקציה על מנת ליצור סרטונים מזויפים לחלוטין אך כאלו שנראים אמיתיים, בהם אנשים עושים דברים שלא עשו או אומרים דברים שלא אמרו, מעוררת לא מעט חששות לקראת הבחירות לנשיאות ארה"ב בנובמבר הקרוב. ובראשם, שגל של סרטונים כאלו ישטוף את הרשת בעיצומו של הקמפיין ויאפשר לשחזר את מתקפת הפייק ניוז מבחירות 2016, רק בעוצמה גדולה יותר ובצורה משכנעת יותר.

על רקע זה, רשתות חברתיות כמו פייסבוק וטוויטר עושות בדיוק את מה שהיינו מצפים מהן לעשות, ומשקיעות בפיתוח כלים מבוססי בינה מלאכותית שיאפשרו לזהות ולהסיר במהירות סרטוני דיפ פייק. במקביל, יש רשתות שעושות בדיוק את מה שלא היינו מצפים מהן לעשות, ומשקיעות בפיתוח כלים שיאפשרו למשתמשים שלהן ליצור סרטוני דיפ פייק בקלות. אבל, למרות הסיכונים האפשריים שבהפיכת טכנולוגיה מסוג זה לנפוצה ונגישה לא מדובר בהכרח במהלך שיביא רק לתוצאות שליליות.

ביום שישי דווח על ההשקעות של שתי אפליקציות פופולריות במיוחד בקרב צעירים – סנאפצ'ט וטיקטוק – בפיתוח תכונות שיאפשרו יצירה קלה של סרטוני דיפ פייק. סנאפ, החברה האם של סנאפצ'ט, רכשה לפי דיווח של וראייטי חברה אוקראינית בשם AI Factory, בעסקה בשווי 166 מיליון דולר. הטכנולוגיה של של AI Factory מניעה תכונה חדשה שחשפה סנאפצ'ט בדצמבר, Cameos, שמאפשרת להחליף פרצופים של אנשים בתמונות סלפי של המשתמש. בסנאפצ'ט מיעדים את התכונה לשימוש בסרטונים הומוריסטיים קצרים, מעין GIF מבוסס דיפ פייק, ועובדת רק עם מאגר סרטונים שיצרה החברה (150 בהשקה, עם סרטונים חדשים שמתווספים מדי שבוע), אך ניתן בקלות להתאים אותה לעבודה עם כל סרטון, ולא מן הנמנע גם שסנאפצ'ט תעשה את זה.

במקביל, לפי דיווח של TechCrunch, טיקטוק מפתחת תכונה דומה שטרם הושקה. לפי קוד תוכנה שמוצפן באפליקציה, התכונה מאפשרת למשתמשים לבצע סריקה ביומטרית איכותית של הפנים שלהם ואז להשתיל את התמונה בתוך מבחר סרטונים ולשתף. במקרה זה יש בעיה ייחודית: טיקטוק, שנמצאת בבעלות חברה סינית בשם בייטדאנס, מה שהופך את כל הפעילות שלה לחשודה, בעיקר כשמדובר בשיתוף מידע אפשרי עם השלטונות בסין.

הניסיונות של בייטדאנס להרגיע את החששות באמצעות הפרדה לכאורה של פעילות טיקטוק משאר החברה לא משכנעים בינתיים אף אחד, ומחוקקים ורגולטורים בכל העולם מודאגים מהשפעה סינית על עבודת האפליקציה בכל הנוגע לצנזור תכנים והעברת מידע משתמשים. התכונה, אם תושק, רק צפויה להעצים את חשש הזה, שכן היא תוביל ליצירת מאגר של מאות מיליוני תמונות ביומטריות של משתמשים מערביים, שיכול בקלות להגיע לידי השלטונות ושירותי המודיעין של סין.

אבל, אם נתעלם רק לרגע מהסכנה המוחשית של שילוב כלי סריקה ביומטרי באפליקציה בבעלות סינית, ההנגשה של יכולות פייק ניוז לקהל הרחב היא לא בהכרח דבר שלילי. כן, יש לא מעט סכנות, ובראשם שכלים אלו יגיעו ליותר שחקנים רעים שיעשו בהם שימוש נרחב יותר על מנת להפיץ מידע מטעה ומפלג. אבל מדובר בחשש משני, בעיקר מכיוון שהגורמים המאיימים ביותר בעולם הפייק ניוז פועלים בחסות מדינות ויכולים לפתח או לזכות בגישה לכלים עצמתיים בהרבה מהיישומים הקצת ילדותיים של סנאפצ'ט וטיקטוק.

מנגד, אי אפשר להתעלם מהיתרונות הפונטציאלים של כלים אלו. ראשית, הם יכולים לספק למערכות זיהוי סרטונים דוגמאות נוספות ורבות על מנת לאמן את האלגוריתם שלהן לזיהוי טוב יותר של דיפ פייק. בנוסף, לפחות בתור התחלה הסרטונים שיווצרו באמצעותם יהיו כלים לזיהוי ונטולי חשש אמיתי להטעיה – שכן כולם מבוססים על מאגר קבוע ומנוהל של סרטוני בסיס, ולפחות במקרה של סנאפצ'ט כאלו בעלי אופי הומוריסטי מובהק שאין בו על מנת להטעות שום אדם. כלומר, אנחנו צפויים לראות אינפלציה של סרטוני דיפ פייק שברור לכל שהם דיפ פייק.

וזה דווקא דבר חיובי מאוד, כי המשמעות היא שיותר אנשים יחשפו לסרטוני דיפ פייק בכמויות גדולות, ויתחילו לזהות ולהפנים, אולי אפילו באופן לא מודע, את גליצ'ים ואת הפאקים הקטנים שאופיינים לסרטונים אלו ומסייעים למערכות AI לזהות אותם. אפשר לדמות את הדבר לחיסונים: לגוף מוזרק נגיף מומת או מוחלש שמעורר את מערכת ההגנה של הגוף לייצר נוגדנים. אם נדבק הגוף בנגיף חי וחזק, הגוף כבר מוכן להתמודדות אתו ולא מתקשה לחסל אותו במהירות. ייתכן שגם כאן, חשיפה מוקדמת ונרחבת לסרטוני דיפ פייק מוחלשים תסייע לזהות ולהתמודד בבוא היום עם סרטוני דיפ פייק חיים וחזקים.

בנוסף, השימוש הנרחב בטכנולוגיה יכול להגביר את המודעות של הציבור הרחב אליה, ולחדד את ההבנה שלא כל מה שרואים בסרטון משקף בהכרח את המציאות. הדבר יכול להוביל לחשדנות גבוה יותר כלפי סרטונים נפיצים, כזו שתשלח משתמשים לנסות ולעמוד על אמינותם, גם במקרה של סרטון מוצלח שלא ניתן לזהות בקלות כדיפ פייק, ולא רק לקבל את המוצג בהם כפשוטו. זה לא יקרה לכל המשתמשים, סביר להניח שאפילו לא לרובם, אבל כמות מספקת שלהם יכולה להטות את הכף במאמצים לזהות, להתריע ולהסיר את הסרטונים האלו. אין שום ודאות שזה מה שיקרה. ייתכן מאוד שלכלי הדיפ פייק של סנאפצ'ט וטיקטוק לא תהיה שום השפעה על החסינות הציבורית לסרטוני דיפ פייק מסוכנים. אולי הם אפילו יסייעו להנציח ולקדם את התופעה. אבל, לפעמים, יש קצת מקום לאופטימיות.

קצרצרים

1. בריטני קייזר, אנליסטית לשעבר של קיימברידג' אנליטיקה, הפכה את עורה והחלה להעלות לרשת כ-100 אלף מסמכים שחושפים את המניפולציות שנעשו על ידי החברה בכ-68 מדינות. המסמכים הראשונים עלו לרשת ב-1 בינואר, וחושפים מעורבות של החברה בבחירות במלזיה, קניה וברזיל. בנוסף הועלו מסמכים נוספים בנושאים כגון איראן, מסמכים של היועץ לביטחון לאומי לשעבר ג'ון בולטון ועוד. קייזר מבטיחה להמשיך ולהעלות את המסמכים אותם ניתן להוריד דרך חשבון טוויטר אנונימי.

2. עד כמה רצתה עיריית ניו יורק שאמזון תפתח את המטה החדש שלה בעיר? מספיק כדי להציע לענקית הטכנולוגיה הטבות בסך של 800 מיליון דולר יותר מכפי שהיה ידוע קודם לכן, כולל סבסוד חלקי של משכורות עובדים וחצי מיליארד דולר השקעה בהקמת "מרכז חדשנות מסחרית" שיפעל ליד מטה אמזון בשיתוף פעולה עם קולג'ים מקומיים. סך ההטבות הכולל שהוצע לאמזון עמד על 3 מיליארד דולר. אמזון קיבלה את ההצעה המפתה, אך בסופו של דבר נסוגה מהתוכנית לפתיחת המטה על רקע ביקורת ציבורית חריפה.

3. ממשל טראמפ חשף ביום שישי כלל שנועד להקשות על יצוא תוכנות בינה מלאכותית, במאמץ למנוע גישה לטכנולוגיות רגישות ממעצמות יריבות דוגמת סין. לפי הכלל, שייכנס לתוקף מחר (ב'), חברות שמייצאות סוגים מסוימים של תוכנות הדמיה יידרשו לקבל רישיון למשלוח לכל מדינה פרט לקנדה.