פותח קוד מיוחד שמשבש כלים לזיהוי פנים בתמונות
חוקרים מקנדה בנו תוכנה שיודעת לשנות פיקסלים בודדים בתמונות באופן שמבלבל כלי זיהוי פנים מקוונים. התוכנה נבנתה תוך למידת נקודות התורפה של הכלים האמורים, שמשמשים ממשלות וחברות מסחריות לניטור המוני של הציבור
צוות חוקרים מאוניברסיטת טורונטו פיתח אלגוריתם חכם לשיבוש מערכות זיהוי פנים. מדובר בתוכנת בינה מלאכותית שנשענת על תוכנות לזיהוי פנים בתמונות שהועלו לרשת, מאבחנת את הפרמטרים שהן סורקות - ומעוותת אותם. בעיני המשתמש, לא מופיע כל שינוי בתמונה, אך התוכנה שתסרוק אותה לא תדע לזהות מי מופיע בה.
לא מדובר בכלי שמסוגל להגן על פרטיות הציבור מפני מצלמות רחוב וכלים אחרים שמשמשים לזיהוי משתמשים בחלל הציבורי. מטרתו שונה: שיבוש סורקי פנים מקוונים, שעוברים על תמונות סטילס שהועלו לרשת ומופעלים בידי גורמים ממשלתיים ומסחריים.
התוכנה פותחה בטכניקה בדוקה ומוכרת: אלגוריתם השיבוש נבחן מול מערכות זיהוי התמונה שוב ושוב, עד שלמד את דרכי הפעולה שלהן. די בביצוע שינוי פיקסלים בקצוות העיניים, העלמת נקודות ייחודיות בפנים, הזזה מינורית של קצה השפה ושיפורים זעירים אחרים כדי שתוכנות זיהוי הפנים לא יוכלו לדעת שמדובר באדם שהן מחפשות.
ואולם, תהליך פיתוח התוכנה כלל הצבת אתגרים יותר ויותר גדולים עבורה, כך שתוך כדי בנייתה הצליחו החוקרים להרכיב גם כלי זיהוי פנים חכם במיוחד - שגם הוא זכה ליכולות למידה ושיפור. משחק חתול ועכבר שכזה מתבצע במעבדות רבות, חלקן מקושרות לגורמים צבאיים ושלטוניים, שמעוניינים להשביח יכולות זיהוי פנים ולהפעילן בכמה שיותר סיטואציות. לראייתי, עד שלא יתחילו ממשלות לכבד את פרטיות הציבור, ימשיך פיתוח כלי הניטור ההמוני הללו, שתמיד ייהנו מתקציבים גדולים ויצליחו לעקוף את התוכנות שמשבשות אותם.
2 תגובות לכתיבת תגובה