אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר.
מערכות זיהוי הפנים כבר יודעות את עמדתנו הפוליטית צילום: שאטרסטוק

מערכות זיהוי הפנים כבר יודעות את עמדתנו הפוליטית

מחקר חדש רתם את מערכות זיהוי הפנים לטובת זיהוי העמדה הפוליטית של המצולמים והתוצאות מפתיעות בדיוקן, עם יכולת זיהוי של 72%. ההשלכות של יכולות כזו מצטרפות לשלל שימושים מפוקפקים אחרים שנעשים בטכנולוגיה וצריכים להדאיג מאוד את כל מי שתמונתם ניתנת לאיתור ברשת

27.01.2021, 14:15 | עומר כביר
מערכות זיהוי הפנים הן מהטכנולוגיות הבעייתיות ביותר שנכנסו לחיינו בשנים האחרונות. אחת הבעיות המוכרות שלהן היא חוסר הדיוק בזיהוי פנים של מיעוטים בעלי צבע עור כהה . רק לאחרונה דווח בארה"ב על מקרה מחריד של גבר מניו ג'רזי ששהה 10 ימים במעצר ונאלץ להיאבק במשך שנה על חפותו, תוך שהוא משקיע בכך את כל חסכונותיו, לאחר שמערכת זיהוי פנים של כוח המשטרה מקומי קבעה כי הוא חשוד בתקרית שכללה תאונת דרכים עם ניידת משטרה. רק אליבי מוצג וקשה לערעור, לצד סירוב להיכנע לעסקאות טיעון מפוקפקות, מנע ממנו להישלח למאסר ממושך יותר.

אבל חמורות ככל שיהיו, בעיות מסוג זה הן חלק מחבלי הלידה של מערכות אלו שיתוקנו עם הזמן. בסופו של דבר מערכות זיהוי הפנים יהיו מדויקות מספיק על מנת להבדיל כראוי בין בני אדם ללא קשר לגוון עורם או למגדר שלהם, ואז יתחילו הבעיות החמורות באמת. הבעיה האמיתית במערכות זיהוי פנים היא לא כשהן לא מתפקדות כמו שצריך, אלא דווקא שהן עובדות מצוין ומספקות מידע רב לגורמים בעלי עוצמה.

זיהוי פנים, צילום: שאטרסטוק זיהוי פנים | צילום: שאטרסטוק זיהוי פנים, צילום: שאטרסטוק

לכשיהיו מערכות לזיהוי פנים עם שיעורי דיוק גבוהים מספיק, ניתן יהיה לנצל אותן לרעה בשלל דרכים מפחידות. סין, חלוצה עולמית בטכנולוגיות מעקב ושליטה, עושה שימוש נרחב במערכות אלה במסגרת מאמציה ליצור מדינת משטרה מודרנית ברוחו של ג'ורג' אורוול, ומפעילה אותה במגוון דרכים, החל מניטור ומעקב אחרי אוכלוסיית האויגורים ועד ככלי לשינוי התנהגות טריוויאלית של אזרחים בדמות מסכי ענק שמוצבים מעל מעברי חצייה ומציגים בבושה את האזרחים שחצו באור אדום.

במדינות עם דמוקרטיות מעורערות, כולל ישראל, קיים החשש שיעשה שימוש בעייתי במערכות זיהוי הפנים, כמו זיהוי משתתפים מחאות רחבות ורדיפתם באמצעות כוחות אכיפת חוק. לא סנריו מופרך, בהתחשב בכך שפעילי רשת נעזרים בטכנולוגיית זיהוי פנים כבר היום על מנת לזהות את הפורעים שפרצו לקפיטול בוושינגטון בתחילת החודש ולהביאם לדין צדק (כמובן שיש הבדל בין אזרחים פרטיים נטולי כוח אכיפתי שעושים שימוש בטכנולוגיה ככלי עזר לבין מדינה שמשתמש בה ללא אבחנה ככלי מרכזי).

תסריטים מדאיגים לא פחות מתעוררים משימושים במערכות כאלו על ידי גופים פרטיים. כיום, למשל, מרכולים רבים מרושתים במצלמות אבטחה. מבחינה תיאורטית, רשתות המרכולים יכולות להשתמש במערכות זיהוי פנים על מנת לזהות את הלקוחות שמבקרים בסופר, לנתח את התנהגותם במהלך הביקור – מול אילו מוצרים הם התלבטו, אילו הם קנו מבלי להסס, מה הכניסו לעגלה אך לאחר מכן התחרטו והשיבו למדף וכו' – ואז ליצור חוויה מפולחת באמצעות מבצעים שמותאמים אישית, העברת המידע למותגים שונים ועוד.

הטכנולוגיות שמאפשרות את זה הופכות יותר ויותר נגישות, והיכולות שלהן יותר ויותר מגוונות ורמת הדיוק שלהן עולה כל הזמן, וכתוצאה גם תרחישי השימוש האפשריים. ומחקר שהתפרסם החודש בכתב העת המדעי Sceintific Reports, מבית Nature Research מספק את הבסיס לאחד התרחישים המטרידים ביותר שמערכות זיהוי פנים מאפשרות: היכולת לזהות נטייה פוליטית של אנשים על סמך פניהם בלבד, בשיעורי דיוק גבוהים במיוחד.

המחקר, שמאחוריו עומד פרופסור מיקל קוסינסקי, מומחה להתנהגות ארגונית מאוניברסיטת סטנפורד, טוען שמערכות קיימות יכולות לזהות, על סמך תמונת פנים בלבד, האם אדם הוא ליברלי או שמרני בדיוק של 72% - גבוה הרבה מאמצעים אחרים כמו שאלון אישיות בן 100 שאלות שמחזיק רק ב-66% דיוק.

המחקר מבוסס על כ-1.1 מיליון תמונות פנים טבעיות של גולשים מארה"ב, בריטניה וקנדה שנאספו מאתר הכרויות ומפייסבוק. 978 אלף התמונות שנאספו מאתר הכרויות הועברו לחוקרים על ידי האתר (במחקר לא מצוין זאת, אך ככל הנראה ללא ההסכמה המפורשת או ידיעת המשתמשים), והנטייה הפוליטית שלהם זוהתה על פי הצהרתם בפרופיל האתר. "מכיוון שאנשים מעדיפים שותפים עם נטייה פוליטית דומה, יש תמריץ קטן לייצוג מוטעה שלה באתר היכרויות", נכתב במחקר. מפייסבוק נאספו כ-108 אלף תמונות, מגולשים שהשתתפו בשאלון אישיות מקוון ונתנו את הסכמתם לשימוש בפרטיהם ותמונתם במחקרים מדעיים. הנטייה הפוליטית זוהתה גם כאן על בסיס הצהרות הגולשים. 347 אלף מהתמונות היו של גולשים לא-לבנים, והפילוח על הספקטרום הליברלי-שמרני היה מאוזן.

על מנת לצמצם את השפעתם של גורמי רקע שיפריעו לזיהוי, התמונות נחתכו כך כשרק הפנים נשארו עם תיאור ממוחשב של 2,048 משתנים שונים, שכל אחד מהם מגדיר תכונה אחרת (face descriptors). "לרוב, דמיון בין מתארים משמש לזיהוי אלו שדומים מספיק על מנת לייצג את פניו של אותו אדם. כאן, כדי לזהות את הנטייה הפוליטית של הפרט, המתארים הושוו למתארים ממוצעים של ליברלים לעומת שמרנים", נכתב במחקר.

קוסינסקי לא יצר לצורך המחקר מערכת חדשה אלא הסתמך על מערכות שנמצאות כיום בשוק. "מכיוון שרצינו לבחון איומים קיימים על הפרטיות שלנו, במקום לפתח כלים פולשי-פרטיות חדשים, השתמשנו באלגוריתם זיהוי פנים בקוד פתוח, במקום לפתח אלגוריתם ייחודי לזיהוי נטייה פוליטית".

ניטור אזרחים, צילום: שאטרסטוק ניטור אזרחים | צילום: שאטרסטוק ניטור אזרחים, צילום: שאטרסטוק

התוצאות מפחידות: 72% דיוק בתמונות מאתר ההיכרויות, 73% דיוק בתמונות מפייסבוק. לשם השוואה, יכולת הדיוק האנושית (במחקר זה – סטודנטים שהתבקשו לצפות במאות תמונות ולהעריך את הנטייה הפוליטית של המצולם) היתה גבוהה רק במעט מניחוש אקראי ועמדה על 55%. ואולם, יש כמה מאפיינים ברורים לזיהוי פוליטי. גברים לבנים מבוגרים יותר הם לרוב בעלי נטייה שמרנית. כשנוספו משתנים כמו מוצא, גיל ומגדר רמת הדיוק ירדה, אך רק ב-3.5% בממוצע. "הדבר מצביע על כך שפנים מכילים הרבה יותר אותות לנטייה פוליטית", נכתב.

המודעות ההולכת וגוברת לפרטיות ברשת מובילה משתמשים רבים לצמצם את החשיפה המקוונת שלהם ולהיזהר משיתוף פרטים אישיים ברשתות פומביות. אבל תמונת פנים היא אוניברסלית. היא פרט שכמעט אין אדם שלא משתף אותה למעשה, יש סיכוי סביר שבקרב משתמשי האינטרנט במערב יש רק אדם אחד שתמונת הפנים שלו לא קיימת ברשת בשום פורמט.

מחקרים קודמים כבר הראו בעבר שניתן להשתמש בתמונות פנים על מנת לזהות לא רק משתנים פיסיים כמו גיל, מוצא ומגדר אלא גם משתנים פנימיים כמו נטייה מינית, תכונות אישיות שונות. עתה, גם נטייה פוליטית מצטרפת לרשימה. וההשלכות כאן לא פשוטות.

בקמפיינים פוליטיים, למשל, זיהוי הנטייה הפוליטית של קהל היעד, יכול להיות כלי משמעותי במאמצי הטרגוט. אם מפלגה שמתמודדת בבחירות יודעת בדיוק גבוה לאיזה צד של המפה הפוליטית נוטים המשתמשים, היא יכולה להציג להם פרסומות בהתאם: מסרים שישכנעו אותם להצביע בעבורה לאלו שנמצאים בצד שלה, ומסרים שישכנעו אותם להמנע מהצבעה לאלו שבצד השני של המפה.

במשטרים לא-דמוקרטיים או במדינות עם דמוקרטיה לא יציבה יכולות המערכות מסוגלות לסמן מתנגדים פוליטיים אפשריים גם אם מעולם לא השתתפו בהפגנה או כתבו נגד המפלגה או השליט, רק על סמך תמונות פנים שלהם שנאספה ממצלמה שמוצבת ברחוב או מרשת חברתית, ואז לשים אותם תחת מעקב מוגבר או להטיל עליהם מגבלות שונות שיקשו על חייהם. ומנגד, ניתן לספק הטבות למי שזוהו כתומכים אפשריים על מנת לחזק את תמיכתם.

מעקב מצלמות אבטחה, צילום: שאטרסטוק מעקב מצלמות אבטחה | צילום: שאטרסטוק מעקב מצלמות אבטחה, צילום: שאטרסטוק

האפשרויות לשימוש בטכנולוגיות זיהוי הפנים הן מוגבלות רק על ידי הדימיון והמוסר של בעלי השררה. ובמקרים רבים, הדימיון יהיה רחב ומעוות והמוסר סמלי יעלם כלא קיים. המציאות המפחידה היא שיהיה מאוד קשה לעצור את השימושים הללו בטכנולוגיה. מעט ממשלות, בוודאי סמכותניות, יטילו מרצונן מגבלות על טכנולוגיות שמעצימות את כוחן. העובדה שנעשה שימוש בכלי קוד פתוח שלא מצריך השקעה משמעותית מבטלת את האפשרות שדמוקרטיות מערביות, שמשמשות כבית של מרבית חברות הטכנולוגיה, יוכלו להגביל את התפוצה של אותו כלי אלו באמצעות רגולציה על החברות – מי שרוצה ליצור מערכת דומה לשימוש זדוני יכול לעשות זאת והוא לא באמת צריך אותן. אותו הדבר נכון למפלגות פוליטיות במדינות דמוקרטיות, שיכולות ליצור מערכות כאלו במשאבים מוגבלים ולהשתמש בהן בלי ידיעת הגורמים שמפקחים על הבחירות.

הטכנולוגיה, ולא רק בתיאוריה, כבר כאן. עכשיו זו רק שאלה של מי יתחיל להשתמש בה, ואיך.

שיתוף בטוויטר שיתוף בוואטסאפ שיתוף בפייסבוק שיתוף במייל

תגיות