אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר.
מדינות המערב משתמשות בזיהוי פנים ללא פיקוח הרבה יותר ממה שחשבתם צילום: שאטרסטוק

דו"ח טכנולוגי

מדינות המערב משתמשות בזיהוי פנים ללא פיקוח הרבה יותר ממה שחשבתם

למרות שנהוג להאשים את סין ורוסיה בהפרות פרטיות בוטות כגון מעקב אחרי האזרחים שלהן; מחקר מצא שגרמניה, הודו, ארה''ב ומדינות אירופיות נוספות מפעילות פלטפורמות זיהוי פנים ללא פיקוח בצורה הרבה יותר נרחבת ממה שציפו מהן

02.01.2020, 15:02 | עומר כביר
במרץ 2018 רכשה משטרת דלהי מערכת זיהוי פנים אוטומטית למטרה ספציפית מאוד: זיהוי ילדים נעדרים באמצעות התאמה לתמונות שמספקים הוריהם. פחות משנתיים מאוחר יותר, בסוף דצמבר, הודה ראש ממשלת הודו, נרנדרה מודי, שהמשטרה המקומית השתמשה במערכת על מנת לסרוק את קהל המשתתפים בהפגנה, במטרה למצוא "חשודים בהפרת החוק והסדר". מי שמכיר את הסמכותניות של ממשל מודי ואת יחסו למוסלמים, יתהה מי הם בדיוק אותם חשודים שמבקשת המשטרה למצוא באמצעות מערכת זיהוי הפנים, והאם היא לא נועדה לסמן מתנגדי משטר קולניים.

תהליך זה, שמכונה שימוש זוחל, הוא מאפיין מוכר של טכנולוגיות מתקדמות בשימוש כוחות אכיפת חוק וגורמים ממשלתיים: מערכת נרכשת למטרה מדויקת, אבל היכולות שלה כל כך גמישות וכל כך יעילות שאט אט זולג השימוש בה לתחומים נוספים, כאלו שלא נמנו במטרות המקוריות שלה. אבל המקרה של משטרת דלהי הוא גם המחשה לתהליך רחב יותר בכל הנוגע לטכנולוגיות זיהוי פנים, ושבמסגרתו חוסר מעש של ממשלות בארה"ב ובאירופה, בין אם מחוסר הבנה ובין אם כתוצאה מניגוד אינטרסים מובהק, מונע הטלת מגבלות על שימושים בטכנולוגיית זיהוי פנים. והופך למעשה את החברות שמאחורי הטכנולוגיה הזו לגורמים שמחליטים איפה היא תיפרס, מי יעשה בה שימוש ולאילו מטרות.

מערכת זיהוי פנים המונית בסין, צילום: רויטרס מערכת זיהוי פנים המונית בסין | צילום: רויטרס מערכת זיהוי פנים המונית בסין, צילום: רויטרס

תהליך זה זוהה בסקירה נרחבת וחוצת מדינות של אתר פוליטיקו. לפי הסקירה, גם בשעה שטכנולוגיית זיהוי פנים נפרשת בצורה רחבה באתרים כמו מעברי גבול, ניידות משטרה, איצטדיונים, נמלי תעופה ובתי ספר, מאמצים לבלום את התפשטותה נתקלים בחסמים ובהתנגדויות. הדבר נכון לא רק לארה"ב, שידועה בתגובה האיטית העד לא קיימת שלה לאיומי פרטיות, אלא גם במדינות האירופיות הרגישות ביותר לפרטיות, כמו גרמניה. זאת, בראש ובראשונה מכיוון שממשלות מערביות עצמן מאמצות את הטכנולוגיה לצרכיהן, תוך שהן מתעדפות שיקולי אבטחה ואיסוף מידע על פרטיות וזכויות אזרח.

לכך, מתווספים גורמים מקומיים שמקשים על קידום יוזמות בתחום, כמו דיוני ההדחה בקונגרס האמריקאי ששיתקו כל יוזמה דו-מפלגתית ומותו באוקטובר של חבר הקונגרס אלייז'ה קמינגס, שהוביל יוזמה כזו בנושא מערכות זיהוי פנים. באיחוד האירופי, בינתיים, קריאות לפעולה מהירה ויצירת רגולציה בתחום לא הביאו בינתיים לתנודה משמעותית, ומומחים מציינים שאפילו חוקי הפרטיות הנוקשים, GDPR, מאפשרים לרשויות לאסוף מידע ביומטרי במידה שהן יכולות להצדיק זאת. פרצה זו אפשרה, למשל, הצבת מערכת זיהוי פנים בתחנת הרכבת Südkreuz בברלין, שם היא סורקת עשרות אלפי אנשים כחלק מניסוי.

לפער שנוצר נכנסות חברות הטכנולוגיה שמייצרות מערכות אלו, ומשתמשות בכוחן על מנת ליצור בפועל את החוקים והכללים שיסדירו את ההתנהלות בתחום. לפני שנה, נשיא מיקרוסופט בראד סמית הציג שורת עקרונות לרגולציה של מערכות זיהוי פנים. ומנהל המדיניות הציבורית של חטיבת שירותי הענן של אמזון, AWS, קרא ליצירת חקירה ש"תגן על זכויות אזרח, תוך שהיא מאפשרת את המשך החדשנות והשימוש המעשי בטכנולוגיה". אמירה מוזרה מחברה שהפכה לספקית מובילה של מערכות זיהוי פנים לכוחות משטרה, צבא ארה"ב וסוכנויות ממשלתיות.

מערכת זיהוי פנים של ה-TSA בשדה תעופה אמריקאי, צילום: WBUR מערכת זיהוי פנים של ה-TSA בשדה תעופה אמריקאי | צילום: WBUR מערכת זיהוי פנים של ה-TSA בשדה תעופה אמריקאי, צילום: WBUR

בארה"ב, מציינים בפוליטיקו, יש ביקוש ניכר לטכנולוגיה זו מצד רשויות ברמה הפדרלית, ברמת המדינה וברמה המקומית. הטכנולוגיה כבר הותקנה בנקודות כניסה נבחרות לארה"ב, ובין הרשויות הגדולות שעושות בה שימוש נמנות משטרת פלורידה, משטרת קולרדו ומשטרת אורגון. בבריטניה, שתי יחידות משטרה החלו להשתמש בטכנולוגיה לזיהוי אוטומטי של עוברי אורח באמצעות מצלמות רחוב, משרד הפנים של הונגריה התקין 35 אלף מצלמות זיהוי פנים ברחבי המדינה והטכנולוגיה נפרשה גם בשדות תעופה שונים באיחוד.

"זה מדאיג", אמר לפוליטיקו פעיל זכויות האדם הגרמני מטיאס מונרוי. "בשילוב עם בינה מלאכותית, טכנולוגיה כזו לא תאפשר לאף-אחד להיות אנונימי במקום ציבורי". פטריק בראייר, חבר הפרלמנט האירופאי מטעם מפלגת הפיראטים הגרמנית, הוסיף: "צריך לעצור את טכנולוגיית זיהוי הפנים לפני שהיא תהיה עובדה מוגמרת". המגמה הזו בעייתית לא רק בגלל הפגיעה הישירה שנגרמת מעבודה תקינה של מערכות אלו, אלא מכיוון שפעמים רבות הטכנולוגיה בכלל לא מתפקדת כשורה. בדצמבר פורסם מחקר חדש, הנרחב ביותר מסוגו, בנושא שיעורי ההצלחה של מערכות זיהוי פנים שפורסם בארה"ב ונערך על ידי המכון הלאומי לתקנים וטכנולוגיה (NIST).

המחקר מאשש ממצאים של מחקרים קודמים בתחום: המערכות ממש גרועות בזיהוי כל מי שהוא לא גבר לבן. 189 אלגוריתמים מתוצרת 99 חברות נבחנו, ורובם טעו בזיהוי של אסייתים או שחורים בשיעור הרבה יותר גבוה לעומת לבנים. הבעיות האלו ידועות כבר שנים רבות תוצאה של לימוד האלגוריתם בעיקר באמצעות תמונות של גברים לבנים. כלומר, מערכות אלו לא רק שמעצם פעילותן מייצרות פגיעה בפרטיות ובזכויות אזרח, אלא שבאורח לא פרופורציונלי הפגיעה גדולה יותר כאשר מדובר באוכלוסיות מוחלשות.

אפליקציית זיהוי הפנים של אמזון שהחברה מכרה לממשלת ארה"ב, צילום: אמזון אפליקציית זיהוי הפנים של אמזון שהחברה מכרה לממשלת ארה"ב | צילום: אמזון אפליקציית זיהוי הפנים של אמזון שהחברה מכרה לממשלת ארה"ב, צילום: אמזון

זה בדרך כלל השלב בטור שבו אני אומר מה צריך לעשות, אילו פעולה צריכים הגופים הרלוונטיים לנקוט על מנת להתמודד עם המצב הלא-תקין שנוצר. ואולם, במקרה זה הבעיה היא שהגופים שאמורים לנקוט בפעולה הם אלו שאחראים לבעיה, ושאין להם אינטרס אמיתית לפתור אותה מכיוון שהמצב הקיים משרת אותם. אפשר לנסות ולצעוק, לעורר מחאה אזרחית, אולי אפילו לעתור לבתי המשפט. אבל אלא אם הממשלות יחליטו להתנער מחוסר הפעילות שלהן בתחום, ההשפעה של פעולות אלו תהיה זניחה ומערכות זיהוי פנים יופיעו ביותר ויותר מקומות ציבוריים.

קצרצרים

1. טיקטוק פרסמה דו"ח שקיפות ראשון, ובו היא טוענת שקיבלה אפס בקשות לקבלת מידע או הסרת תוכן מממשלת סין, זאת, למשל, בניגוד ל-79 בקשות לקבלת מידע על משתמשים ו-6 בקשות להסרת תוכן מרשויות בארה"ב. משהו כאן לא מסתדר לכם? אולי כי ממשלת סין לא ממש צריכה לבקש להסיר תוכן או לקבל מידע. החברות המקומיות שם מאולפות מאוד לעשות את זה בעצמן, בלי שום בקשה רשמית.

2. חטיבת מחקר הבריאות של גוגל הודיעה שפיתחה מערכת בינה מלאכותית לזיהוי סרטן שד, בעלת ביצועים זהים או טובים יותר לאלו של רדיולוגים אנושיים. לפי מחקר, שפורסם בכתב העת המדעי Nature, המערכת זיהתה מקרי סרטון שרופאים פספסו וסייעה להפחית את מקרי הזיהוי השגוי. עם זאת, מדובר עדיין במערכת ניסיונית שלא מוכנה לשימוש נרחב.
שיתוף בטוויטר שיתוף בוואטסאפ שיתוף בפייסבוק שיתוף במייל

תגיות