האח הגדול, עינו עצומה: כשלים במערכת זיהוי הפנים ההמונית בסין

מערכת זיהוי הפנים האורוויליאנית של סין יעילה הרבה פחות מכפי שמנסה המדינה להציג; לפי דיווח של הביזנס אינסיידר, מדובר במערכת בעלת יכולות מוגבלות ומצומצמות ביותר. בשנה האחרונה, החריד השלטון הטוטליטרי של סין פעילי זכויות אדם ואזרח רבים כשחשף בהזדמנויות שונות שימושים אפשריים של ++Face, מערכת זיהוי פנים מקיפה שפותחה עבורו.

בספטמבר, למשל, דווח שמשטרת צִ'ינְגְדָאו השתמשה במערכת כדי לזהות 25 מבוקשים בפסטיבל בירה, ובחודשים האחרונים כוחות משטרה בחֶנְאָן, גֶ'נְגְג'וֹאוּ, ובייג'ינג החלו להשתמש במשקפיים חכמים כדי לזהות פושעים. בשְׂיָאנְגְיָאנְג הוצב מסך ענק מעל למעבר חצייה, שלכאורה איתר וזיהה בזמן אמת הולכי רגל שחצו את הכביש שלא כחוק. בדצמבר, בשיתוף פעולה עם BBC, הדגימו השלטונות איך אפשר לזהות את מיקומו של כתב בתוך שבע דקות, בסיוע המערכת ומצלמות אבטחה.

ואולם, לדברי שְׂיֵה יִינְאָן, סגן נשיא בחברת הבינה המלאכותית Megvii, אחת הספקיות המרכזיות של טכנולוגיית זיהוי פנים למשטרת סין, המערכת הרבה פחות עצמתית מכפי שהוצג. בשיחה עם האינסיידר אמר שיה שלמערכת מגבלות טכנולוגיות רציניות. זאת, מכיוון שאף שהדיוק של ++Face עומד על 97% היא מסוגלת לחפש מספר מוגבל של פנים בכל רגע נתון.

כדי לתפעל את המערכת נדרשים השוטרים להעלות את תמונות הפנים שהם רוצים לזהות לשרת, שממנו תוכל המערכת להריץ את אלגוריתם זיהוי הפנים שלה. לדברי שיה, מגבלות עיבוד מידע מונעים מהמערכת לחפש יותר מ-1,000 פנים במקביל. מדובר במערכת שיש להפעילה אקטיבית, ושלא מסוגלת לבצע סריקה מתמשכת ועקבית. כדי לאפשר חיפושים בהיקף גדול יותר, אמר שיה, יש לחבר את המערכת למחשב-על. ואולם, לדבריו, מהלך כזה יהיה מסוכן מדי מבחינה אבטחית והמערכת חייבת לפעול בצורה מקומית ולא-מקוונת.

במקביל, חלק מהדוגמאות לשימושים של המערכת הוצגו בצורה מוגזמת. מסך הטלוויזיה בשיאנגיאנג, למשל, הציג הולכי רגל שחצו כלא כחוק לא בזמן אמת אלא בין חמישה לשישה ימים אחרי ביצוע העבירה. ולפי דיווח של הניו יורק טיימס, הזיהוי מתבצע בכלל באופן ידני, על ידי עובדים אנושיים. ומשקפי ה-AI שכוחות משטרה עושים בהם שימוש? הם עובדים רק אם המטרה עומדת במקום למשך מספר שניות.