אני שומע שעצוב לך. קנה משהו

מעל ל־180 מוזיקאים, פעילי זכויות אדם ואקדמאים חתמו בשבוע שעבר על מכתב פתוח שקורא לספוטיפיי לזנוח פטנט שמתיימר לזהות מצב רגשי לפי מנעד קולי. הכותבים מביעים חשש מפני הטכנולוגיה שמטרתה לעקוב, לנטר ולנתח את מצבם הרגשי של המשתמשים כדי להמליץ להם על תכנים בהתאם. “ספוטיפיי טוענת כי הטכנולוגיה יכולה לזהות, בין היתר, מצב רגשי, מין, גיל או מבטא כדי להמליץ ​​על מוזיקה”, הם כתבו והזהירו, “זו טכנולוגיה מסוכנת. היא מהווה פגיעה בפרטיות ובזכויות אדם אחרות, ואין ליישם אותה על ידי ספוטיפיי או כל חברה אחרת”.

המכתב מגיע בתקופה שבה הסנטימנט הציבורי סביב ענקיות הטכנולוגיה נמצא בשפל של כל הזמנים, בפרט לגבי הדרכים המתוחכמות שבהן הן מנצלות מידע משתמשים להגדלת שורת הרווח שלהן.  תשומת הלב הציבורית מייצרת הזדמנות יוצאת דופן לנהל משא ומתן ציבורי על גבולות המעקב מצד חברות פרטיות. ואכן, עם ההודעה על אישור הפטנט התעוררה התקוממות רבתי שנגעה למגוון היבטים מפרטיות, דרך אבטחת נתונים ואף אמנותית. הרעיון שהחברה תקדם השמעת מוזיקה על סמך שיטות מעקב ולא על סמך האומנות עצמה, הטריד יוצרים רבים. המחלוקת הזו היא שהביאה את ספוטיפיי להודיע שאין לה תוכניות לשלב את הטכנולוגיה במוצרי החברה בעתיד הנראה לעין, אך הדגישה כי עומדת לה “המחויבות לחדש” ולא התחייבה לגנוז את הפטנט או לא למכור אותו לצד שלישי.

האפליקציה של ספוטיפיי. כלי ההאזנה והניטור לא יכנסו לשימוש בקרוב | צילום: שאטרסטוק

1. מאזינים לכם

את הפטנט מעורר המחלוקת הגישה ספוטיפיי עוד ב־2018, אך הוא אושר רק בינואר האחרון. ספוטיפיי היא כמובן לא הראשונה שמפתחת טכנולוגיה כזו. באוגוסט השיקה אמזון את Halo צמיד שנועד, בין היתר, לנתח את קול המשתמש ולזהות את רגשותיו כחלק ממה שהחברה מכנה “ניטור בריאות רגשי”. לטענת אמזון הצמיד יכול “להבין” אנרגיה חיובית על בסיס קולו ולעדכן את העונד כיצד הוא נתפס חיצונית על ידי נהג מונית או מלצר, למשל; האם הוא נשמע “מלא תקווה”, “נטול דאגות” או “לחוץ”. האיתותים אמורים לסייע לעונד הצמיד לווסת את מצבו הרגשי כדי להיטיב עמו ועם סביבתו. אמזון ציינה כי היא לא תשתמש בפרופיל הקול הזה כדי לדחוף למשתמשים מודעות מותאמות אישית. אם כי מדובר על הבטחה עם רלבנטיות מוגבלת במיוחד שכן מודעות מותאמות אישית אינן ליבת עסקיה. היא אמנם מוכרת תובנות כאלה ככלים לארגונים וחברות, אבל המיקוד שלה הוא בשיווק מוצרים או תוכן ללקוחות, כפי שהיא אכן עושה עם כלי אחר שפיתחה - אלקסה. 

אכן, בשנים האחרונות עיקר תשומת הלב בכל הקשור לטכנולוגיות אודיו הוקדשה לפיתוחים לסייענים וירטואליים כמו אלקסה, סירי של אפל או קורטונה של מיקרוסופט ומכשירים חכמים אחרים שמגיבים להנחיות קוליות. מרבית המוצרים הללו כוללים גם רכיב של הקלטה בלתי פוסקת. השתתפות הולכת וגוברות זו תרמה לבניית מערכי נתוני קול מסיביים לשימושן של החברות. באופן כמעט דטרמיניסטי האחזקה במערכי מידע עצומים הובילה את ענקיות הטכנולוגיה לעשות את מה שהן עושות תמיד - לנסות להפיק מהנתונים דפוסים ותובנות על מאפייני האישיות האינטימיים ביותר של המשתמשים, מה שמכונה “פרופיל קולי”. הרעיון מאחורי המוצרים האלו עסקי: אם ניתן ליצור פרופילים ייחודיים למשתמשים, אז ברור שניתן למקד אליהם מסרים או לעמוד על איכותם כאנשים.

איור: יונתן פופר

2. מנתחים אתכם

מאחורי הנחות יסוד אלו ניצבות כמה תפיסות מעוררות מחלוקת ואפילו חשש. המצדדים בפיתוח כלי זיהוי ביומטרי טוענים כי מדדים אלו הם הגביע הקדוש לאימות זהות ומניעת התחזות מהסיבה הפשוטה שהם אינם ניתנים לזיוף. מדדים כמו טביעת אצבע, דפוסים גיאומטריים של תווי הפנים או תבניות קוליות הינם מאפיינים ייחודיים. לכן, אפשר לזהות, להבחין ולהגדיר בני אדם אפילו מרחוק רק באמצעים כמו מדידת הגולגולת שלהם או ניתוח דפוסי הקול שלהם. כל זאת למרות שפעם אחר פעם יכולות מתקדמות כאלה מופרכות מדעית.

לאורך ההיסטוריה האנושית יומרות כאלה צצות שוב ושוב בקול תרועה, חלקן נעלם כלעומת שבא כשהן מתבררות כשגוית, אבל יש כאלה שנותרו בשימוש למרות הבעייתיות שלהן. אחת הדוגמאות היותר מוכרות מהעשורים האחרונים היא זו של הפוליגרף, אותה “מכונת אמת” שהומצאה כדי לקלוט ניואנסים פיזיולוגיים לא רצוניים שיזהו, בוודאות גבוהה, האם הנחקר משקר. אף שהוכח כבר לפני שנים שהטכנולוגיה לא מספקת רמת אמינות מספקת והיום כבר אין כמעט מדינה בעולם שמעניקה תוקף משפטי לתוצאות הפוליגרף, המכשיר עדיין משמש כלי עזר נפוץ בחקירות פליליות ובבדיקות רקע שגרתיות. 

אחרי הפוליגרף הגיע שעתן של הטכנולוגיות לזיהוי פנים.  גם כאן הוכח שוב ושוב שיש בעיה מובנית באופן שבו כלים כאלה פועלים ושהם נכשלים באופן מרהיב בבואם לזהות תווי פנים של נשים או של כל מי שצבע עורו אינו לבן. גם טכנולוגיות שמתיימרות לאתר רגשות באמצעות ניתוח תנועות פנים הופרכו מחקרית, אולם גם היום שורת מוצרי בינה מלאכותית פופולאריים שנמצאים בשימוש מסחרי נרחב לאיתור הונאות, למשל, מבוססים על פיתוחים אלה בדיוק. 

3. מכירים אתכם

הפטנט של ספוטיפיי, כמו גם המוצר של אמזון וחברות נוספות, משתייכים לאותו שדה של פסאודו־מדע. קיימים אומנם מחקרים רבים שמזהים מתאם בין שינוי בטון הדיבור ודפוסי הצליל למצבו הרגשי של האדם, אך הם תמיד מוגבלים לאוכלוסיה מסוימת. חוקרים אפילו מזהירים מפני אימוץ כלים כאלה בצורה גורפת משום ההטיות האפשריות על בסיס לאום, תרבות והקשרים חברתיים שונים. לאמזון או ספוטיפיי אין כאמור מחקרים שתומכים בטענה כי בידם טכנולוגיה שמסוגלת לזהות באופן מהימן רגשות על בסיס ניתוח ביומטרי של קול. זה לא עוצר אותן מלפתח ולשווק מוצרים כאלה. 

הפראות שבה תחומים אלו מתנהלים, למרות הבעייתיות המדעית והאתית שמהדהדת כל הזמן ברקע, הופכת אותם למסוכנים במיוחד. פעם, עוד לפני שחברות הטכנולוגיה הפכו להיות הענקיות שהן היום, מקרים דומים היו מנוהלים בזהירות גדולה יותר. כך למשל כשהיכולת לבנות פרופילים גנטיים הלכה והשתכללה, ידעו המחוקקים למהר ולהסדיר את התחום כדי להבטיח שידע ומדע חדש לא ינוצל לרעה או ישמשו כלי לאפליה ומשטור. אולם הריצה הטכנולוגית המהירה מקשה על המחוקקים לעמוד בקצב ולתת תשובה רגולטורית במועד הנכון. התוצאה היא חברות ענק עם תפוצה גלובלית ותקציב בלתי נתפס שמפתחות, ולעיתים גם משמישות, טכנולוגיות שהשלכותיהן לא נבחנו דיין במהירות וללא הגבלה. הקריאה לפיקוח אינה שמרנות, אלא ניסיון להבטיח הגנה ושוויון לכל מי שהוא קהל היעד של הטכנולוגיות הללו, בין אם הוא מודע לכך או לא.