"הצלחנו לתקוף את המערכות של אמזון וגוגל"

"הצלחנו לתקוף את המערכות של אמזון וגוגל", כך אמר ד"ר יוסי קשת מהמחלקה למדעי המחשב באוניברסיטת בר אילן, הבוקר (ב') בפאנל הרכב האוטונומי – מנוע הצמיחה החדש של הסטארט-אפ ניישן, בוועידת הדיגיטל והמובייל של "כלכליסט" בשיתוף בנק הפועלים ומכון היצוא.

קשת תיאר כיצד על ידי הוספת רעשים לתמונות או לקולות, הצליחו חוקרים במעבדתו להטעות מערכות המבוססות על למידה עמוקה - תחום מחקר שמנסה לחקות באופן ממוחשב את פעולת המוח האנושי. החוקרים הצליחו לתקוף ב-96% את מערכות הלמידה של אמזון, באמצעות פעולה פסיבית אשר שינתה את התמונות המוצגות באתר.

"אנחנו לא חודרים למערכות", הסביר. "אנחנו יכולים לקחת את התמונות, להוסיף להן רעש ולהפוך אותן לאחרות. הבנו שאפשר לעשות זאת לכל מערכת לומדת מורכבת. על ידי הוספת רעש, המערכת של ניטור תנועה לא זיהתה הולכי רגל".

המעבדה שמוביל ד"ר קשת עוסקת בבניית אלגוריתמים של למידה עמוקה, למידת מכונה ושל בעיות מורכבות. בנוסף, המעבדה חוקרת השלכות של שפה ודיבור - כמו מה המשמעות של דיאלקטים ומבטאים שונים, מה המשמעות החברתית של הדיבור והאם אפשר למצוא גובה ומשקל של אדם, ולזהות מחלות של סכיזופרניה לפני ההתקף - כל זה על סמך הדיבור.

בניסויים שנערכו במעבדה מצאו כי הרעש לא חייב להיות על כל התמונה, ומספיק שיהיה בנקודות מסוימת - למשל הוספת משקפיים. "האנשים המצולמים זוהו כאנשים אחרים בשל המשקפיים שהרכיבו ושהדפיסו במדפסת תלת מימד. לכך יכולות להיות משמעויות למשל בשדה התעופה, שם תוכלו להזדהות כאחרים".

הפריצות באבטחה לא מוגבלות רק להטיות של דימויים ויזואליים אלא גם להטיות של קול. "גרמנו להטייה של google-voice, והצלחתי לקבוע להם איזו מילה הם יזהו. בזיהוי דובר כמו בבנקים, הצלחנו שהמערכת תזהה את דובר 148 כדובר 23. צריך לחקור מערכות של למידה עמוקה כך שייראו ויישמעו יותר טוב, אבל בעיקר בנושא של אבטחה".