אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר.
"אם מסתכלים בפורומים הנכונים, מגלים תעשייה שלמה של פריצה למחשבים"

הכמוסה

"אם מסתכלים בפורומים הנכונים, מגלים תעשייה שלמה של פריצה למחשבים"

איציק מנטין, מדען מוביל בחברת אימפרבה, חושף בראיון מרתק את אחד הצדדים האפלים של הבינה המלאכותית: התוקפים שרוצים לנצל אותה

17.05.2019, 08:00 | קרן צוריאל ואורי פסובסקי

זה אחד הטרנדים החמים בעולם הטכנולוגיה: כל השחקניות הגדולות מוציאות רמקולים חכמים או עוזרות חכמות שיושבים אצלנו בבית ועושים מה שאנחנו אומרים להם. לאמזון יש את אלכסה, מולה מתחרה גוגל Home, וגם פייסבוק בתמונה. האפליקציות והרמקולים האלה מסוגלים לשמוע מה אנחנו אומרים, ולתרגם את זה לדברים כמו חיפוש, השמעת שירים לפי פקודה, קניות, ולפעמים גם שליטה בבית החכם. אלא שיחד עם הטכנולוגיה החדשה, ועם כניסת הבינה המלאכותית לעוד ועוד תחומים בחיינו, מגיעה גם פירצת האבטחה. למשל "התקפת הדולפין".

קראו עוד בכלכליסט

"כל העוזרות הקוליות האלה משתמשות באלגוריתמים כדי לזהות את הקול שלך ולהבין מה הפקודות שאתה רוצה לתת", אומר איציק מנטין. "אבל חוקרים הצליחו ליצור התקפה המכונה 'התקפת דולפין', שבה מישהו שיושב במרחק סביר מהעוזרת האישית שלך מצליח לייצר גלי קול שאתה לא שומע - ושהיית יכול לשמוע אם היית דולפין. ככה הוא מסוגל לשדר פקודות שאף אדם לא יכול לשמוע ולהבין, אבל העוזרת הקולית מקשיבה להן, ותבצע אותן. ואתה יושב לידה ולא מבין מה קורה".

איציק מנטין איציק מנטין איציק מנטין

את מנטין, מדען מוביל בחברת אימפרבה, חוקר סייבר ובינה מלאכותית, ההתפתחות הזו לא מפתיעה. אחרי 20 שנה בתחום, הוא כבר מזהה את הדפוס. "זה קורה כמעט בכל טכנולוגיה חדשה שמכניסים אליה דיגיטציה וקישוריות. למשל מכוניות חכמות ועכשיו אופניים וקורקינטים - לאחרונה היו התקפות השתלטות על קורקינטים, השתלטות על דודים חכמים וגניבת מידע מבובות ברבי. תמיד קודם כל בונים את המערכות האלה, עושים להן דיגיטציה ופותחים את כל האפשרויות שהן נותנות, והאבטחה מגיעה קצת אחר כך. יש מעט מדי תחומים שבהם האבטחה מגיעה מראש ביחד עם הטכנולוגיה החדשה, ולא מנסים להוסיף אותה בדיעבד".

אז מי הוא התוקף שמנטין מדבר עליו? האם מדובר ב"מישהו ששוקל 200 קילו ויושב בחדר השינה שלו", כמו שנשיא ארה"ב דונלד טראמפ תיאר את ההאקרים שפרצו לקמפיין של הילארי קלינטון, או שאולי בימינו עומדים גורמים קצת יותר ממוסדים מאחורי התקפות סייבר?

"יכול להיות שבעבר ההתקפות היו כאלה: מישהו שיושב באיזה מרתף, משחק, משתעשע, מצליח לחדור למערכת של נאס"א או של הפנטגון וישר מתחיל למחוק דברים, כי 'איזה מגניב זה'. אבל העולם הזה השתנה לחלוטין, ועבר תיעוש. קחו בתור דוגמה את העולם של מערכות כופרה - כאלה שמצפינות את הקבצים שלך ומבקשות כופר. אם מסתכלים בפורומים הנכונים, רואים שיש שם תעשייה שלמה. למשל, גורם שמייצר כלים כדי להיכנס למחשבים של אנשים. הוא מזהה פירצה, בונה תשתית ולא משתמש בה אלא מוכר אותה לכל המרבה במחיר.

"עכשיו, נניח שאתה רוצה להרים קמפיין שמדביק אנשים בכופרה, וגורם להם להעביר כסף לחשבון ביטקוין שלך. אם לא בא לך ללכלך את הידיים אתה יכול לשכור מישהו, לשלם לו סכום מסוים ותמורתו הוא יביא כלי הדבקה של מחשבים ממקום אחד, ינהל את האופרציה, ינהל לך את החשבון ביטקוין, ואם אתה סומך עליו יעביר אליך את הכסף שהגיע לחשבון הזה".

"אם מסתכלים בפורומים הנכונים, מגלים תעשייה שלמה של פריצה למחשבים"
 
להאזנה לפודקאסט
לחץ כאן"אם מסתכלים בפורומים הנכונים, מגלים תעשייה שלמה של פריצה למחשבים"

בפרק מרתק של פודקאסט "הכמוסה" מבית כלכליסט מתאר מנטין שלל הדרכים בהם אפשר להערים על הבינה המלאכותית, כמו למשל הקנגורו שחשף את נקודת התורפה של המכונית האוטונומית. הוא מסביר איך אפשר לגרום לאלגוריתם של גוגל לזהות אוטובוס בתור יען, כיצד אפשר להערים על מנגנוני זיהוי הפנים בשדות התעופה באמצעות משקפיים צבעוניים, וגם מנסה לענות על השאלה: האם כדאי לנו להוציא את הבטריה מהטלפון בפגישות רגישות?

תגיות