אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר.
עבודות פרך בכלא, גרסת 2019: אימון תוכנות בינה מלאכותית צילום: שאטרסטוק

דו"ח טכנולוגי

עבודות פרך בכלא, גרסת 2019: אימון תוכנות בינה מלאכותית

חברת טכנולוגיה משתמשת באסירים כדי ללמד יישומי AI לפעול בצורה אוטומטית - מה שמעלה פוטנציאל לניצול מזעזע, אך גם נקודת אור; הבחירות באוקראינה נפתחו תחת צל כבד של מתקפות סייבר רוסיות שמטרידות מומחים בכל העולם; ואיך קרה שפייסבוק מחקה בטעות פוסטים של צוקרברג

31.03.2019, 13:54 | ניצן סדן

AI מאחורי הסורגים

בכל סרטי המד"ב הדיסטופיים בהם מוצג כלא, נראה שהזמן קפא: אולי האבטחה תתבסס על רובוטים והכלא ימוקם באיזה מקום ממנו אין טעם לברוח - אך האסירים עדיין יסתובבו באוברולים ויחיו חיים קשים ואלימים בתאים מסורגים. סיפור שמגיע אלינו מפינלנד עשוי לשפוך אור על עתיד בתי הכלא בעידן הבינה המלאכותית: בתי ספר לתוכנות.

חברת Vainu המקומית השיקה בשני בתי כלא פיילוט יצירתי במסגרתו אסירים מאמנים יישומי AI. ויש הרבה מה לאמן: תוכנות בינה מלאכותית מצריכות המון הדרכה של מפקח אנושי לפני שיוכלו להתחיל ללמוד בעצמן. למשל, איך תבדיל מכונית אוטונומית בין הולך רגל שעומד לחצות כביש ובין עץ בגובה אדם, שמתנדנד קצת ברוח? התוכנה צריכה שמישהו יעבור איתה על תמונות וסרטים ויסמן לה "כן, זה באמת אדם" ו"לא, זה עץ" - מלאכה מונוטונית ומתישה להפליא, שתגרום לאדם הסביר להשתולל משעמום. למי יש זמן פנוי? לאסירים כמובן.

במקום לנפץ סלעים, עוזרים להרכיב AI, צילום: שאטרסטוק במקום לנפץ סלעים, עוזרים להרכיב AI | צילום: שאטרסטוק במקום לנפץ סלעים, עוזרים להרכיב AI, צילום: שאטרסטוק

Vainu היא חברת השמה ופרויקטים בתחומי ההייטק, שצריכה לעבור על מסמכים ועמודי רשת רבים כדי לשאוב מידע. כשהתוכן באנגלית, אין לה בעיה: קיימים אלגוריתמים חכמים שמתמודדים היטב עם השפה הזאת, או פרילאנסרים מפלטפורמת Mechanical Turk של אמזון. אבל פינית? זה סיפור אחר. לכן, חברה ל-CSA, משרד הסנקציות הפליליות של פינלנד. הסידור הזה יצא לה נהדר: הרשויות בוררים את האסירים ומנהלים אותם עבורה, בעוד אסירים דוברי פינית מלמדים את האלגוריתם שלה איך למצוא את התוכן הנדרש בחיפושים אוטומטיים. לא מדובר בעבודת פרך; אנו מדברים על פינלנד ולא צפון קוריאה - האסירים מרוויחים קצת כסף על העבודה הזאת, וכמובן שגם בית הכלא עצמו מרוויח (בהיותו מעין "חברת קבלן"). הסיפור הזה נשמע אופטימי: אסירים יוכלו להכניס כסף למשפחות שלהם בעודם בקלבוש (או לשלם פרוטקשן, ושוחד לסוהרים כשצריך), בית הכלא יעשה כמה גרושים שיסייעו לשיפור פניו, וסטארט-אפים יוכלו לפתח תוכנות חכמות במהירות.

אבל אופטימיות היא חטא כשמדובר בחברות מסחריות שנשענות על משאב כאנשים שהושלכו לכלא; מה יעצור את רשויות הכליאה להפוך את הכלואים לגדודי עבודה זמינים? למעשה, זה כבר קרה: בארצות הברית תועדו מקרים בהם חברות מסחריות חברו לבתי כלא כדי לייצר חתימות קול של אסירים, שיאפשרו לפתח כלים לריגול אחריהם ולניטור התקשורת מתוך הכלא. האסירים אולצו להשתתף בניסויים הללו, כי לקבל זכויות גישה לטלפון למשל. גם בתרבויות הכי ליברליות לא אכפת לקהל הרחב מהאסירים, ויהיה אכפת אף פחות אם פעולותיהם בכלא יאיצו פיתוח תוכנות וכלים טכנולוגיים. עד כדי כך, שיהיה קשה יותר להגן על זכויותיהם; ציבור גדול ימתין לתפוקות של גדודי התוכנה הכלואים.

הדרכת AI בכלא - האם יסתמן כמקצוע לאחר השחרור?, צילום: שאטרסטוק הדרכת AI בכלא - האם יסתמן כמקצוע לאחר השחרור? | צילום: שאטרסטוק הדרכת AI בכלא - האם יסתמן כמקצוע לאחר השחרור?, צילום: שאטרסטוק

אבל יש גם נקודת אור במצב שכזה: כיום אף אחד לא רוצה לשבת ולהדריך תוכנות ידנית. זה מתיש, זה משעמם, אך זה עדיין נדרש. אסירים משוחררים יוכלו להתחיל את דרכם בחיי האזרחות החדשים בתור מאמני תוכנה - תחום שלא צריך הכשרה מיוחדת, אבל מחייב אורך רוח שלא קל תמיד למצוא אצל אנשים מחוץ לכותלי הכלא. גם כך קשה לאסירים משוחררים למצוא עבודות ולהתפרנס, מה שלא פעם דוחף אותם בחזרה לפשע. ומי יודע, אולי היוזמה הפינית תהווה צעד ראשון בדרך לשינוי המצב.

בחירות תחת צל הסייבר

מתח עצום באוקראינה: היום החלו הבחירות במדינה, בחירות בהן צפויה רוסיה השכנה להפעיל שלל כלי סייבר ודיסאינפורמציה - כאלה שהיא יכולה לבחון רק שם. מאז סיפוח קרים בידי פוטין ב-2014 החלו הרוסים להשתמש ברשתות האוקראיניות כזירת ניסוי עצומה לנשק סייבר מכל סוג ומין. כנראה שהמתקפה הנוכחית תנסה לערער את אמון הציבור ביכולת השלטון להגן עליו, ולא בהכרח תנסה לשפר את דימוי רוסיה באמצעות הטיית דעת קהל; רוב האוקראינים שונאים את רוסיה ויש להם המון סיבות טובות.

יגור בוז'וק, ראש שירות המודיעין הזר באוקראינה (מין שילוב של אמ"ן והמוסד), טען לאחרונה שהקרמלין הקצה 350 מיליון דולר למבצע שיבוש הבחירות האוקראיניות. בתחקיר של Vice שכלל מומחי סייבר מקומיים טענו אנשי מקצוע שרוסיה יושבת כל כך עמוק ברשתות של אוקראינה, שהגיעה לתשתיות קריטיות ושיבוש שלהן הוא רק שאלה של זמן. הרוסים מרגישים מאוד בנוח עם מבצעי הסייבר שלהם במדינה;בדצמבר 2015, פרצה חוליה המקושרת לקרמלין לרשת החשמל באוקראינה וניתקה ממנה כ-225,000 בתי אב ממנה. 

כוחות מטעם רוסיה בקרים, 2014, צילום: רויטרס כוחות מטעם רוסיה בקרים, 2014 | צילום: רויטרס כוחות מטעם רוסיה בקרים, 2014, צילום: רויטרס

מאז דצמבר שעבר מזהים מומחי האבטחה כ-8,000 ניסיונות פריצה ממוקדים ע"ב מיילים נגועים; בחודש שעבר נרשם זינוק של 30% בניסיונות הפריצה בהשוואה לינואר, ובשבועות האחרונים נראה שחלה ירידה בשיעור המתקפות. את מומחי הסייבר זה דווקא מדאיג; יתכן שהירידה מעידה על כך שהתוקפים הגיעו למערכות והמתגים שחיפשו, ואת התוצאה נראה בשטח בזמן הקרוב. אולג דרווידיאנקו, בכיר בחברת סייבר אוקראינית שעובדת בצמוד עם השלטון, מסר ל-Vice שיש סיכוי טוב שכל הבדיקות והמודעות באוקראינה לא עזרו - והרוסים הצליחו למצוא דרכים חדשות להסתנן פנימה.

שני דברים מטרידים את העולם בסיפור הזה. הראשון הוא שרוסיה נוהגת, לפי הערכות, להתערב במהלכים פוליטיים במדינות רבות ועושה זאת ללא בושה; פרקטיקות מתקדמות שיוכיחו עצמן כאפקטיביות במהלך הבחירות באוקראינה יוכלו לצוץ ולהופיע גם בבחירות בכל מקום אחר. השני הוא בעייתי בהרבה: מתקפות סייבר כוללות לפעמים כלים שיוצאים משליטה. למשל, נוזקות כופר שמופצות כדי לנטרל מערכות, אך יוצאות לטייל ומדלגות מרשת לרשת וממשתמש למשתמש בעודן יוצרות נזקים גם במדינות אחרות. ראינו את זה בשנתיים האחרונות במגפות NotPetya ו-Wannacry, שגררו נזקים של מיליארדי דולרים בכל העולם. כזכור, אמנות נגד מתקפות סייבר שוות רבע כלום - שכן קשה מאוד לייחס מתקפה מקוונת לגורם מדינתי ספציפי ולא לפושעים. למה מרגישה רוסיה כה בנוח עם מבצעי הרשת שלה? כי תמיד תוכל להכחיש ולהמשיך בשלה.

 

קצרצרים

 

1. אופס! פייסבוק הודיעה שמחקה בטעות פוסטים רבים שכתב מארק צוקרברג, המנכ"ל והמייסד. מדובר בפוסטים מלפני כמה שנים, שנמחקו "בשל תקלה" והשחזור שלהם התגלה כקצת יותר מדי קשה ומסובך מהצפוי - ולכן נמוגו אל תהום הנשיה של הרשת. כמו ברוב סיפורי פייסבוק, צריך לחשוב פה על מה שמאחורי הקלעים. אם אכן נמחקו הפוסטים בגלל תקלה, חייבת החברה הסברים לציבור: איך היא מצפה שנסמוך עליה עם המידע שלנו, אם היא לא יכולה להגן אפילו על הבוס? יש עסקים שלמים שנשענים על תוכן פייסבוקי, ואבדנו יגרור הפסדים ישירים עבורם; ומה אם נמחקו הפוסטים בכוונה, בגלל שפייסבוק עומדת לפרסם דבר-מה שיגרור זעם ויסתור הצהרות עבר של צוקרברג? הלוואי והתרחיש הזה היה בידיוני: להנהלת הרשת החברתית יש נטייה לרוץ ולכסת"ח דברים איומים זמן קצר לפני שהם נחשפים רשמית. למשל: טיפ-טיפה לפני חשיפת פרשת קיימברידג' אנליטיקה, הודיעה ההנהלה שניתקה את יחסיה עם החברה הבעייתית. עוד דוגמה? יש טרי: בשבוע שעבר הודיעה פייסבוק שתאסור על מיון נמעני פוסטים פרסומיים לפי גזע, משום שזה לא הוגן; כמה שעות לאחר מכן כבר נודע שמשרד השיכון האמריקאי הגיש נגדה תביעה על שאיפשרה ביצוע מיון שכזה במשך שנים.

 

 

נמחק? למה נמחק?, צילום: שאטרסטוק נמחק? למה נמחק? | צילום: שאטרסטוק נמחק? למה נמחק?, צילום: שאטרסטוק

 

 

2. וואווי פרסמה בסוף השבוע דו"ח שנתי שהציג זינוק של 19% בהכנסות ב-2018, בהשוואה לשנה הקודמת; מרשים מאוד, בהתחשב בכך שהחברה הזאת אוכלת יותר אש מכל יצרנית מובייל בעולם וכלל לא מוכרת בשוק האמריקאי המכניס. וואווי ניצלה את ההזדמנות כדי לדחוף את הנתונים האלה לפרצוף האמריקאי ולטעון שהניסיונות לאסור על השתתפותה במכרזים בינלאומיים משקפים גישה מפסידנית, של מי שמרמה משום שאינו יכול לנצח בתחרות הוגנת. יש משהו בדברים הללו: וואווי מעולם לא נתפסה בהעברת מידע לממשלת סין או לגורמי ריגול מטעמה (וממשלת ארצות הברית דווקא כן); אבל מצד שני, מומחי סייבר בריטיים ניתחו בשבוע שעבר מוצרי תקשורת של וואווי ואמרו שאמנם לא אותרו שם דלתות אחוריות שהוצבו בכוונה - אך שלא קשה לפרוץ אותם. במקום וואווי, הייתי מבצע רמונט קיצוני ביותר בתחום רכיבי האבטחה; הקרב על תשתיות הדור החמישי מתחמם, והיא לא תרצה להיכנס אליו עם חרב שבורה.  

3. גוגל Photos קיבלה תכונה חדשה: יכולת זיהוי מסמכים שצילמתם באמצעות אפליקציות ייעודיות או סתם כך, ואז לחדד ולשפר אותן כך שהטקסט יהיה ברור יותר. זה שימושי מאוד, בהתחשב בכך שהשנה היא 2019 והרבה מאוד אנשים מעדיפים לצלם מסמכים במקום לחפש סורק. העניין הוא שזה שימושי גם עבור גוגל; החברה מקבלת פה גישה מאוד אינטימית למסמכים שאנחנו שומרים. בהרבה מקרים, אלו מסמכים מגופים רשמיים, פיננסיים וכולי - ובהם פרטים שלא בהכרח הייתם רוצים למסור לזללנית המידע הגדולה ביותר באינטרנט. עצתי היא לבקש שישלחו לכם את המסמך כ-PDF. כן, לגוגל יש יכולת לקרוא כל מייל ומייל בג'ימייל, אבל היא הצהירה בעבר שהפסיקה לעשות זאת; לגבי Photos לא שמענו הבטחות כאלה בינתיים.  

שיתוף בטוויטר שיתוף בוואטסאפ שיתוף בפייסבוק שיתוף במייל

תגיות



9 תגובות לכתיבת תגובה לכתיבת תגובה

9.
גם היום אסירים עובדים בזמן היותם בבתי כלא בארץ
היום הם מדביקים ניילונים, תופרים, כורכים ספרים ועוד כל מיני עבודות בשביל כמה אגורות. נשמע לי שלסמן האם מדובר בעץ או מכונית זו עבודה אידיאלית - לא דורשת כישורים, קלה למדידה, ומתאימה לכל גיל. למעשה יהיה נכון לפתח תוכנית כזו בישראל, שבה אימון של מכונה לשפה העברית יכול מאוד לעזור, כדי להביא את מהפכת ה AI גם לעברית.
רם  |  05.04.19
7.
כל אסיר שביצע פשע חמור צריך לשלם על המאסר שלו
להיות במאסר זה לא מחנה נופש. זה עולה לנו הון תועפות, ואין שום סיבה שעבריין כבד לא יישלם עבור השירות הזה. אז או שיישלם כסף מההון העצמי שלו, או שייממן את השירות הזה בעבודת פרך. ולא חסר מה לעשות - יש הרבה פעולות שלא מבוצעות כי אין עבורן תקציב. אבל האסירים יכולים לבצע אותן. אפשר לתת גזרים, ובהתאם להחזר שהאסיר נתן בעבודה, אפשר להקל עליו במאסר ואולי אף בשחרור. זה באמת יוציא אנשים משוקמים שירגישו טוב עם עצמם על ששילמו באמת עבור הנזקים שגרמו.
רונאל פישר  |  01.04.19
לכל התגובות