אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר.
נתונים לחסדי האלגוריתם צילום: טל שחר

נתונים לחסדי האלגוריתם

כנס DLD התמקד השנה בהשלכות השתלטות הבינה המלאכותית על חיינו. לצד שיח נלהב על מערכת המחליפה גם את הפסיכולוג, התעורר ויכוח עז סביב האתיקה הרובוטית — בעיקר כשהרכב האוטונומי יצטרך להכריע את מי לדרוס

19.01.2017, 08:30 | ד"ר נמרוד קוזלובסקי

סבתא שלי הקדימה את זמנה. בנעוריה למדה מתמטיקה באוניברסיטה בוורשה. אך כשהגיעה לארץ בשנות השלושים הפרנסה היתה קשה, ולמומחיותה בנוסחאות מרובות משתנים היה ביקוש מוגבל. לפיכך, קנתה חוברות סריגה של Burda והחלה מלמדת מביתה הוראות סריגה לנשות השכונה. אתמול, במינכן, על בירה קרה ונקניקייה עסיסית, חשבתי על סבתא. איך הגלגל מסתובב לו. כאורח של Burda השתתפתי זו השנה העשירית בכנס DLD.

את הכנס יזם ד"ר Burda, בעצת יוסי ורדי, כאשר הביט מסביב וראה שלחוברות הסריגה המודפסות כבר אין ביקוש רב ואת הכל סחף הדיגיטל. הביקוש לאנשי ייצור פוחת, ומנגד, מתמטיקאים היודעים לכרות תובנות ממידע הם הכוכבים החדשים. וכך, מדי שנה, רגע לפני פסגת דאבוס, נאספים במינכן יזמים, משקיעים ומומחי דיגיטל לדבר על המגמות שמתהוות בשוק ולחזות את העתיד הטכנולוגי הצפוי לנו. בזכותו של יוסי ורדי שמשמש כיו"ר הכנס, מוזמנים ישראלים רבים להצטרף לחוויה.

החורף של התחום נגמר

"האדם מחפש משמעות בסביבת בינה מלאכותית" היא כנראה הכותרת הראויה לכנס השנה. תקופה ארוכה המשקיעים משכו ידם מתחום הבינה המלאכותית בשל הביצועים המוגבלים של המערכות הממוחשבות בתחום. והנה כעת, התעצמות כוח המחשוב ושיפור משמעותי באלגוריתמים מבשרים עדנה ליישומי הבינה המלאכותית. החורף של הבינה המלאכותית נגמר. האביב הפציע. 

בייצוג הפופולרי אנו מיידית נמשכים לרובוטים אנושיים המסכנים את האנושות או למחשב המנצח בשח. אך מערכות בינה מלאכותית משתבצות עד מהירה במרבית תחומי חיינו. הן בבסיסן של מערכות המשמשות לראייה ממוחשבת, לניהול שיחה טבעית, למכונות אוטונומיות, למערכות קבלת החלטות ועוד ועוד.

הפוטנציאל של מערכות אלה היה במוקדם של דיונים רבים בכנס: ממערכת מחשב המתיימרת להחליף את הפסיכולוג, עורך הדין או הרופא בהתייעצות ועד לממשק "בוט" לניהול שיחה עם מוכר או נותן שירות. אלקסה של אמזון שימשה כדוגמה שגורה כיצד כבר היום מתחילים לחוות קשר משמעותי בשיחה טבעית עם מערכת תבונית. העתידנים בכנס הפליגו בתיאורים על העתיד הקרוב שבו יחיו זה לצד זה מערכות תבוניות ממוחשבות ובני אדם, בעלי התבונה האנושית.

ואולם, לצד השיח הנלהב על הפוטנציאל, עורר הכנס דיונים ערים בשאלות החברתיות והמוסריות שמעוררת בינה מלאכותית ובמערכת היחסים החדשה בין האדם למכונה. דיונים רבים הוקדשו לשאלת ההיערכות הנאותה לעידן התבונה המלאכותית. היה ברור למרצים כי בני האדם יפסידו בתחרות למערכות מחשב בביצוען של פעילויות רבות שבהן מועסקים כיום אנשים. לא רק עובדי צווארון כחול יוחלפו בהמוניהם על ידי המכונה, אלא גם עובדי צווארון לבן של ימינו. האתגר הגדול הוא בהכשרת האנשים שיוחלפו על ידי מכונה לביצוען של פעילויות שבהן לאדם יישמר היתרון.

כנס DLD שנערך במינכן, צילום: אתר DLD כנס DLD שנערך במינכן | צילום: אתר DLD כנס DLD שנערך במינכן, צילום: אתר DLD

ואולם, הכלכלנים ואנשי החינוך שבכנס התקשו לצייר תמונה אופטימית. מערכת החינוך הנוכחית שלנו נטועה במסורת המקדשת הקניית מידע והכשרה לביצוע פעולות מוגדרות. ואולם, דווקא בהיבטים אלה, אין כל יתרון לאדם על פני המכונה. סטיבן וולפרם הרצה בלהט על השינוי הנדרש בלימודי המתמטיקה כדוגמה. פתרון בעיה מתמטית כולל ארבעה שלבים: 1. הצבת השאלה המעניינת אותנו; 2. ניסוחה של השאלה כשאלה מובנית בנוסחה מתמטית (קידוד השאלה); 3. חישוב תוצאת התרגיל המתמטי; 4. הסקת מסקנות מהתוצאה. לדבריו, מערכת החינוך עסוקה בעיקר בהקניית היכולות לביצוע החישוב (השלב השלישי). ואולם, דווקא בכשירות זו אין לאדם כל יתרון על פני המחשב, ותוכנה תוכל לבצע בשניות חישוב שייקח לאדם שנים ארוכות ללמוד. לדבריו, אנו צריכים להניח שזו המציאות שאליה יגדלו ילדינו ולכן לא להתמקד בהכשרתם לביצוע החישוב, אלא בעיקר לנתבם לשלבים האחרים: שלב הצגת השאלות הראויות למענה וניסוחן של אותן שאלות כבעיה מתמטית; וכן שלב הסקת המסקנות.

בלי מחויבות לעובדים

 

גם הכלכלנים הציגו תמונה מאתגרת שבה משקיעים נרתעים ממיזמים מבוססי כוח אדם. התובנה החדשה היא שהיתרון היחסי הוא לחברות מבוססות דאטה ואלגוריתמים משוכלל ויש להתרחק מהשקעות המבוססות על גידול בהכנסות הכרוך בכוח אדם מוגדל. המנצחות הגדולות של השנים האחרונות הן חברות שיכולותיהן באלגוריתם ובתשתית המידע ולא במספר עובדיהן. בסביבה שכזו, כאשר מערכת מחשב יכולה להחליף את בן האדם, אין עוד נאמנות לעובד.

בגרמניה, עם מסורת דיני העבודה הנוקשה, מתקשים לעכל מציאות שכזו. הדוגמה השלטת היתה Uber שיתרונה במערכת הטכנולוגית לניהול היסעים ובפלטפורמה העשירה המנתחת דאטה של נהגים ונוסעים. החברה צפויה להתרחב על בסיס הפלטפורמה הזו לשירותים נוספים — ממשלוחים, דרך שירותים מבוססי מיקום ועד לוגיסטיקה של סחר אלקטרוני. ואולם, אין לה מחויבות לנהגים או קשיחות תפעולית הכרוכה בעובדים רבים; וכאשר הרכב האוטונומי יהיה כשיר להיסעים עירוניים — יוחלף הנהג בן האנוש. ובהתאם, בכנס נחגגה הרכישה האחרונה של Uber ב־680 מיליון דולר את חברת Otto (עם היזם הישראלי ליאור רון), לאחר שזו הדגימה נסיעה ראשונה של משאית אוטונומית המובילה בקבוקי בירה ליעדם ללא מגע אדם.

בהתאם, ומכיוון שאנחנו בגרמניה, בירת יצרניות הרכב, המכוניות האוטונומיות שלטו בכנס. ויצרני הרכב התחרו ביניהם בהערכות על נקודת הזמן שבה יוחלף האדם כנהג ותיאסר נהיגה אנושית. החוק, כך העריכו, יתגייס להגנה על הרכב האוטונומי, שכן יהיה קשה להמשיך להצדיק מיליוני הרוגים בתאונות דרכים מדי שנה, הנגרמות, ברובן, בשל מגבלות הנהג האנושי. ואולם, לכולם היה ברור שהחוק טרם התאים עצמו לעידן זה ונדרשת חשיבה מהירה. מרצדס הודיעה לאחרונה שהרכב האוטונומי שלה יתוכנת להגן בעדיפות ראשונה על הנהג במקרה של תאונה, והציתה דיון סוער בכנס על מוסר ורובוטיקה. אסימוב ושלושת החוקים שלו לפעילות רובוטים הגיעו מספרי המדע הבדיוני לאולם הדיונים ב־DLD, והדיון סער כאשר נשאלה השאלה הבסיסית בתחום האתיקה הרובוטית: כיצד נתכנת את הרכב למקרה של תאונה בלתי נמנעת? בנתיב אחד הולך רגל קשיש; בנתיב השני אם ועגלת תינוק; הרכב לא יספיק לעצור בזמן וחייב להסיט לאחד הנתיבים — במי נבחר? ובאורח טבעי, התלהט הדיון כשהתברר שההכרעה מסורה לאלגוריתם, וזה מוגן בקניין רוחני מאחורי "קופסה שחורה". וכך, משפטנים נהנו גם הם משיח סוער כשהדיון נסב לשאלת ההסדרה האלגוריתמית וחובות השקיפות והאחריות שראוי להטיל על מפתחי אלגוריתמים.

בהיבט נוסף, כולם ב־DLD היו תמימי דעים שלדאטה וליכולות שימוש מושכל בדאטה באלגוריתמים לומדים תהיה השפעה מרכזית על העשור הבא. החברות שיידעו לאסוף מידע רב יותר בזמן אמת על לקוחותיהן ועל השימוש במוצריהן, יזכו ליתרון תחרותי ניכר. השיח במינכן בעיקרו אינו שיח מהנדסים — של ביט ובייט — אלא שיח ניהולי או שיח מדיניות. ובהתאם, ההנחה היתה שהטכנולוגיה תהיה כשירה לאסוף את הדאטה בקצבים מהירים מהלקוחות ומהספקים וכי ניתן יהיה לעבד אותו ולחלץ ממנו תובנות בזמן אמת ואף לעתים לשנות את המוצר. בשיח זה דאטה הוא חזות הכל. למי שיש גישה לדאטה רב יותר, מהר יותר ומדויק יותר יש יתרון ניכר. ואולם, זה בדיוק החשש שליווה דיונים רבים — שגופים מעטים מדי ישלטו במרבית הדאטה וייהנו מכוח מופרז. הכלכלה שהוצגה היא של דואופולים או שחקנים חזקים מדי, שמנצלים את שליטתם העודפת בגישה לדאטה, לחסל תחרות. ובהתאם, חלק לא מבוטל מהדיונים הוקדשו לשאלות של אסדרה וגיבוש כללי משחק תחרותיים.

טראמפ — הפיל שבחדר

 

לא ניתן היה להתעלם מהאקלים הפוליטי החדש, והברקזיט וטראמפ היו "הפיל שבחדר". כיוון שהכנס מאורגן על ידי חברת מדיה, הדגש נסב על השאלה: כיצד לא חזינו זאת? נשאלה גם השאלה האם טראמפ אינו ההוכחה הניצחת שבסביבת המידע ל־Fake news יש משקל רב יותר מלעובדות ולאמת? המתדיינים ביקשו ממומחי הטכנולוגיה למצוא לכך פתרון. פייסבוק וגוגל הרימו את הכפפה והכריזו על שורת צעדים טכנולוגיים לזיהוי מקורה של ידיעה או דרך התפשטותה המלמדים על אמינותה.

הכותב הוא עו"ד, שותף־יזמות ב־JVP ושותף ב־HFN

שיתוף בטוויטר שיתוף בוואטסאפ שיתוף בפייסבוק שיתוף במייל

תגיות