אתר זה עושה שימוש בעוגיות על מנת להבטיח לך את חוויית הגלישה הטובה ביותר.
האלגוריתם כשל בצורה מביכה, חוזרים להשתמש בראש

האלגוריתם כשל בצורה מביכה, חוזרים להשתמש בראש

עם העלייה במספר התקלות הקריטיות שנגרמו בשל פעולות מחשוב אוטומטיות, מבינות חברות הענק שעדיין אין תחליף ליכולת ההבחנה של האדם. כך אולי יימנעו טעויות כמו זו שגרמה לאמזון למכור חולצה עם כיתוב שמעודד אונס, או זאת ששידכה אשה לאדם שניסה לרצוח אותה

20.03.2013, 14:05 | הראל עילם

לפני כשבוע, במהלך שיטוט שגרתי באמזון, גילו גולשים חולצה עם כיתוב שגרר את החנות המקוונת למערבולת של התנצלויות, ואת חנות הבגדים שפרסמה את פריט הלבוש כמעט לפשיטת רגל.

קראו עוד בכלכליסט

החולצה, עם הכיתוב המקומם Keep Calm and Rape a Lot, שמתבססת על הממרה המפורסמת מתקופת מלחמת העולם השנייה Keep Calm and Carry On שהפכה למם פופלרי.

החולצה המקוממת שברא האלגוריתם החולצה המקוממת שברא האלגוריתם החולצה המקוממת שברא האלגוריתם

החולצה הוסרה במהירות מהחנות, אך איש לא נטל את האשמה על הכיתוב המבזה. למעשה, לדברי מנהל החנות Solid Gold Bomb שמתמחה במכירת חולצות ברשת, המחשב הוא זה שאחראי לכיתוב. "המוצרים נוצרו באופן שגוי על ידי אלגוריתם שאסף את המילים מהמילון", מסר בהודעה שמבחינתו חתמה את הפרשה.

מצדו מנהל החנות צודק: חברת SGB מדפיסה חולצות לפי דרישה, וכדי להתמודד עם התחרות האדירה בשוק הזה, שכולל שולי רווח גבוהים אך גם אלפי מתחרים, היא נעזרת באלגוריתם שמייצר עבורה אינספור גרסאות של עיצובים קיימים. סך הכל החברה מציגה לא פחות מ-540 אלף מוצרים מאמזון, ורק על נוסחת Keep Calm and Carry On ביססה יותר מ-8,400 דוגמאות שונות.

רוב המוצרים האלו מעולם לא נמכרו, וניתן להניח שעד שהתעוררה השערורייה רובן המכריע של החולצות גם מעולם לא נראו על ידי אף לקוח, אחרת הזעם הציבורי היה מתחיל קודם לכן. ההסתמכות על האלגוריתם, שמייצר סיסמאות שמנסות לפנות לקהל רחב ככל האפשר ולא עובר כל סינון, אמנם מאפשרת עבודה קלה יותר, אך גם כמעט הביאה לקריסת החברה.

מחוות דעת רפואיות ועד ביקורות מזויפות

אלגוריתמים מעורבים היום למעשה בכל אספקט של ניהול העולם. הם מספקים תשובות בזמן חיפוש בגוגל, מכירים בין בני זוג באתרי שידוכים, מנתבים את התחבורה, מספקים חוות דעת רפואיות וסוחרים במניות. אלגוריתמים מנתבים את הכלכלה באינספור דרכים נעלמות - הם דוחפים אפליקציות מזויפות לראש מצעדי החנויות של אפל וכותבים ביקורות מזויפות כדי לשלוט בנעשה באתרי ביקורות גולשים כגון Yelp.

גם התחום שחשבו שלעולם לא ייכבש על ידי המחשבים, יצירת טקסטים, כבר נכבש על ידי אלגוריתמים שמסוגלים לכתוב ספרי מדריכים טכניים וניתוחי שוק עבור חברות. עד היום יצרה תוכנה כזאת לא פחות מ-700 אלף ספרים, שמאה אלף מהם נמכרים באמזון, וחלקם הגדול - בדיוק כמו החולצות - יודפסו בפעם הראשונה רק לאחר שלקוח יבחר להזמין אותם.

SGB אינה החברה היחידה אלא רק הקורבן האחרון בסדרה של חברות שקרסו לאחר שהשליכו את יהבן מאחורי קוד מחשב, ללא כל פיקוח אנושי. באוגוסט האחרון, למשל, חברת הסחר במניות Knight Capital Group הגיעה לפשיטת רגל בתוך 45 דקות, לאחר שתוכנת המסחר שלה איבדה מאות מיליוני דולר בסחר אוטומטי לא מבוקר ולא מפוקח. זה היה רק סימן אזהרה לתחום הסחר האוטומטי כולו, שעל פי הערכות שולט על 71% מסך סחר המניות העולמי.

האלגוריתם עשה טעויות שאף אדם לא היה עושה, צילום: shutterstock האלגוריתם עשה טעויות שאף אדם לא היה עושה | צילום: shutterstock האלגוריתם עשה טעויות שאף אדם לא היה עושה, צילום: shutterstock

המשתמשים כבר לא מהססים לתבוע

במשך שנים ראו מומחים עתיד יעיל ומסודר שבו אלגוריתמים מנהלים את הכלכלה, התחבורה ומערכות הלוגיסטיקה. העתידן ביירון ריס, למשל, הרצה בפסטיבל SXSW האחרון באוסטין על הדרך שבה אלגוריתמים יכולים ליצור עולם ללא רעב ועוני.

אבל באופן פרדוקסלי דווקא עכשיו, בתקופה שבה האלגוריתמים הם חכמים ומתוחכמים יותר מאי פעם, מתחוללת מהפכה הפוכה, ויותר ויותר חברות מבינות את הצורך בגורם אנושי שינהל, ילמד ויאלף את מערכות המחשוב שלהם.

אחת הסיבות לכך היא שבעוד שהאלגוריתמים היום מספקים תוצאות טובות, מהירות ומדויקות מאי פעם, הציפיות שלנו מהטכנולוגיה עולות במהירות גבוהה יותר, וכך גם החדירה שלה לחיים שלנו. אם בעבר היינו סלחנים כלפי שיגיונות של המערכת, היום הלקוחות מצפים לשירות טוב ומדויק - ולא מהססים לתבוע במקרה הצורך.

ב-2010, למשל, תבעה אזרחית אמריקאית את גוגל לאחר ששירות המפות שלה שלח אותה ללכת ברגל בצד אוטוסטרדה, שם היא נפגעה קשה מרכב חולף. בינואר השנה תושבת מדינת נבאדה בת 54 תבעה את אתר ההיכרויות match.com לאחר שהאלגוריתם שלו שידך אותה לאדם שלאחר כמה ימים ניסה לרצוח אותה.

ביג בירד הוא לא רק ציפור

גם בגלל גל התביעות נראה שתעשיית ההייטק התפכחה מחזון האלגוריתמים המושלמים. אפילו גוגל, חברה שידועה בכך שעיצבה לוגואים בכך שנתנה למחשב לבחור את צבעם, משנה את הגישה שלה.

סקוט הופמן, ראש מחלקת פיתוח החיפוש בחברה, אמר החודש בראיון ל"ניו יורק טיימס" כי החברה "חווה שינוי אסטרטגי בגישה שלה", ושכיום חלק גדול מהפעילות של ענקית הרשת עומד להיות מבוצע על ידי בני אדם.

כשאת אומרת Big Bird, למה את מתכוונת? כשאת אומרת Big Bird, למה את מתכוונת? כשאת אומרת Big Bird, למה את מתכוונת?

כך למשל, החברה מעסיקה היום מאות אנשים שבודקים בצורה ידנית את איכות תוצאות החיפוש. הצוות בוחן שבריר ממאה מיליארד תוצאות החיפוש שמציג מנוע החיפוש הפופולרי מדי חודש, ומדרג אותן לפי רמת דיוק, איכות ורלבנטיות.

טוויטר ופייסבוק מפעילות גם הן עובדים שתפקידם לשפר את מנועי החיפוש הפנימיים שלהן. עובדי טוויטר, למשל, לימדו בזמן הבחירות האחרונות לנשיאות ארצות הברית את מנוע החיפוש של החברה שהמונח "big bird" אינו מתייחס ישירות לדמות הפופולרית מ"רחוב סומסום", אלא דווקא להערה פוליטית של מיט רומני, שרצה לסגור את רשות השידור הציבורית האחראית לשידור התוכנית.

את אחת ההוכחות החותכות ביותר לכך שמחשבים עדיין דורשים פיקוח אנושי מספק המדען טום מיטצ'ל, שעומד בראש פרויקט שמנסה ליצור בדיוק את ההפך.

המדען מאוניברסיטת קרנגי מלון עומד מאחורי NELL, פרויקט של יצירת אינטליגנציה מלאכותית המסוגלת להבין בני אדם ולנתח שפה טבעית על ידי קריאה ולימוד של דפי אינטרנט. לאחר כחצי שנה שבה רץ הפרויקט הוא הבין שהאלגוריתם חייב לקבל סיוע של בני אדם: "למרות הגאוניות שלהם, מחשבים עדיין יכולים להיות אטומים כאבן", אמר ל"ניו יורק טיימס". "סיוע אנושי לא היה חלק מהתוכנית המקורית. חשבתי שהמחשב יוכל להיות כמו הפרש הבודד, מערכת אוטומטית לחלוטין. אבל טעינו מההתחלה".

המחשבים ימשיכו לשלוט בתשתיות

למרות החזרה אחורה, אל הגורם האנושי, עוד רחוק היום שבו תיפסק התלות בשירותי מחשוב לניהול וקבלת החלטות. למעשה גם גוגל, שהודיעה על שינוי בצורת החשיבה שלה, השיקה רק לפני מספר חודשים את גוגל Now, שמתבסס על אלגוריתם מתוחכם שמספק למשתמש מידע עוד לפני שביקש אותו.

משתמשי השירות יכולים, למשל, לקבל התראה כאשר יש תאונת דרכים בכביש שהם נוסעים בו כדי להגיע לעבודה, וזאת עוד לפני שבכלל יצאו לדרך. חברות אחרות כמו פורסקוור גם הן משיקות שירותים חדשים שמציפים אל המשתמש מידע שמתבסס על מכונות שלומדות את הרגליו, ובכלל, נראה שלמרות המודעות שחדשה שצמחה אף אחד לא באמת מעוניין לעצור את המירוץ לאוטומציה מלאה של כל אספקט בחיים שלנו.

שיתוף בטוויטר שיתוף בוואטסאפ שיתוף בפייסבוק שיתוף במייל

תגיות

10 תגובות לכתיבת תגובה לכתיבת תגובה

לכל התגובות