איך עובד ה-AI שפיתחנו? לא יודעים; תשקיע בנו ונגלה ביחד

מה שקורה עמוק בנבכי הקוד, האלגוריתם והמערכות המורכבות של חברות הטכנולוגיה השונות הוא, במובנים רבים, תעלומה. בתור משתמשים מהשורה, אפילו בתור אנשים בעלי ידע בתחום, אנחנו לא יודעים באמת איך עובדות פלטפורמות השירותים והתוכנה השונות. החלטות כמו סדר תוצאות החיפוש בגוגל או הופעת פוסטים בפיד של פייסבוק מתקבלות על ידי אלגוריתמים עלומים שאת טיבם אפשר בעיקר לשער, תוך התבססות על הצהרות החברות בנושא (שפעמים רבות אין דרך לאמת) והערכות מושכלות.

רק גישה מלאה לאגוריתם עצמו יכולה, אולי, לספק תשובה. ובמערכות בינה מלאכותית גם זה מוטל בספק, כי אלגוריתמי למידת מכונה פועלים במה שמכונה בתחום "קופסת שחורה". המפתחים יודעים איך הם למדו אותם (למשל, הזינו להם עשרות אלפי תמונות של חתולים כדי שיוכלו לזהות תמונה של חתול שלא ראו קודם לכן), אבל כמשדובר בפעולות מורכבות פעמים רבות הם לא ממש יודעים איך נוצר הזיהוי. האלגוריתם הוא תעלומה אפילו למי שיצר אותו.

כל זה הופך את תחום ה-AI לזירה מורכבת להערכה ולהבנה בעבור גורמים חיצוניים. אם האלגוריתם כל כך מורכב ואופן פעולתו כל כך לא מובן שאפילו המהנדסים שעומדים מאחוריו לא יורדים לטיבו עד סופו, איך אפשר בכלל להסביר כיצד הוא עובד לאנשים מחוץ לחברה? זו בעיה, והמצב הזה הוא קרקע פוריה לסיפורים כמו זה של סטארט-אפ הבינה המלאכותית Engineer.ai.

לחברה יש מוצר שנשמע כמעט בדיוני – טכנולוגיה שמאפשרת פיתוח אוטומטי של אפליקציות מובייל. כל כך בדיוני, מתברר לפי דיווח של הוול סטריט ג'ורנל משבוע שעבר, שרוב מה שהחברה הבטיחה באמת היה בדיות. הכל כדי למשוך לקוחות ומשקיעים.

Engineer.ai היא לא סתם סטארט-אפ אלמוני; בשנה שעברה גייסה החברה, שפועלת מלונדון ומלוס אנג'לס, 29.5 מיליון דולר ממשקיעים כמו Deepcore, חברה בת של סופטבנק היפנית; קרן ההון סיכון השווייצרית Lakestar, שהיתה בין המשקיעות המוקדמות בפייסבוק וב-Airbnb; והקרן הסינגפורית Jungel Ventures. מדובר בגופי הון סיכון מהמובילים בתחומם, לכאורה עם מספיק ידע ומשאבים לביצוע בדיקות נאותות מקיפות לטענות החברה השונות. אבל אפילו הם הלכו לאיבוד במסך העשן שהיא הרימה.

לטענת Engineer.ai, מערכת "AI נתמכת בני-אנוש" שפיתחה מאפשרת לכל אחד ליצור אפליקציות מובייל בלחיצת כפתור, תוך בחירה בין תבניות שמתבססות על יישומים קיימים לבין רעיון שלהם. המערכת של Engineer.ai, נטען, תיצור את האפליקציה בצורה אוטומטית ברובה, מה שמוזיל ומקצר מאוד את הליך הפיתוח. מייסד החברה, סאצ'ין דב דוגאל, אמר בכנס שנערך בהודו בשנה שעברה שבערך 82% מאפליקציה שפותחה לאחרונה נוצרו אוטומטית בתוך חצי שעה. לדברי החברה, היא רשמה ב-2018 הכנסות של 24 מיליון דולר.

ואולם, לפי מסמכים שהגיעו לידי הג'ורנל ולדברי אנשים שמכירים את פעילות החברה, Engineer.ai לא משתמשת ב-AI כדי ליצור קוד לאפליקציות, אלא במהנדסים אנושיים בהודו ובמדינות אחרות לביצוע מרבית עבודת התכנות. לא רק זאת, אף זאת: החברה החלה לפתח את הטכנולוגיה שדרושה לאוטומציה של בניית אפליקציות רק לפני חודשיים, והיא נמצאת במרחק של שנים משימוש ב-AI בשירותי הליבה שלה.

בתביעה שהוגשה בפברואר נגד החברה, מצד סמנכ"ל הפיתוח העסקי שלה לשעבר, נטען שבאחת ההזדמנויות אמר לו דוגאל: "כל סטארט-אפ טכנולוגי מגזים כדי לקבל מימון – זה הכסף שמאפשר לנו לפתח את הטכנולוגיה". לדברי הסמנכ"ל לשעבר, רוברט הולדהיים, אמר דוגאל למשקיעים ש-Engineer.ai השלימה 80% מפיתוח המוצר שלה, כשבקושי התחילה לפתח אותו. הוא טוען בתביעה שפוטר אחרי שהתעמת עם דוגאל בסוגיה זו.

לפי עובדים ומסמכים, ל-Engineer.ai גם אין כמעט עובדים בכירים עם ניסיון משמעותי בבינה מלאכותית או בלמידת מכונה, ובתגובה לג'ורנל החברה הצליחה לציין רק עובד בכיר אחד עם ניסיון בתחום. בהודעה שפרסמה באתרה אחרי פנייה העיתון טענה Engineer.ai שקשה לגייס מומחי בינה מלאכותית, ושכמה עובדים חדשים למדו למידת מכונה ו-AI.

בתשובה לפניית הג'ורנל, שביקש דוגמאות לאופן שבו עושה החברה שימוש בבינה מלאכותית, נמסר שהמערכות של Engineer.ai מחשבות זמני עבודה ומחירים אוטומטית תוך שימוש בעיבוד שפה טבעית, ושהמערכת גם מקצה אוטומטית משימות למפתחים על בסיס מודל עץ החלטות. מדובר ביכולות הרבה יותר ממוקדות ומצומצות מכפי שהחברה התפארה בהן, כאלה שלא קרובות כלל לליבת הפעילות או להבטחה לפיתוח אפליקציה על בסיס AI.

לדברי עובדים בעבר ובהווה, אפילו יכולות מוגבלות אלה אינן נכונות: חישוב המחיר וזמני העבודה מתבצע על ידי תוכנה סטנדרטית שאינה מבוססת AI, וכמעט כל העבודה בחברה מבוצעת באופן ידני. ל-Engineer.ai אין, לטענתם, יכולות עיבוד שפה טבעית. "זו הגזמה לקרוא לעץ החלטות בינה מלאכותית", אמר לוקה קרנוביץ'-פריס, מנכ"ל Pleltarion, חברה שבדית שמוכרת תוכנה לבניית מערכות AI. "אם אתה אומר ללקוחות שאתה משתמש בבינה מלאכותית, הם כנראה לא מצפים לטכנולוגיה משנות ה-50. עצי החלטות הם טכנולוגיה מאוד ישנה ופשוטה".

כנראה שלא מדובר במקרה בודד. קרנוביץ'-פריס סיפר שייעץ בעבר לסטארט-אפ שאמר ללקוחות שהוא עושה שימוש בבינה מלאכותית כדי לקרוא קבלות, כשפועל ביצעו את העבודה בני אדם. לדבריו, יש לא מעט חברות שעושות שימוש באנשים בעודן מפתחות את אלגוריתמי למידת המכונה שיחליפו אותם.

לחברות יש סיבה טובה להתהדר ביכולות בינה מלאכותית. קרנות הון סיכון השקיעו 31 מיליארד דולר בסטארט-אפי AI בשנה שעברה, כמעט פי שניים מהיקף ההשקעות ב-2017 (בחצי הראשון של 2019 עמד היקף ההשקעות על 15 מיליארד דולר). לפי ניתוח של קרן MMC הלונדונית, סטארט-אפים אירופיים שלדבריהם עוסקים ב-AI גייסו בין 15% ל-50% יותר מחברות תוכנה אחרות. ובשנים הבאות התחום רק יהיה חם יותר: סופטבנק חשפה החודש שהיא מגייסת קרן של 108 מיליארד דולר, להשקעה בחברות בינה מלאכותית.

זה לא צריך להפתיע, לפיכך, שלפי נתוני MMC כ-40% מהסטארט-אפים שסווגו כחברות AI לא הציגו שום ראיות לך שנעשה שימוש בבינה מלאכותית במוצרים שלהם. כסף גדול תמיד מושך הרבה שרלטנים, זה כמעט חוק טבע. זו הסיבה שקרנות הון סיכון משקיעות משאבים משמעותיים בביצוע בדיקות נאותות לחברות שהן שוקלות להשקיע בהן. הן רוצות לדעת שהמודל העסקי בר-קיימא, שלקוחות שהחברה מתהדרת בהם אמיתיים, שהמוצר באמת עובד כמו שמובטח.

ובמקרה של חברות שהפיתוח העיקרי שלהן הוא טכנולוגיה ייחודית (בניגוד, למשל, לחברות כמו אובר שעיקר הפיתוח שלה הוא מודל עסקי) הקרנות רוצות לדעת שהטכנולוגיה בבסיס המוצר אמיתית. לא סתם מוצר מדף שכל אחד יכול לקנות ולהתאים, לא איזה כמה שורות קוד שגם תלמידת תיכון יכולה ליצור, אלא טכנולוגיה חדשה ומשמעותית, שמתחרים ירצו לשכפל אך יתקשו לעשות זאת, שתצוד את העין של חברות גדולות או שתאפשר פריצת דרך קדימה.

המורכבות ההולכת וגדלה של הטכנולוגיה הופכת את המשימה הזו לקשה יותר ויותר, והקופסה השחורה שיושבת בלב האלגוריתם של מערכות למידת מכונה עושה אותה לפעמים לכמעט בלתי אפשרית. איך, אחרי הכל, אפשר לאמת טכנולוגיה שאפילו מפתחיה לא בטוחים לחלוטין איך היא עובדת? וזה הופך קשה עוד יותר כשמדובר בתחום חם, עם הרבה כסף שרודף אחרי חברות. הפחד להחמיץ יכול לפעמים לסנוור את המשקיעים, לגרום להם לדלג על שלבים בהליך בדיקת הנאותות, מחשש שמישהו אחר יחטוף להם את ההשקעה מתחת לאף. ואם זה קורה לקרנות גדולות ומנוסות, מפחיד לחשוב מה המצב אצל קרנות ואנג'לים שפחות מכירים את התחום.

קצרצרים

1. חברת התעופה דלתא הגישה תביעה נגד חברה שמפתחת בוט מבוסס AI שהוטמע באתרה, ושלטענתה הביא לדליפת מידע שחשפה פרטי אשראי של 825 אלף לקוחות. מדובר בתביעה נדירה מסוגה, שכן חוזים מונעים לרוב מחברות לתבוע ספקיות טכנולוגיה. דלתא מבקשת החזר עלויות בסך של מיליוני דולרים.

2. תביעה מעניינת יותר הגישה אפל נגד חברה בשם Corellium שפיתחה מערכת תואמת iOS שאפשרה להריץ את מערכת ההפעלה על מכשירים אחרים, ובפרט מחשבים. מדובר ביכולת שנועדה לכאורה לסייע למפתחים לבחון בנוחות תפקוד של אפליקציות שיצרו. בפועל נעשה בה כנראה שימוש כדי לאתר בקלות פרצות אבטחה שגורמים עוינים יכולים לנצל לרעה. "במקום לסייע בתיקון פרצות, Corellium עודדה משתמשים למכור מידע שגילו בשוק הפתוח למרבה במחיר", טוענת אפל.

3. פעילי מחאה פשטו על הקפיטריה של פלאנטיר, חברת המודיעין מבוסס הביג-דאטה של פיטר ת'יל, בדרישה שתפסיק לעשות עסקים עם רשות ההגירה האמריקאית ICE. האחרונה משתמשת במוצר של פלאנטיר שמסייע לה בבניית פרופילים ותכנון פשיטות על מקומות עבודה במטרה לאתר מהגרים לא-מתועדים ולגרש אותם. המוחים סבורים שלאור ההנפקה הצפויה של החברה בשנה הבאה, למחאה יכולה להיות השפעה. עורך הערוץ פחות אופטימי: "חבר'ה, זו חברה של פיטר ת'יל; שום דבר לא מאיים עליו חוץ מנשק קדוש או לפחות קליעים מכסף".