לא חוכמה: "בינה מלאכותית" היא לא בהכרח בינה מלאכותית

לאחרונה נראה כי המונח "בינה מלאכותית" שוטף את תעשיית הטכנולוגיה. הבעיה היא שבחלק מהמקרים נעשה בו שימוש מופרז שאינו מייצג וגרוע מכך - חוטא לאמת. אחד האירועים שזכו לפרסום רב בתקשורת בארה"ב בשנה האחרונה הוא של חברת Banjo, שמכרה טכנולוגית מעקב מבוססת בינה מלאכותית למדינת יוטה ב-20 מיליון דולר, אך מבקר המדינה מצא כי לחברה לא הייתה למעשה יכולת בינה מלאכותית מכל סוג.

במקרה אחר, משנת 2019, הוגשה תביעה של עובד לשעבר נגד חברת Hanzo Archives בטענה שהיא מכרה פתרונות AI לגילוי מידע אלקטרוני (e-discovery), בעוד שבפועל עובדי החברה ערכו חיפושים ידניים באינטרנט עבור הלקוחות. זאת ועוד: ב-2016 בלומברג דיווחה על מצוקתם של אנשים שמבלים 12 שעות ביום בהעמידם פנים שהם צ'אטבוטים עבור שירותי תזמון יומנים.

הרעיון של "זייף את זה עד שתעשה את זה" (fake it until you make it) מגיע גם לחברות טכנולוגיה ולסטארט-אפים בתחום ה-AI וחלקם הלא מבוטל מציג פער משמעותי בין המסרים השיווקיים המוגזמים לבין היכולות הטכנולוגיות בפועל. ניתוח של MMC Ventures משנת 2019 מצא ש-40% מהסטארט-אפים האירופים שהגדירו עצמם כחברות בינה מלאכותית לא הראו כל עדות לשימוש בפועל בבינה מלאכותית במוצרים שלהם.

לא מעט סטארט-אפים שטוענים שהפתרונות שלהם כוללים בינה מלאכותית למעשה מעסיקים אנשים שיבצעו את העבודה בפועל. במקרים אחרים מסתבר כי השימוש במושג AI מסתיר מאחוריו שימוש במנגנוני אוטומציה מוטי משימה (hand crafted rules) או במודלים בסיסיים שקיימים מזה שנים רבות, להבדיל מאלגורתימים מתקדמים וחדשניים בתחום המכונות הלומדות (machine learning).

עובדי מיקור חוץ. מייצרים "בינה מלאכותית" | צילום: בלומברג

אחת הסיבות שחברות סטארט-אפ מתהדרות בנוצות ה-AI היא על מנת להגדיל את ערכן בסבבי הגיוס או לשוות לעצמן מעמד מכובד בעיני הלקוחות בעקבות ההייפ המוגזם ששוטף את התחום. מחקרים הראו כי עצם העובדה שסטארט-אפ מגדיר את עצמו כחברת AI יכול להוביל להשקעה גבוהה ב-50% בהשוואה לחברות תוכנה אחרות.

סיבה נוספת היא שפיתוח של בינה מלאכותית הוא יקר, קשה לביצוע ודורש השקעות רבות - הן ברמת התשתית והן ברמת ההון האנושי הנדרש לפיתוח ותחזוקה מתמשכת של יישומים מבוססי AI. ככלל, יישומים אלה הם זוללי נתונים ומחייבים סט נתונים גדול, היסטורי ואיכותי. במקרים רבים חברות בתחום מתקשות לאסוף בסיס נתונים גדול דיו או כזה המייצג את עולם התוכן אותו הוא מתאר. יתרה מכך, יישומים אלה מחייבים היעזרות במדעני נתונים ובמומחי בינה מלאכותית ברמה גבוהה, שלא נמצאים תמיד בהישג ידן של חברות צעירות בשלבים שונים ובמגזרים שונים, בעיקר בתחום השיווק ותיוג התוכן במדיות החברתיות.

במקרים שבהם נעשה שימוש באפליקציות AI בשווקים מוטי רגולציה - לרבות יישומים רפואיים או כאלה החשופים להטיות מגדריות, אתניות ואחרות, דוגמת ישומים בנקאיים של מתן אשראי - תידרש מן הסתם התערבות של הרגולטורים בתחום על מנת לוודא שנעשה שימוש נכון והוגן באלגותרימים של AI. במקרים אחרים - פחות.

יחד עם זאת, חשוב לציין כי ישנם מקרים לגיטימיים שבהם שילוב של אנשים בפתרונות AI הוא חיוני. למשל, במקרים שבהם יש צורך בעבודת תיוג אנושית של תכנים אינטרנטיים, זיהוי תמונות או קלסיפיקציה של סרטונים ומסמכים. זאת, כחלק מיצירת מסד נתונים שמשמש את מודלי ה-AI והלמידה העמוקה בשלב האימון שלהם במודלים של למידה מונחית (supervised learning), על מנת להכשיר אותם לפעול באופן עצמאי ללא הכוונה אנושית. ביישומי AI הנמצאים בשימוש בשווקים רגולטוריים כמו בריאות או פינטק, הגורם האנושי אף מספק אימות או פיקוח על אלגוריתמים ומשמש לבקרת איכות.

שילוב בין אדם למכונה נחוץ במקרים רבים בשלב האימון של המודל, כמו גם במהלך התיקוף של התוצרים שלו ולבסוף גם ביכולת לתת רמת ודאות והסבר (explainable AI) לפרידקציות בודדות. שילוב סינרגטי כזה הכרחי בעיקר מפני שמכונה עדיין מתקשה בלמידה אנושית כללית, אבל מצטיינת במטלות ספיציפיות טוב יותר מבני אדם, לרבות מציאת תובנות נסתרות מן העין בים של נתונים מספריים.

בינה מלאכותית. האדם והמכונה צועדים לחתונה | צילום: גטי אימג'ס

בני אדם מצטיינים בלמידה בטווח אפס. אנחנו נולדים עם אינטואיציה סטטיסטית וציפיות ססטיסטיות על העולם ומצטיינים ביכולות של אסטרטגיות חישוביות שמתרחשות בחטף וללא צל של מודעות (למידת הרף עין). יכולת הלמידה והאבסטרקציה שלנו מבוססת על עיקרון Few-Shot Learning ("מידה במרחב נתונים דליל). כמו כן, יש לנו ייצוג מנטאלי של הדברים: אנחנו מבינים סצנה בהתבסס על היחסים והקשרים שבין העצמים.

בתוך שטף הפתרונות המוצעים בשוק, יכול להיות קשה לזהות בוודאות אם פתרון כלשהו אכן מבוסס AI או שמדובר בפתרון אוטומציה פשוט שלא עומד בהגדרות הבסיסיות של בינה מלאכותית. הנה כמה דברים בסיסיים שעליכם לבדוק מול הספקים שלכם כשמציעים לכם פתרונות מבוססי AI:

1. בחינה מדוקדקת של נפח הנתונים הקיימים בשלב אימון המודל ותכיפות הניטור של נתונים חדשים המוזרמים למודל מעת לעת – עליכם לוודא כי החברה מבססת את מודלי ה-AI שלה על מסדי נתונים איכותיים המתעדכנים ומנוטרים לאורך זמן על מנת לפקח על דיוק ואמינות תוצרי המודל.

2. האם הפתרון המוצע מכיל כללים והיוריסטיקות מבוססות מומחה תוכן אנושי? נדרש לוודא כי לא נעשה שימוש מופרז ביצירת חוקים עסקיים מוגדרים מראש שמנוסחים בצורה "ידנית".

3. בחינת תמהיל ההון האנושי הקיים אצל הספק – ודאו שקיים בחברה צוות מסודר ורחב של מדעני נתונים, בעלי ידע וניסיון בהפעלה, בתיוג ובפיתוח של מודלי AI. פתרונות בינה מלאכותית דורשים זמן פיתוח ארוך בשילוב מהנדסי נתונים ומומחי MLOps.

4. על פי איזו מתודולוגיה מפותחים מודלי AI? – על מנת להפיק ערך עסקי נדרשת התאמה מדויקת בין פתרונות ה-AI לדרישות הארגוניות שלכם - דבר שהספק יכול לבצע על ידי יישום מתודולוגיה מסודרת או באמצעות מיסוד מרכז מצוינות פנים ארגוני.

5. איזה פיקוח ובקרה יש לכם על כלל התהליכים? - בינה מלאכותית אמיתית צריכה להיות מתוחזקת לאורך זמן (AI Observability) תחת בקרה ופיקוח על מנת שלא תאבד את אמינותה. שילוב של פתרונות AI שאינם מנוהלים כהלכה לצד מידע שאינו מנוטר יכול לגרום לטעויות בקבלת החלטות.

ד"ר אילן ששון | צילום: סמדר כפרי

לסיכום, הבינה המלאכותית מייצרת לארגונים הזדמנויות רבות להפקת ערך עסקי. היא הפכה לגורם משמעותי בצמיחתם של עסקים, שכן היא מאפשרת למנף את המידע שהם צוברים כדי לחזות טרנדים, להציע לשוק שירותים ומוצרים תחרותיים ולצמצם עלויות באמצעות ייעול תהליכים. עם זאת, יש לדעת להבחין בין פתרונות AI אמיתיים לפתרונות AI כוזבים. בהמשך, גם הרגולציה תצטרך לכפות אומדני עבודה, נהלי פיתוח, תחזוקה שוטפת ותנאים לשימוש במונח "בינה מלאכותית" - זאת, על מנת למנוע מקרי הונאה.

ד"ר אילן ששון הוא מנכ"ל Data Science Group, מומחה לבינה מלאכותית ומרצה לתארים מתקדמים בפקולטה להנדסה ובתוכנית MBA באוניברסיטת תל אביב