בינה מלאכותית: איך להבדיל בין ידע אמיתי לבין הבטחות שרלטניות?

חברת פינטק ישראלית, בואו נקרא לה "פרופיט איי", חיפשה לקדם את יכולות החיזוי שלה באמצעות בינה מלאכותית (AI). בעקבות המלצת "מומחה" שהעיד על עצמו כבעל ניסיון, פיתחה החברה מערכת לניהול סיכונים ולהמלצות אשראי מבוססות בינה מלאכותית. המערכת, שהייתה אמורה לסייע בזיהוי סיכונים מדויקים, גרמה בפועל להמלצות אשראי בעייתיות וחשפה את הארגון לתביעות פוטנציאליות על סודיות מידע. בעקבות זאת, החברה נאלצה לבטל את הפרויקט השאפתני שלה ולצד הפסדים כספיים רבים, נאלצה להתמודד גם עם פגיעה תדמיתית קשה.

סיפור זה הוא תוצאה של תופעה הולכת וגדלה בשוק הבינה המלאכותית: עם עליית הפופולריות שלה, צצו "יועצים" רבים שמציעים פתרונות מהירים ומבטיחים תוצאות מיידיות, אולם, הלכה למעשה, מותירים את הארגונים בהפסדים ובתחושת אכזבה. לרוב, מדובר באנשים שמציגים עצמם כמומחים, אף כי רובם לא עברו הכשרות מקצועיות מעמיקות ואין להם ניסיון עמוק, אם בכלל, בניהול תהליכי הטמעת בינה מלאכותית. לא מעט מהם למדו בכוחות עצמם, בלי רקע מספק או ניסיון מעשי בעבודה עם ארגונים מורכבים. למרות האמור, זה לא מונע מהם לצאת בפרסומים גרנדיוזיים במדיות השונות, כגון "בוא/י להיות מאסטר/ית בבינה מלאכותית" "איך שוברים את שוק המניות בעזרת ה- AI" או "כיצד להפוך למומחה אוטומציה בשישה שבועות בלבד".

מהי "מומחיות" בכלל ומהי מומחיות בעולמות הבינה המלאכותית?

בינה מלאכותית היא תחום דינמי, הכולל תתי-תחומים הדורשים התמחות מעמיקה, כגון עיבוד שפה טבעית (NLP), זיהוי תמונה, תכנון אלגוריתמי מתקדם, ניתוח קול ואוטומציה של תהליכים. כל תחום שכזה דורש לא רק הבנה טכנית, אלא גם יכולת לזהות את המגבלות והסיכונים.

רק מי שחוקר את התחום במשך שנים (ראו את "חוק גלדוול", לפיו מומחיות כלשהי מתחילה בניסיון של לפחות 10,000 שעות), זוכה להכיר לא רק את הכלים עצמם, אלא גם את ההשלכות ואת האתגרים (ואף יש לומר, הסיכונים) הטמונים בהטמעתם בארגון.

בעולם כיום, חברות גדולות מבינות את הצורך בהכשרות מעמיקות ומתמשכות ל"מומחי AI" ומשלבות את המאמצים במחקר ופיתוח, תוך שימוש ביועצים מנוסים בעלי רקע מוכח. נתוני IDC מצביעים על כך שהשקעות ב-AI צפויות לגדול ביותר מ-50% בשנה הקרובה, אך הדגש שניתן לשלב ההטמעה והניהול הנכון של הסיכונים עולה בהתמדה. בנוסף, כ-75% מהחברות שהחלו בתהליכי הטמעת מערכות AI חוו אתגרים בלתי צפויים, דבר אשר ממחיש את החשיבות של גישה אחראית ואסטרטגית.

תופעת ה"מומחים": היכן עובר הגבול בין מומחיות לשרלטנות וכיצד להטמיע בינה מלאכותית בצורה אחראית ומושכלת?

ההסתמכות על "מומחים" ללא הכשרה מקצועית מעמיקה מעמידה את הארגונים בפני סיכונים ממשיים. הידע השטחי של "המומחים" הללו, אשר לא מפריע להם "לפזר" הבטחות והמלצות נוצצות, עלול להוביל לא רק להפסדים כלכליים, אלא גם לתביעות בתחום אבטחת המידע, לפגיעה בזכויות פרטיות, לזליגת מידע, להפרת זכויות קניין רוחני ואף ליצירת פרצות סייבר ופגיעה בתשתיות הרגישות ביותר של הארגון. כל "מומחה" שאינו מבין את המשמעויות הנלוות של הטמעת כלים ארגוניים (הן מבחינה טכנולוגית והן מבחינה אנושית) ובעל ניסיון בתהליכי טרנספורמציה שכאלו בהכרח לא יוכל לקחת בחשבון את כלל השיקולים הנדרשים לשם ביצוע תהליך מוצלח ומקצועי.

עידו בר-גיל | צילום: יח"צ

על מנת להטמיע בצורה מושכלת ואחראית מערכות AI, יש לשמור על מספר כללי אצבע: כאשר ארגון כזה או אחר פועל על מנת להטמיע מערכות AI בשורות החברה, הוא חייב לוודא שהוא עושה זאת בעזרת גישות ופרקטיקות שמבטיחות שימוש הוגן ואחראי בתוצרים ללא הפרה של זכויות צד שלישי. בנוסף, עליו לבצע תהליך רב-שלבי שכולל, בין היתר, ניתוח צרכים ורצונות, בניית צוות עבודה, ניתוח סיכונים ובניית מתווה לצמצום שלהם, מציאת הפתרונות המתאימים (אשר שונים מארגון לארגון), קסטומיזציה של הפתרונות הללו לצרכי הארגון, תוך צמצום הסיכונים וזמן ההטמעה ולקינוח, הטמעה אחראית והדרגתית ואימון של המשתמשים. אחרון חביב, כל הטמעה צריכה לקחת בחשבון את ההון האנושי של הארגון והמערכות והתשתיות הקיימות בו, שאם לא כן, כל התהליך נדון לכישלון חרוץ.

קריאה לפעולה: היזהרו מהבטחות מיידיות / כיצד לבחור "מומחה" מתאים?

"מומחיות" או שמא יש לומר "ניסיון" בבינה מלאכותית, היא מסע ארוך של התמקצעות וידע מעמיק. כמי שמבקשים לאמץAI בצורה אחראית, חשוב לבדוק בקפדנות את המומחה שאיתו בוחרים לעבוד ולא להתפתות לפרסומים והבטחות שווא.

על מנת לבחור את ה"מומחה" המתאים, ראשית, חשוב להבין מהי מטרת ההתקשרות – האם הארגון מעוניין בהצגה כללית של יכולות וכלים או שמא הוא מחפש פתרונות ספציפיים שידרשו הטמעה וקסטומיזציה? שנית, אל תסתפקו בפרסומים נוצצים – חפשו רקע מקצועי וניסיון מוכח בפרויקטים דומים לשלכם. וודאו שיש ל"מומחה" הבנה ברורה וניסיון עם האתגרים והסיכונים הספציפיים בתחום. שלישית, עצם השימוש במלים, כגון "מומחה" או "מאסטר", עלול להעיד – בפני עצמו - על חוסר ניסיון ממשי, שכן הוא אינו תואם את האקוסיסטם, הטכנולוגיה, יכולותיה וקצב ההתפתחות שלה. על פי רוב, מדובר בגימיק שיווקי שאינו מעיד על היכולות וההבנה (ואולי אף מעיד על ההיפך...).

לסיכום, אם נתקלתם ב"מומחים" שמבטיחים ניסים ונפלאות, עצרו וחשבו פעמיים! בינה מלאכותית היא כלי עוצמתי, אך רק כאשר משתמשים בה תוך כדי שילוב של ידע, ניסיון ואחריות.

בחרו במי שיודע לעמוד במילה שלו – ולא רק לספר סיפורים. כפי שאדווה דדון אומרת – שרלטנות לא לוקחים הביתה...

עידו בר-גיל הוא מנכ"ל ומייסד חברת Next-Gen. Solutions המספקת פתרונות אסטרטגיים לארגונים