כשהבוט ייתן לנו הלוואה: על בינה מלאכותית ושירותים פיננסיים

מאז ההתקדמות המשמעותית של תחום הבינה המלאכותית (AI) בשנים האחרונות, גופים פיננסיים בישראל חוקרים ובוחנים את היכולות והיתרונות של ה-AI על פעילותם והשירות שיינתן ללקוחות. ואולם, נראה ששלב היישום בתחום המוצרים הפיננסיים עדיין רחוק.

אין ספק כי הבינה המלאכותית פותחת את עולם השירותים הפיננסיים למרחב חדש של פעולה, עם כללי משחק ואפשרויות שטרם נכתבו. קיימים יתרונות לשימוש בבינה מלאכותית בענף השירותים הפיננסיים - השירות יכול להיות יעיל ומהיר יותר, הטכנולוגיה תאפשר ללקוחות לקבל שירותים פיננסיים חדשניים יותר, מגוונים, גמישים ומותאמים יותר לצרכיהם.

לצד היתרונות הרבים והפוטנציאל העצום, במיוחד לכלכלה ולחברה, שימוש בבינה מלאכותית טומן בחובו סיכונים וחששות רבים, בעיקר בפן המשפטי והרגולטורי. בין הסיכונים של שילוב כלי AI בשירותים פיננסיים ניתן למנות את היעדר מעורבות אנושית המורידה את רמת הבקרה בתהליך, חוסר שקיפות של תהליך קבלת ההחלטות הנובעת מחוסר ידע באשר לתהליך המתרחש בתוך מנוע ה AI (המכונה "הקופסה השחורה"), פרטיות ואבטחת מידע ואחריותיות. בראש הסיכונים נמצא הסיכון לאפלייה במתן שירותים או מוצרים.

כנס כלכלת המחר - חדשנות פיננסית 2024 יתקיים ביום חמישי 25 בינואר. לפרטים לחצו כאן

השימוש בבינה מלאכותית יכול למתן הטיות אנושיות בקבלת שירותים פיננסיים, אולם מנגד, ככל שהטיה כלשהי מובנית בתוך האפיון של תהליך ה AI, ההשפעה שלה תהיה רוחבית ומרחיקת לכת, בשימוש בבינה מלאכותית. חשש זה נובע משני גורמים קריטיים בשימוש בבינה מלאכותית - איכות הדאטה שבבסיס קבלת ההחלטות של הבינה המלאכותית, ומרכיבי התהליך של קבלת ההחלטות במוך מנוע ה AI., שמהווה אתגר בפני עצמו למידת המידע והסבר שניתן לקבל לאופן קבלת ההחלטות על ידי הבינה המלאכותית.

התעוררות רגולטורית

נראה כי קיימת התעוררות רגולטורית גלובלית ששואפת להכיל את הטמעת ה-AI בענפים השונים, תוך קביעת כללים שנועדו להגן על הציבור. מדינות האיחוד האירופי ובריטניה נמצאות בהליך חקיקה מתקדם בנושא, וארה"ב פירסמה באוקטובר 2023 צו נשיאותי המפרט את האסטרטגיה הלאומית בתחום, וקובע הוראות מנחות למשרדי הממשל והרגולטורים השונים.

מדינות שיגדירו את הכללים הרגולטוריים לשימוש בבינה מלאכותית, למעשה יאפשרו את כניסת השחקנים השונים למגרש חדש של ביצוע עסקים והרחבת הפוטנציאל העסקי שלהם, לצד אפשרויות שירות ומוצרים רחבים ומגוונים לציבור. על אף הגישות של הרגולטורים השונים בעולם לקביעת מדיניות, קיימת הסכמה רחבה כי בינה מלאכותית יוצרת סיכונים חדשים שיש לנהלם כדי לאזן בין היתרונות הטכנולוגיים והכלכליים לבין הגנה על הצרכנים ומשתמשים.

צעד משמעותי בישראל

בישראל אין עדיין רגולציה מוגדרת בנושא ה-AI בתחום הפיננסים, אך בדצמבר 2023 נרשם צעד משמעותי לקראת אסדרה בנושא, שמהווה את יריית הפתיחה למיסוד רגולציה ענפית של התחום. כללי המשחק הוסדרו בשלב זה כעקרונות שפורסמו על ידי משרד החדשנות, המדע והטכנולוגיה, במסמך שכותרתו "עקרונות מדיניות רגולטורית ואתיקה בינה מלאכותית 2023", ובכך מיישמים את החלטת הממשלה מאוגוסט 2021 לחקור לעומק את פעילות ה-AI ועיקרי הסיכונים הנובעים משימושה. נושא הבינה המלאכותית הוצג במסמך כ"יעד מרכזי וחיוני כדי למצב את ישראל כמובילה עולמית בתחום כדי לשקף את הפוטנציאל הרב, למען עתיד האנושות".

מסמך עקרונות המדיניות אינו מגדיר כללים, אלא עקרונות שמהווים מסגרת לאימוץ על ידי הרגולטורים השונים מתוך הכרה כי לכל ענף קיימים אתגרים ומסגרת רגולטורית ייחודית לו, תוך כדי קידום "חדשנות אחראית", כלי רגולציה גמישים והדרגתיים ועידוד שימוש בסביבות ניסוי.

רו"ח ווידאד אלטוחי, BDO | צילום: נתי חדד

חשש לפגיעה בתחרות

הגופים הפיננסיים, בעיקר הוותיקים והמסורתיים שבהם, אספו במהלך השנים בסיס מידע רחב אודות לקוחותיהם, הכולל את פרטיהם, נתוניהם הפיננסיים, התנהלותם הפיננסית ועוד. חלק מנתונים אלה עדכניים, וחלקם היסטוריים. עדכניות ודיוק בסיס הנתונים יכול להשפיע במידה רבה על הבינה המלאכותית בתהליך קבלת ההחלטות, בין אם לשירות שניתן ללקוח, האשראי שניתן בתהליכי חיתום וניתוח פרופיל הלקוח באופן כללי בממשק עם הגוף הפיננסי.

טרם פתיחת הצוהר להטמעת הבינה המלאכותית שתעשה את המלאכה שעוצבה לבצע, נדרשים הגופים הפיננסיים לבחון, לטייב ולנהל בסיס נתונים שיאפשר לפעול בהגינות והוגנות כלפי לקוחותיו.

קיים יתרון משמעותי לגופים פיננסיים מסורתיים מבחינת היקף ועומק הדאטה לעומת גופים פיננסיים חדשים, שבסיס הנתונים ברשותם מצומצם יותר - פער שעלול לפגוע בתחרות שהפיקוח על הבנקים פעל להגברתה בשנים האחרונות. מכאן עולה החשיבות של בנקאות פתוחה או גישה למאגרי מידע באופן מוסדר מגורמים אחרים, שמאפשרת לאותם שחקנים פיננסיים חדשים לקבל מידע אודות לקוחות פוטנציאליים לצורך מזעור פערים בהטמעת AI בשירותים ומוצרים פיננסיים.

אתגר נוסף בנושא שימוש במאגרי מידע דומים, דבר המעלה חשש ממשי במגזר הפיננסי מפני תופעת "הידבקות מערכתית" שכן שימוש במאגרי מידע דומים לצורך אימון האלגוריתמים על ידי חברות פיננסיות עלול להגביר את האחידות בפעולות הגופים הפיננסיים ולהוביל לפגיעה ביציבות השוק הפיננסי.

פיקוח אנושי לאורך התהליך

לשאלה שעולה מטבע הדברים אם הבינה המלאכותית תשלוט בנו או שבני האדם ישלטו בה, קיים מענה במסמך המדיניות לגבי מקום האדם בתהליך שמופעל על ידי בינה מלאכותית, בין אם בתחילת התהליך או בסופו. במסגרת מסמך המדיניות מוצעים עקרונות אתיים המתייחסים, בין היתר, לעיקרון "האדם במרכז" – המתייחס לנקודת הפתיחה בעת פיתוח ושימוש בבינה המלאכותית, אותם יש לעשות תוך כיבוד החוק, כבוד האדם, וזכויותיו.

בקצהו השני של תהליך תוצאות החלטות הבינה המלאכותית, מסמך המדיניות דן בשאלה של מעורבות אנושית בתוצאות החלטות הבינה המלאכותית, "Human in the loop", בדרך של פיקוח שוטף או ערעור על החלטותיה. כלומר כדי למנוע את החשש שכספי הלקוחות יהיו נתונים בידי בוטים, בני אדם יהיו במידה כזו או אחרת מעורבים בחלק מתהליכי העבודה או הפיקוח על קבלת ההחלטות של הבינה המלאכותית.

אם כבר התחלנו לפנטז על כניסה לסניף בנק וירטואלי, שבו יפגוש אותנו אווטר של בנקאית או בנקאי במרחב המטאוורס, נראה כי נצטרך להמתין להבשלת השוק הפיננסי להטמעת הבינה המלאכותית בתוך המסגרת הרגולטורית הענפית שתיקבע – ובכל מקרה, יהיו שם בני אנוש שיפקחו על הנעשה מאחורי הקלעים.

רו"ח ווידאד אלטוחי היא שותפה באשכול בנקאות ופיננסים, פירמת הייעוץ וראיית החשבון BDO