"צה"ל יידרש לשנות את תפיסות ההגנה ולשלב יותר כלים של בינה מלאכותית"

"ישראל אולי לא במקום הראשון במודלים הבסיסיים של AI, אבל בכל מה שקשור בחומרה, ובוודאי בשימוש בארגונים ובאפליקציות, יש לנו טאלנט מדהים ואנחנו בחוד החנית. אני חושב שבגלל פריצות הדרך ב-AI, והמוטיבציה לייצר חדשנות, ההשקעה בתחום הזה תהיה אדירה ויווצרו חברות פנטסטיות כך שישראל תמשיך להיות בחוד החנית של ה-AI", כך אמר לירן גרינברג, מייסד ושותף מנהל Team8 במסגרת פאנל בנושא סייבר בכנס AISRAEL של מיקרוסופט וכלכליסט.

לשאלה איך ה-AI הולך להשפיע על צה"ל ואיך היא רואה את ההשפעה על עולם הסייבר השיבה אל"מ (במיל') טליה גזית, שותפה ומנכ"לית PwC Next; לשעבר מפקדת ממר"מ, כי "ניתן לדמיין שיש קו הגנה וירטואלי דיגיטלי ואז בא טרקטור ודורס אותו ואחריו מגיעה קבוצת תקיפה שיש לה יכולת אינסופית לצרף תוקפים ויכולת אינסופית לשלב שיטות הגנה אל מול אותה גדר וכשקו ההגנה לעולם ייפרץ הסיכוי של הקבוצה לפרוץ את הקו 100%. העלויות לייצר קבוצה כזו הן גבוהות, אבל מה אם אגיד לכם שזו קבוצה שיש בה כוח של אנשים אבל גם יישויות מג'ונרטות שהן אינסופיות. כשמסתכלים על הסייבר, נכון להסתכל על ההתפתחות שמתהווה בקצבים מאוד מהירים. גופים צבאיים, וגם ארגונים עם נכסים אסטרטגיים, אם יישארו בתפיסות ההגנה הקונבנציונליים הסיכוי שלהם להגן על הנכסים שלהם הוא קטן מאוד. גופים צבאיים נדרשים לשנות את תפיסות ההגנה וגם לשלב יותר ויותר כלים של גנרטיב AI. אנחנו יכולים לראות שמי שאימץ בצורה אינטנסיבית את כלי ה-AI זה דווקא קבוצות תקיפה שלוקחות יכולות של גי'נרוט טקסט ואחרות, לפתח קוד זדוני, לסרוק ולזהות נקודות חולשה - זה מחייב שינוי בתפיסה גם של צה"ל וגם ארגונים אחרים".

מימין מאיר אורבך, איתמר גולן, לירן גרינברג, אל"מ במיל' טליה גזית ועמי לוטבק | צילום: יריב כץ

לשאלה האם ה-AI יכול לשנות את מעמדה של WIZ כמובילה בתחום הענן, השיב עמי לוטבק, מייסד משותף וסמנכ"ל טכנולוגיות, Wiz, "מה שאנחנו רואים הוא שיש יותר מ-70% מסביבות הענן שכבר משתמשות במערכות AI. זו הטכנולוגיה שבשימוש כנראה בצורה הכי מהירה בהיסטוריה. המטרה שלנו היא לעזור לצוותי הסקיורטי וכל צוות כזה בעולם רוצים להשתמש בכלי AI ויצטרך למצוא דרך לעזור להם לעשות את זה בצורה בטוחה. השימוש ב-AI יכול להפוך את המגינים לפי 10 יותר יעילים ומצד שני טכנולוגיה חדשה מכניסה סיכונים חדשים. האתגר בשבילנו ב-WIZ הוא איך עוזרים לצוותי הסקיוריטי לדבר בשפה של ה-AI", אמר.

איתמר גולן, מייסד ומנכ"ל, Prompt Security אמר כי "AI, בניגוד למה שחושבים בטווח הנוכחי ההייפ הוא עצום אבל בטווח הארוך הוא לא מספק. ההשפעה היא בלתי נתפסת אם אנחנו מתעסקים ביומיום אבל אם מסתכלים 10 שנים קדימה, הכל הולך להיראות אחרת לחלוטין. חסם הכניסה היום הרבה יותר נמוך. כל מפתח יכול להרים אפליקציה מדהימה עם AI. הקצב מטורף. יש המון סכנות חדשות שהפתרונות הנוכחיים פשוט לא מתמודדים איתם. כל הפרדיגמה משתנה וזה מתחבר מרמת הממשלות ועד החברה הקטנה, זה הולך לייצר המון כאבים גם לחברות שאימצו AI בטירוף ופתאום פתוחות לסיכונים שהפתרונות הנוכחיים שלהן לא יודעים לתת מענה".

לדברי גזית, "יש חלון זמנים שבו אנחנו לא יודעים עדיין לזהות תוכן שנוצר באמצעות AI והתוקפים מנצלים זאת. באופן פרדוקסלי למרות המהירות באימוץ יכולות AI, בהיבטי ההגנה התהליך מתבצע הרבה יותר לאט. כשאתה משלב ומאמץ טכנולגויות AI הן עצמן הופכות להיות פגיעות. לדוגמא, אם משבשים את הנתונים שעליהם הAI מתאמן. באופן פרדוקסלי ארגונים עדיין לא השכילו להבין שהם נדרשים להשקיע דווקא בהיבטי ההגנה בעולם הזה".