אל תתנו להם רובים: הבינה המלאכותית של גוגל לא בוחלת באלימות

הבינה המלאכותית של גוגל התפרסמה לפני כמה חדשים כשהצליחה לנצח את אלוף העולם במשחק הגו. כעת החוקרים של מעבדת Deep Mind שם היא מפותחת מנסים לבדוק את ההתמודדות שלה עם דילמות חברתיות ומוסריות.

ניסוי שערכו חוקרי המעבדה ושתוצאותיו דווחו אתמול (שבת) באתר גיזמודו עסק ביכולת של הבינה המלאכותית לשתף פעולה או לבחור בעימות על מנת לפתור בעיה. החוקרים בנו שני ניסויים על מנת לבדוק את היכולת של דיפ מיינד להתמודד עם דילמות חברתיות יומיומיות.

הניסוי הראשון התבסס על משחק פשוט, במסגרתו התבקשו שתי רשתות נוירונים, כחולה ואדומה, להתחרות ביניהן על איסוף של "תפוחים" שמיוצגות על ידי פיקסלים ירוקים. המשחק מתבצע על לוח דו-ממדי, כאשר לכל אחד מהשחקנים יש אפשרות "לירות" על היריב על מנת להוציא אותו זמנית מהמשחק.

החוקרים מצאו שכאשר התפוחים נמצאו בשפע, שני השחקנים אספו אותם מבלי להתעסק אחד עם השני. עם זאת, ברגע שמספר התפוחים פחת נוצרה תחרות והשחקנים לא בחלו בירי מנטרל על היריב כדי להשיג את מספר התפוחים הגדול ביותר.

לכאורה מדובר בפעולה לוגית, כאשר יש תחרות על המשאבים, הפתרון הטבעי ביותר הוא לנטרל את היריב כדי להגביל את הגישה שלו לאותם משאבים. החוקרים הריצו את המשחק כאלף פעמים ובכל פעם נמצא שהשימוש ב"ירי" החל להתבצע ברגע שהתחרות על התפוחים החריפה בגלל התמעטותם.

 

בנוסף, מצאו החוקרים שכאשר הם העמידו זו מול זו רשתות נוירונים קטנות יחסית, הסיכוי לשיתוף פעולה ביניהן גדל. לעומת זאת, כאשר אחת הרשתות הייתה גדולה מהשנייה - הסיכוי לבחירה בפעולה אלימה מצד הרשת הגדולה יותר גדל.

בניסוי השני החוקרים החליטו לבדוק את הגורמים שעשויים להוביל לשיתוף פעולה בין השחקנים. המשחק שנקרא "להקת זאבים" בדק את היכולת ללכוד "טרף". השחקנים זכו ביותר ניקודות ככל שהזאבים היו קרובים יותר לטרף בשלב הלכידה. כך ניסו החוקרים לעודד את השחקנים לשתף פעולה, בניגוד למצב בו כל אחד ינסה ללכוד את הטרף לבדו.

גם כאן הרשת הגדולה יותר "הבינה" מהר יותר מהרשת הקטנה ששיתוף פעולה ישפר את הסיכויים לנצח במשחק ולהשלים את המשימה. התובנות האלה אמנם עשויות להיראות מובנות מאליהן, אך מדובר במחקר חשוב ביותר עבור עתיד הבינה המלאכותית.

המחקר מספק הצצה לדרך בה רשתות נוירונים עשויות להתמודד עם משימות כאשר מעורבים בהן תמריצים. בנוסף, המחקר בודק כיצד רשתות כאלה מתמודדות עם משימות בהן אין להן את כל המידע ולומד את התגובות שלהן למצבים אלה.

לאחר הניצחון בגו, החוקרים מבקשים ללמד את המערכת לשחק במשחק אסטרטגיה בזמן אמת, ולשם כך הם משתפים פעולה עם יוצרי המשחק הפופולרי סטארקראפט 2. החוקר המוביל בצוות של גוגל הסביר לסוכנות בלומברג ש"יהיה מעניין לראות כיצד סוכנים יתמודדו עם מהלכים שדורשים ללמוד את המוטיבציות של היריב. השלב הבא יהיה לצייד אותם ביכולת להבין את המטרות והאמונות של היריב".