מכונת ההחלטות: מי רוצה פוליטיקאי מבוסס AI?

1. פתרון טכני. מתקן חולות, מתווה האו"ם, מדינה שלישית או קליטה ופיזור ברחבי הארץ: על פניו ההתמודדות עם אלפי מבקשי המקלט שהגיעו מאפריקה לישראל היא סוגיה פוליטית ומוסרית, אך Modeling Religion Project של ארגון CMAC מבקש לרתום פיתוחים טכנולוגים כדי להתמודד עמה.

2. אזרחים וירטואליים. פרויקט MRP נבנה בידי עשרות חוקרים בתחומי מדעי המחשב, הפילוסופיה והדת בנורווגיה, וירג'יניה ובוסטון, שמנסים לפתור סוגיות גיאופוליטיות מורכבות בעזרת בינה מלאכותית. לצורך כך הם בנו מערכת ממוחשבת שמאכלסת אלפי בני אדם וירטואליים, ומריצה תרחישים שונים תוך שינוי גורמים כמו חינוך, דת או ביטחון. מטרת הסימולציה היא להעמיד לרשות פוליטיקאים כלים אמפירים, שיסייעו להם לבחון את השפעת דרכי פעולה שונות בנושאים סבוכים.

3. מוסר אלקטרוני. המודל שפותח במשך שלוש שנים כפרויקט אקדמי כבר הוכנס לשימוש בנורווגיה, ומעלה מספר שאלות מרתקות על היכולת של בינה מלאכותית להחליף את שיקולי המוסר האנושי. למשל, מה היה קורה אם במקום לערוך התייעצויות ממושכות עם שורה של מומחים ויועצים, נשיא ארה"ב לשעבר ג'ון קנדי היה מסתייע ב-AI במהלך משבר הטילים בקובה; האם מלחמה גרעינית עדיין היתה נמנעת?

4. שיקולים מוטים. נקודת המפתח היא שגם כשמדובר במערכת שאמורה להיות אובייקטיבית, שיקולים חיצוניים עדיין משחקים תפקיד. אלגוריתמים וכלים ממוחשבים אחרים לקבלת החלטות מנתחים את הנתונים שהוזנו אליהם לפי מערכת שיקולים שנבנתה מראש. השיקולים הללו, ובעיקר הנתונים שהוזנו אליהם, צבועים תמיד בהטיות אנושיות. כך גם ההחלטה לפסול נתונים מסוימים. 

5. הצדיעו למחשב. סוגיה מרתקת נוספת היא שאלת האחריות: אם אימוץ עצת האלגוריתם מביאה בסופו של דבר לפריצתה של מלחמה, מי אחראי לכך, המנהיג שאימץ אותה או המתכנתים שכתבו את התוכנה - שאלה שגרסה מוקדמת שלה אופפת גם את עולם הרכב האוטונומי. ייתכן שבעוד מספר שנים היכולת לקבל החלטות בעזרת אלגוריתמים תייתר לחלוטין את הצורך בבחירת מנהיגים, כל שיידרש יהיה כמה אלפי מצלמות מעקב ושרתים. אפשר לכנות את זה השיטה הסינית.