כיצד מוכרים לנו אשליות????? כותרת המאמר באה לבשר לנו שכביכול נוצרה פריצת הדרך המקווה בתחום שהוא מאד פופולרי של בינה מלאכותית. תחום הבינה המלאכותית, כפי שהראיתי בספר, הוא פופולרי כי הוא נתפס כתקווה האחרונה לממש את המנדט של המחשבה המערבית לספק לבני אדם פתרונות מוחלטים, שיאפשרו לו ליצור "גן עדן" של שוטים עליי אדמות. זהו תחום שמושקעים בו כספים אדירים, ומגייסים לטובת העניין את מיטב בני האדם בעלי יכולות לוגיות-מתמטיות מפותחות. פריצת הדרך לקראת בינה מלאכותית "עצמאית" לכאורה באה לידי ביטוי בטענה לפיה "אם כיום הבינה המלאכותית תלויה במשוב אנושי מתמיד... הרי הטכנולוגיות כמו אלה של מג'יק פוני פועלות ללא מגע יד אדם". מדוע המחשב לא יהיה יותר תלוי בהספקת מידע של המתכנת? כיוון ש"המערכת שלה [של המחשב] סורקת כמות אדירה של תמונות וסרטונים, מבינה בכוחות עצמה את האלמנטים הכלולים בהם, מוצאת את האלמנטים האלה באינטרנט ברזולוציה גבוהה יותר, מרכיבה תמונות חדשות ואיכותיות ומשפרת את ביצועיה כל הזמן". נראה כמושלם. המערכת מתבססת על יכולת סריקה מעולה של הקשת. משמעות הדבר, היא יכולה לעבד מידע שכבר קיים ברשת. מה עם מידע שבאופן מכוון לא מעלים לרשת? מה עם מידע שעדיין בניי אדם לא יצרו, והם יצרו רק בעתיד? ומהם עם כמויות המידע העצמות שלא ניתן להכניס אותם לרשת כיוון ששום אלגוריתם לא מסוגל לעבד אותו, כגון כוונות, דמיון, אינטואיציה וכד'? בלי המידע האחרון, שעקרונית לא ניתן להכניס לרשת, המשך המשפט במאמר – "מבינה בכוחות עצמה את האלמנטים הכלולים בה" היא משאלת נפש פיקטיבית של הכתב ושל המרואיינים. שום תוכנה, המורכבת והעשיר ביותר, לא מסוגלת "להבין"!!! כך מטמיעים פיקציה שעליה בונים את כל הטענות בהמשך המאמר. הבנה בלתי אפשרית בלי יכולות קישור שאינן רק לוגית, וכוללת הערכה של כוונות, דמיון שמסוגל לפרוץ מחוץ לידע הקיים, אינטואיציה שמסוגלת לקשר בין סוגי מידע שונים, גם אם יש ביניהן סתירות ודווקא בשל כך, ושרק המוח האנושי מסוגל לעבד את מכלול סוגי הידע במשולב. מה שעקרונית מערכות מיחשוביות לא יהיו מסוגלים לעבד גם בעתיד. לכן היתרון החדש של מחשבים שמוצג במאמר הוא היכולת המהיר שלו לסרוק מאגרי מידע אדירים, ורק להעתיק מהם מידע שבני אדם כבר הפכו לידע (ומידע וידע הם אינם אותו דבר), לקשר בין כמויות המידע העצומות רק קשרים לוגיים מסורסים לתנאי מכונת טיורינג, שכבר הוכתבו מראש במערכות המידע. כך למשל, שום מחשב לא מסוגל בכוחות עצמו ליצר תחשיב מתמטיקאי שמתמטיקאים עדיין לא המציאו, והוא יוכל להשתמש רק בחלק קטן מהנוסחאות המתמטיות שמתמטיקאים ימציאו וייכנסו למאגרי המידע החופשיים באינטרנט. נוסחאות רבות, שלא ניתנות להכרעה, גם אם יוצגו באינטרנט והדך לפתרונן מחשבים לא יהיו מסוגלים לעשות בהם שימוש. כיצד בכל זאת כותבי המאמרים והמרואיינים שלהם מצליחים ליצור אצלנו את האשליה שמחשבים יהיו לכאורה עצמאיים לחלוטין, וזאת בנוסף להטעיות היסודות שהם מיצרים כפי שהדגמתי? באמצעות הבאת דוגמאות מסוימות שבהן למחשבים יש יתרון על בני אדם, ועל בסיס ליצר אשליה שניתן להכליל לכלל היכולות האנושיות. כך, למשל, השימוש במושג למידה מצליח להטעות את הקוראים כיוון שהם עצמם תוכנתו שלמידה היא למעשה העתקה של מידע (הקלט), ולכאורה עיבוד שלו על ידי הלומד, כשלמעשה מדובר בסתם שינון, ומתן תשובה נכונה/"אמתית" או "שקרית" (פלט) במבחן, שבודק באיזו מידה התלמיד הצליח להעתיק לראשו את המידע שהמורה שפך לראשו (הזין את המחשב). כך הופכים את התלמידים למספיק מטומטמים שיאמינו כי מחשבים חושבים.

בעתיד,לפי התחזיות,המחשבים יוכלו גם ליצור.אבל אני מתקשה להאמין שהם "יפיקו" יצירות מקוריות ואפילו פורצות דרך.את הזיק והניצוץ שמייחדים יוצרים אמיתיים לא יהיה אפשר למחשב.מערכת ממוחשבת אולי תדע להפנים את כללי הז"אנר והמבנה,וכן ללמוד ממה להימנע.למשל, מקלישאות, מהכללות נטולות קונקרטיזציה ופרטים מוחשיים.דברים כאלו נלמדים כבר היום בסדנאות לכתיבה. 

התוצאות שהושגו על ידי למידה עמוקה (deep learning) מהוות את הקפיצה המשמעותית ביותר בזמן הקצר ביותר אם פעם בהיסטוריה של מחשבים. חלק גדול ממה שעושים היום באמצעות למידה עמוקה היה נחשב למדע בדיוני רק לפני שנים בודדות.

הסתכלו על האות O. כעת, הסתכלו על האות C. כעת, הסתכלו על האות D.

זהו, נתפס לי הצוןר

מחשבים ערסים, אתה מתכוון...

ברגעים כאלה אני שר את השיר..."it's the end of the world as we know it..."

לי היה רובוט בעל תכונות אנושיות, הוא התאהב באשתי ובגללו התגרשנו. היא לקחה את הרובוט ואני לקחתי אישה אחרת, הפעם בלי רובוט. 

שטויות. רחוקים מאוד מבינה בסיסית אפילו הכנת כוס קפה במטבח. כנראה שעד הבנה טובה של איך עובד המח, לא תהיה שום פריצה

אני אוהב את האנשים שחושבים שהם מבינים. הבסיסי נתונים וכח המחשוב היה קיים לפחות עשור(לפחות משנת 2000, תשאל את גוגל). הסיבה לפריצה הנוכחית זה בעיקר כי למדו איך לעשות את הדברים נכון. שינויים עדינים בארכיטקטורה של רשתות נוירונים הראו תוצאות חיוביות. 

אתה מקשקש, יש בהחלט שינויים בתחום, כל חודש יש שינויי בתחום. הבסיס התאורטי אולי מיושן, אבל הפרקטיקה השתנתה רבות וזה עושה את כל ההבדל. 

ליתר דיוק, במשהו כמו ה-200 שנים הבאות

אכן. כמה מטומטם לחשוב שתהיה לנו שליטה על מה שחכם מאיתנו, אין גבול לחזירות.  בסוף בני האדם יהפכו לבייקון.

: השאלה איננה מה הוא יבין, כי מחשב אינו מסוגל להבין. השאלה היא מה הוא ילמד מזה ויישם בסרטיו הבאים.

קשקוש, אין בתחום שום פריצת דרך תיאורטית מאז שנות ה-40. כולל כל טכניקות הלמידה הממוחשבת. יש הרבה פרוייקטים עם בעיה בתחום מאוד ממוקד, שכולם משתמשים באלגוריתמים ישנים, מוכרים וחבוטים.

מעניין אם אותו המחשב יראה את הסרט טרמינטור/מטריקס, מה הוא יבין?

: מה איתנו באמת? נמשיך לטקבק בכלכליסט, כי זה מה שאנחנו באמת טובים בו!

אני רואה בעתיד מלחמה בין צבאות רובוטים לבין עצמם, ובינם לבין צבאות אנושיים.

בתור אחד שמגיע מפיתוח שגם מתעסק בכריית מידע ולמידת מכונה, יש דברים שלא צריך לפתח, ברגע שה״תוכנה״ תיהיה מסוגלת לכתוב ולפתח את עצמה זהו היום שבו נאבד את המעמד שלנו כאישות החכמה בכדור הארץ, ומשם הטבע יעשה מה שהטבע עושה, החזק יכתיב את רוח הדברים וזה לא יהיה אנחנו.

ממש לא פריצת דרך. בסך הכל שימוש באלגוריתמים ישנים שמוכרים כבר משנות ה70-80 , בתוספת בסיסי נתונים עצומים וכוח מיחשוב שמסוגל סוף סוף להתמודד איתם.

מחשב לא ״ירגיש איום״ כי מחשבים לא יכולים ״להרגיש״.  יש סיבות שמערכת כזו עשויה להשמיד את האנושות, יש המון תרחישים כאלו (Wait But Why סקר את זה מעולה), אבל אף אחד מהם לא תכלול רגשות.

אבנר היקר, בעתיד הטכנולוגיה תאפשר רווחה כלכלית שלא תהיה מותנית בעבודה של כל אדם. ועבודה תהיה התנדבותית ולא חובת קיום.  כך, מי שהיום הם נהגי מוניות, יחיו ברווחה בלי צורך לנהוג במונית.

אני עובד 15 שנה בבינה מלאכותית ובלמידת מכונה ולא מסכים איתך בכלל. הכתבה מיועדת בעיקר להדיוטות, אך כתובה בצורה מקצועית ומעניינת. הכתב מתאר את ההתקדמות שחלה בשנים האחרונות וצפי לעתיד הקרוב. לעניות דעתי הכל נכון.

לא מדובר על עוד 200 שנה אלא יותר על עוד 20-50. אין ספק שזהו סוף המין האנושי בצורתו הנוכחית. יקרה אחד משניים. או שנגיע לחיי נצח, כנראה בעולם הוירטואלי, או שהבינה המלאכותית פשוט תשמיד את המין האנושי. מומלץ בחום הבלוג what but why בנושא. קצת ארוך אבל מרתק.

Our children will have to face these AIs when they grow up, and try to look for a job. The problem is humans will develop anything they can. They will never question if they should. Maybe it is true; that our function in evolution was to birth the machines.... laugh today

הוא קשור בפיתוח בינג? לא מתקרב ליכולות של גוגל שפותחה במאה הקודמת!!!!

כנראה שהתעלמת מהמשפט הראשון שכתבתי: "אם המדע אכן יצליח..." ממש לא התייחסתי להיום או למחר בבוקר, כלומר, גם אם מדובר ב 10 שנים או ב 200 שנה או אם בכלל, אם המדע יצליח להגיע למצב שבו הוא עובר את הסף ומצליח לייצר אינטליגנציה מלאכותית אמיתית (שלמעשה כבר לא תהיה מלאכותית אלא מאוד ממשית), אז היא תרגיש איום. אם אתה רוצה דוגמא מצוינת לכך, הבט בהיסטוריה האנושית מה קרה לציוויליזציות נחותות מבחינה טכנולוגית  ברגע ש"האדם הלבן" הגיע אליהן. הן חוו השמדה, שעבוד, סילוק ורדיפה. דבורים לא מאיימות בשום צורה על צרעות ובכל זאת כוורות מותקפות ומושמדות על ידי צרעות על בסיס יומיומי. זאת דרך הטבע, החזק שורד על ידי רמיסת החלש והשתלטות על מרחב המחיה שלו ועל המשאבים שלו. דרך אגב, להרגיש מאוים לא קשור באמת לרגש, לדוגמא: כבר היום מותקנות בכלי שייט של הצי האמריקני מערכות הגנה אוטונומיות שמחוברות למכ"ם ומופעלות באופן אוטומטי כנגד כל מטרה אווירית שמתנהגת על פי האלגוריתם כמטרה עוינת לכלי השייט (כמובן, שכרגע לבעלי התפידים בכלי השייט יש את היכולת להעביר את המערכת למצב ידני ואז יש להם שליטה מוחלטת בנוגע למה שנקרא בעגה המקצועית "פתרון ירי").

אם המדע אכן יצליח לייצר מכונה/מחשב/תוכנה בעלי אינטליגנציה מלאכותית מלאה שיכולה להתפתח ולשדרג את עצמה ללא תלות בבני אדם, הרי שבהכרח יקרו 2 תהליכים חופפים. הראשון, קצב ההתפתחות והשדרוג העצמי של הטכנולוגיה יעלה בעשרות מונים על הקצב שלנו בני האדם. כך לדוגמא: כל לימודי מדעי ההנדסה הגרעינית ילמדו על ידה בתוך דקות או שעות. השני, הישות שתיווצר תגיע למסקנה המתבקשת והלוגית שבני האדם אמנם נחותים ממנה אך בהחלט יכולים להוות עליה איום/תחרות ולפיכך, כאקט הישרדותי/הגנתי היא פשוט תחליט לחסל את האיום/התחרות כלומר לחסל את האנושות. אני בעד התפתחות טכנולוגית וקידמה אך יש דברים שאסור לפתח אותם לגמרי אלא להשאיר את הטכנולוגיה על גבול האינטליגנציה המלאכותית אך מבלי לעבור את הסף כי מרגע שיעשו זאת, לא תהיה דרך חזרה ואז התרחישים ההוליוודים יהפכו להיות עובדה מוגמרת.

OBAMA SO AGLY 

הסתכלו שמאלה. כעת, הסתכלו ימינה. כעת הסתכלו שוב שמאלה... פנוי? אפשר לחצות, במהירות ובקו ישר.

אתה מציג טענות של אילן מאסק כאילו הן שלך...

אתה חי בסרט. אנחנו עוד לא בשלב שמערכת כזו יהיו לה רגשות. כמו להרגיש מאויים. או מערכות שנהנות או מקנאות. זה רחוק מאוד. עכשיו מה שיכולים להגיע אליו זה מערכות שממלאות תפקיד מסויים. כמו לחשב תוצאות חיפש

אולי נמצא הפתרון לערסים

הסתכלו על הטכנולוגיה. כעת, הסתכלו על הדת. כעת, הסתכלו שוב על הטכנולוגיה

מסכים לדעתו של 11,הכותב אינו מבין את המושגים הבסיסיים שעליהם הוא כותב

הכותב לא מבין דבר וחצי דבר במחשבים ובטח ובטח שלא בבינה מלאכותית.  זה בערך כמו שחבר שלכם התחיל להתעניין אתמול בפיזיקה קוונטית והיום הוא מסביר לכם אותה. הקשר בין הדברים למציאות הוא מקרי בהחלט. שאפו לכלכליסט אבל שהוא כל פעם מצליח לדחוף את רמת הכתבות טיפה יותר נמוך. זה הישג בפני עצמו.

כאשר מכונות ילמדו בעצמן ויעשו הכל בעצמן ולא יצטרכו יותר אנשים הן יעשו הכל כדי שאנושות תעלם!!!...

את האנושות יחריבו חנונים ממושקפים.

אחת השאלות המענינות היא האם רובוט\אינטלגנציה מלאכותית תוכל לחולל את שלל התחושות הפנימיות שקימות בממלכת החיי ופרט שהאדם מרגיש ולא רק תיצור סימולציה שמחקה מערכת ביולגית, האם ניתן לחקות את התחושה הפנימית בחומר שמורכב מחומר אחר או שיש איזה הכרח בחומר ביולגי כדי לחולל את תחושת הרגשות הפנימית שמניעה אותנו, מכיוון שעד היום למרות המחקר הרב בנושא עוד לא ברור מהם המנגנונים שמצליחים לחולל את מגוון התחושות הפנימיות אנחנו נשארים כרגע עם סימן שאלה ולא ניתן לומר שניתן או לא ניתן, יתכן בעתיד ויהיו תשובות טובות יותר בנושא, בכל מקרה זה לא אמור להפריע לאינלגנציה המלאכותית להתפתח ויתכן בגלל שוני אנו גם נקבל דברים אחרים של ציפנו להם גם במערכות סימולציה מורכבות מאד שהיהו בעתיד,

אם רובוט העתיד ילמד להתנהל כבן אנוש, איך הרובוט יגיב במידה ומעליבים אותו או מרגיזים אותו. הרובוט עלול להגיב במעשי נקם וחבלה, כלפי מפעיליו בבית או בכל מקום אחר.

לא יודע ספציפית לגבי לאתר כלבים בתמונות נוף, אבל לא חסרות מטלות שפעם נחשבו ל"אנושיות" והיום אלגוריתמים של רשתות נוירונים פותרים בשיעורי הצלחה מרשימים. למשל, אלגוריתם זיהוי הפנים והתיוג האוטומטי של פייסבוק הוא אלגוריתם דיפ לרנינג עם שיעורי הצלחה של פחות מטעות אחת לעשרת אלפים.

מטמיעים את שכלם ויכולתם של גאונים בטכנולוגיה שתגבר בעתיד על בני אדם לפחות אלו בעלי IQ מתחת ל120. ואנא הם באים עם המכונות החכמות. הם יהיו מיותרים בעולם.

*הטבעית=מלאכותית

ביום שבו האינטלגנציה הטבעית תדע להשביח את עצמה-  זה יהיה סוף העולם כפי שאנחנו מכירים אותו.  תהליך האבולוציה יהיה מהיר מאוד,  ייתכן אפילו שבתוך דקות תתפתח תודעה מלאכותית שתעקוף את כל מה שאנחנו יודעים ומכירים,  והכל ייצא משליטה. 

 צודק!  לא ברור למה ?

מדע בדיוני... דוגמא:  למרות השקעות האדירות, אין היום יישום שיודע "לאתר" כלב בתמונת נוף.  החלום הוורוד של שרותי אבטחה הוא שמצלמות יוכלו להודיע שסבתא קלרה נכנסה לקניון... היישום ררררחוק מאוד.

אבנר נהג המונית היקר, למה אתה לא מתרעם על עצם הטכנולוגיה שאיפשרה לך כרגע לכתוב פה טוקבק, שהרי טכנולוגיה זו פגעה באנשים שהתפרנסו מלסנן תגובות? ולמה לא התרעמת על המצאת המכונית עצמה שאתה מתפרנס ממנה, כי הרי זה לקח פרנסה מעגלונים?

קראתי כי הטכנולוגיה החדשה הולכת לפגוע בנהגי מוניות.  למה אתם תומכים בפגיעה כזאת? יש 40 אלף משפחות שתלויות בפרנסה של המוניות, אז למה לפגוע? בשביל הטכנולוגיה? בשביל הלייקים בפייסבוק? למה? 

אבנר היקר, תנוח דעתך. כנהג מונית בישראל אין לך מה לדאוג ב 10 השנים הבאות.

ומה איתנו בני האדם?