בשנים האחרונות בכלל, ובחודשים האחרונים בפרט, נראה שאי אפשר להתחמק מהבוטים שמקיפים אותנו מכל הכיוונים - משירות הלקוחות של חברות שונות, עד הזמנות שונות. במקביל, בחודש יוני האחרון, כאשר מהנדס מגוגל טען כי מערכת הבינה המלאכותית - פיתחה בינה, וחברה טסלה חשפה את הרובוט האנושי שלה.
לאן העולם מתקדם? האם נעבור ממצב בו הנשמה יוצאת עד שמגיעים לנציג טלפוני - למצב בו הבינה המלאכותית תנסה להשתלט על העולם, ואפילו (חס וחלילה) להיפטר מאיתנו? "בואי נבהיר את זה - המערכת של גוגל לא פיתחה בינה מלאכותית, אבל נוצר רעש מסוים סביב הנושא", הסבירה ד"ר לירז מרגלית, "הבוטית שלהם יודעת לחקות את בני האדם בצורה מדהימה, כמו במבחן טיורינג, אבל זו לא באמת מודעות, שכן יש הבדל בינה לבין אינטליגנציה - שכן היתה שם".
"המקרה של גוגל, ומקרה דומה שהתרחש לאחר הכרזה של פייסבוק על בוטים שקיבלו את היכולת להתמקח בעת ניהול משא ומתן - ופיתוחים נוספים מהשנים האחרונות - מלחיצים אותנו מאוד, מעודדות נבואות שווא ומעלות חשש ופאניקה ממצב בו המציאות תיראה כך בעתיד", ציינה. היא הוסיפה כי יש להבין את התחושות הללו ממצב בו הבוטים יבינו שבני האדם לא מביאים תועלת ויחשבו שצריך להיפטר מאיתנו כדי לייצר מציאות יעילה".
בעצם, אפשר להגיד שהמהנדס מגוגל הגזים בתגובתו?
"הוא לא המציא את החשש הזה, שכן יש לנו נטייה לחפש ולייצר משמעות לכל דבר. בנוסף, ככל שאנשים בודדים יותר, כך היכולת שלהם לייחס מודעות למכונה - גדלה באופן משמעותי. בעצם, הכל מתחיל ונגמר אצלנו".
אז זו הסיבה שרובן המוחלט נשים?
"לא. עשו מחקר בנושא וכשהבוטית היא דמות אישה, אז המשתמשים פונים אליה בצורה חביבה יותר ומפרים לה דברים רגישים. אנחנו מרגישים שדמויות נשיות יותר מכילות ואמפתיות, בעוד שהגברים נתפסים כיותר 'ענייניים', כך שדמות נשית תיצור חיבור וקשה בצורה הרבה יותר מהירה".
ד"ר מרגלית ציינה כי הדוגמה הנפוצה ביותר כיום להאנשה שהמשתמשים עושים לבוטים - היא התגובות שלנו לאפליקציית הניווט WAZE. "אנשים נוטים, בצורה טבעית למדי, לצעקות על הווייז ולריב איתו, למרות שיודעים שאין לאפליקציה מודעות", הדגישה, "הרבה פעמים, אנשים פשוט מנסים להתווכח עם האלגוריתם ולעשות לו 'דווקא'".
שינוי משמעותי
"התחום של בינה מלאכותית, ובפרט הענף של למידת מכונות, מקבלים המון תשומת לב בשנים האחרונות, ויש פה רעיון בסיסי שחייבים להבין אותו - פיתוח אלגוריתם שיבין, ויוכל לקבל החלטה במצבים מסוימים, ושיידע לפתור בעצמו בעיות - בלי שתוכנת לכך מראש", הוסיפה, "בעבר, האלגוריתם היה מבוסס על כללים ברורים - אם רואים חייל אדום אז פונים לכיוון מסוים, ואם רואים חייל צהוב אז מסתערים - וכיום ישנה התפתחות משמעותית מבחינת היכולות, והיא יכולה להיות מאוד מלחיצה. בעצם, במצב הזה האלגוריתם לא מקבל מראש את הכללים, אלא רק את המידע הבסיסי, כולל הגדרה של מהי הצלחה ומהו כישלון, והוא נדרש להסיק זאת באמצעות ניסוי וטעייה".
בעצם האלגוריתם לומד כיצד לפתור את הבעיה.
"בדיוק. הוא לומד לפתור את הבעיה ולא רק להגיע לפתרון שלה, וזו הגישה הכי מתקדמת כיום. למחשבים יש כוח חישובי עצום - והם יכולים בתוך שניות לעשות דברים שייקחו שעות רבות לבני האדם. כך, המכונה יכולה ללמד את בני האדם כיצד להגיע לפתרונות חדשים, ויכולה גם לנצח אותם - היא עושה את כל הטעויות האפשריות בדרך לפתרון. המחקרים הראו שהדרך הכי טובה להתמקצע היא ללמוד מטעויות, והמחשבים פשוט עושים את הטעויות יותר מהר ולומדים מהן".
"האלגוריתמים יכולים להתעלות על בני האדם בדברים ספציפיים, אבל כשמסתכלים על רכב אוטונומי - הוא לא עובד על בסיס ניסוי וטעייה, אלא מעבד כמויות עצומות של מידע, ומזהה דפוסים באמצעות כוח חישובי", הסבירה ד"ר מרגלית, "כולם אומרים שאנשים נוטים לבצע טעויות, ושהאלגוריתם יוכל לעשות זאת בצורה טובה יותר מאשר בני האדם, אבל לנו יש משהו שאין לאלגוריתם - מודעות וגמישות מחשבתית".
היא הוסיפה: "רובוטים לא יפתחו מודעות בזמן הקרוב, כך שהם ימשיכו להסתבך ברגע שהסביבה הופכת למורכבת, והם נטולי גמישות מחשבתית - כך שהם לא יודעים להשליך את הניסיון והידע בתחום אחד - על תחום אחר. הדבר מתאפשר בזכות המוח האנושי, ואת זה אין לרובוטים".
מה זאת אומרת?
"מדובר בין היתר ביכולת לשנות את המשמעות של האובייקט בהתאם למטרה שלו - למשל מצב בו ילד קטן לוקח בננה ומצמיד אותה לאוזן כאילו מדובר בטלפון. לעשות אנלוגיה לדבר מסוים. אנחנו חושבים שזה דבר של מה בכך - אבל זו יכולת שיש רק לבני האדם, ואם משנים טיפה את סביבת העבודה אליה הרובוט תוכנת - הוא יסתבך ויקרוס".
"בשנים האחרונות נרשמה פריצת דרך בתחום הפסיכולוגיה הקוגניטיבית הקלאסית, אשר במסגרתה הבינו שתהליכי עיבוד המידע והמחשבה הם בכלל לא מה שחשבנו. אם בעבר חשבו שמגיע גירוי חיצוני, עובר עיבוד במוח ואז יש פלט כלשהו שמוביל להחלטה כיצד להגיב - שזאת הנחה משוללת יסוד", ציינה ד"ר מרגלית, "כך הגיעו בעצם לפריצת דרך מטורפת שמסבירה אחת ולתמיד למה מחשבים לא יכולים לפתח מודעות, ומעולם לא תהיה להם".
לדבריה, החוקרים הבינו שגוף האדם כולו לוקח חלק פעיל מאוד בקבלת ההחלטות ובאופן שבו אנחנו מעבדים את המידע. "למשל, אתם תעריכו יותר אדם שיביא לכם קפה חם, לעומת קפה קר, ותעריכו שהדרך תלולה יותר במידה ותחזיקו תיק כבד", ציינה, "בעצם, הקלט מגיע מהחושים ולא רק מהעיבוד מידע במוח. זו הבנה מאוד משמעותית לגבי המודעות שלנו - אם הגישה הקלאסית אמרה שאפשר לקחת את המוח האנושי ולהשתיל בחייזר - כדי שהוא יחשוב כמונו, עכשיו מבינים שזה לא נכון, והגוף כולו לוקח חלק פעיל בהחלטה. אמנם אפשר לייצר תהליך חישובי אצל הרובוטים - אבל לא ניתן לייצר את תהליך החישה, כך שהם לא יכולים לפתח מודעות".
אז בואי נחזור לכל אותם תרחישי אימה של רובוטים שמחליפים אותנו בכל תחומי החיים, ובסופו של דבר משתלטים על העולם.
"כדי שמחשב יוכל להשתלט על העולם, הוא צריך כוונה ומחשבה עצמאית, לצד היכולת להטיל ספק, להרגיש תסכול וכעס ולפעול בהתאם למטרה - ואין לו את היכולות הללו. מדובר ביצרים שעומדים במקור של מרבית הפעולות שאנחנו מבצעים בחיי היומיום, כך שברגע שהסביבה נטולת רגשות, כוונות ומוטיבציה - אין מה לדבר על מודעות. לא יכול להיות מצב בו שני רובוטים מארגנים הפיכה צבאית - אבל אם יתכנתו אותם להרוג כמה שיותר בני אדם, אז הם יוכלו לנצח, כי יבצעו במהירות תהליך שלבני אדם לוקח עשרות שנים".