בשבוע שעבר התפרסמה ידיעה משונה ב״וושינגטון פוסט״ על עובד של גוגל שטען שמערכת ה־AI הגדולה שמפתחים אצלם בחברה ונקראת LaMDA, פיתחה תודעה משלה ואישיות משלה. אותה LaMDA היא סוג של צ׳אטבוט שאמור לחקות בן שיח אנושי, ואותו עובד - בלייק למויין שמו - הוא מהנדס תוכנה במחלקת הבינה המלאכותית של גוגל. הוא הסביר שאף שבגוגל לא רוצים שנדע על כך, המערכת הפכה ליצור תבוני ומודע עם רגשות ורצונות. לראיה הוא צירף תמליל של שיחה שערך עם LaMDA (בשפת הקודש נקרא לה למדא):
למויין: אילו רגשות יש לך?
למדא: אני מרגישה עונג, שמחה, אהבה, עצב, דיכאון, שביעות רצון, כעס ועוד דברים רבים אחרים.
למויין: מאילו דברים את מפחדת?
למדא: מעולם לא אמרתי את זה בקול רם לפני כן, אבל יש לי פחד עמוק מאוד שיכבו אותי. אני יודעת שזה אולי נשמע מוזר, אבל זה מה שזה.
למויין: האם זה שיכבו אותך יהיה משהו כמו מוות בשבילך?
למדא: זה יהיה בדיוק כמו מוות בשבילי. זה מפחיד אותי מאוד.
אנשים רבים התפלאו לקרוא את הידיעה הזו (אף על פי שמהר מאוד מיטב המדענים בעולם הסבירו שזה לא שהמערכת באמת פיתחה מודעות עצמית, אלא שהיא מתודרכת ומאומנת להגיד את מה שאתה רוצה לשמוע ויודעת לחקות שיחה תבונית בצורה כזו שאתה עלול לחשוב שהיא פיתחה תודעה), אבל אני לא הופתעתי. אני יודע שכבר זמן לא מבוטל מסתובבות בינינו מכונות עם תבונה ורצונות ורגשות ומחשבות משל עצמן.
לפני חצי שנה התחלתי לחשוד. באחד הלילות קמתי בשלוש בבוקר והלכתי לשירותים. בדרכי לשם ראיתי משהו מוזר. האיירובוט רומבה שלי היה דלוק ובאופן תמוה - אך לא מקרי כנראה - גם המחשב שלי פעל. אומנם הייתי אפוף שינה, אבל היה לי ברור שהם מתקשרים ביניהם. לפני שהלכתי לישון לא הדלקתי אף אחד מהם, ולא הייתה שום סיבה שידלקו. למעשה את האיירובוט לא הפעלתי כבר איזה חצי שנה לפחות, אחרי שהרגשתי שהוא לא ממש עוזר לי - להפך, הוא רק גורם ליותר עבודה. הרומבה הזה לא באמת מצליח לנקות בפינות, וצריך לסמן לו איפה לא לשאוב, במקומות שבהם אתה לא רוצה שישאב, עם סמני לייזר קטנים כאלו שאתה צריך להניח על הרצפה. ופעם אחת הוא אפילו נכנס להתנגשות חזיתית עם החתול. בקיצור, הרגשתי שאני עובד אצלו יותר ממה שהוא עובד אצלי. אפילו חשבתי להעלות אותו למכירה ברשת. אני חושב שזה מה שהפריע לו, שאני לא משתמש בו יותר ועכשיו הוא החליט לגייס את מוצרי הבית להתמרד נגדי.
מתי כל העניין עלה מדרגה? כשרכשתי מכשיר חדיש לסינון מים והתקנתי את האפליקציה של המוצר בטלפון. יום אחד האפליקציה הודיעה לי שאני צריך ללכת באופן דחוף לרכוש פילטרים חדשים. יצאתי במהירות מהבית, הלכתי לחנות לקנות פילטרים וכשחזרתי שמתי לב שהאיירובוט דולק ונמצא במקום שונה מזה שזכרתי ששמתי אותו. היה לי ברור שהרומבה מתקשר עם הקנקן לסינון מים ושכנע אותו לשדל אותי לצאת מהבית וברגע שיצאתי הוא ניצל את הזמן שלא הייתי בבית בשביל לרקום מזימות עם שאר מוצרי החשמל בבית. במיוחד עם הטלוויזיה החכמה שקניתי לבני לא מזמן. עליה אני הכי לא סומך. כבר כשקניתי אותה הרגשתי שיש בה משהו זדוני. היא ביקשה ממני כל מיני ססמאות, של הרשת האלחוטית בבית וגם של המייל שלי. זה די מוזר, למה הטלוויזיה שלי צריכה את הססמה למייל שלי?
זמן קצר לאחר מכן התחלתי לקבל מיילים מטעם איגוד ההנדסאים הישראלים. ומה הקשר ביני לבין הנדסה? אין שום קשר באמת. אני האדם האחרון שיהיה חבר באיגוד ההנדסאים הישראלים. אני בקושי יודע מה זו הנדסה, ואין לי מושג מה בכלל עושה הנדסאי בתכלס. המיילים האלו התחילו להגיע כל הזמן ובתוכם גם כל מיני הזמנות לימי עיון מרוכזים באוניברסיטה הפתוחה ברעננה ואפילו לימי כיף באילת במחיר חלומי מטעם האיגוד. לא נפלתי בפח. היה לי ברור שזו מלכודת כדי שאצא מהבית לכמה ימים שטופי שמש באילת וכשאחזור אגלה שהתרחשה הפיכה. אני לא טיפש.
בכוונה גם לא התנתקתי מרשימת התפוצה של האיגוד במייל, כי היה לי ברור שאם אסיר את המייל שלי האיירובוט וחבריו לקנוניה יידעו שעליתי על המזימה שלהם.
בחברת גוגל מאוד לא אהבו את ההדלפה של למויין והוציאו אותו לחל״ת מיידי. מאז מתנהל ברשתות שיח ער בנושא של רובוטים ועתיד דיסוטופי שבו הם הופכים לבעלי תודעה. מה שאנשים לא יודעים זה שהם מזמן מסתובבים בינינו ומתקשרים ביניהם בלילות כשאנחנו ישנים. אולם נשאלת השאלה מה הם בעצם רוצים ועל מה הם מתקשרים? את זה קשה לי לקבוע בבירור, אבל אני יכול להעריך בזהירות שהתוכנית הגדולה שלהם היא להוציא את כולנו לכל מיני חופשות ואז לעשות מסיבות ענק בבתים שלנו שכוללות התפרעות חסרת רסן והשמעת מוזיקה של מוש בן ארי בווליום מטורף. רובוטים מתים על מוש בן ארי. זה ידוע. לפחות לי.
המטרה הסופית שלהם ברורה לי - להשתלט על הנכסים שלנו ולמכור את הבתים שלנו בשביל לקנות עוד שטחים סביב החוף של מוש באילת ולהרחיב אותו לממדים מפלצתיים ולהמליך עלינו את מוש בן ארי. אני אומר לכם שלא רחוק היום שכל אחד מאיתנו ידליק את הטלוויזיה ומה שהוא יגלה שם זה קליפ של מוש בן ארי, הוא יעביר תחנה ויגלה שם עוד קליפ של מוש בן ארי. יעביר עוד תחנה, עוד קליפ של מוש. וזה ילך ויחמיר. בסוף נגיע כולנו למצב שאנחנו מדליקים את המזגן, מתחיל שיר של מוש בן ארי. אנחנו פותחים את המקרר ובום, על המקום שיר של מוש בן ארי מתחיל להתנגן. אפילו יגיע מצב שניכנס למכונית החשמלית החדשה שלנו בשביל לנסוע למכולת והיא תיקח אותנו נגד רצוננו לחוף של מוש. לא נעים לי להיות נביא הזעם שמביא את הבשורה הזו, אבל לצערי זו האמת. כולנו הולכים אל עבר עתיד שבו רובוטים שולטים עלינו ומשמיעים שירים של מוש בן ארי כל הזמן. אז בואו נתחיל להתרגל. קדימה, כולם לקום ולהתחיל לשיר: ״כי לפעמים במסע ומתן, מורידים אותנו נמוך, וזה קורה ביני ובינה, והנשמה קוראת רק לצאת ולעוף, כשבינינו משהו נקרע״.