כל חובב או חובבת מדע בדיוני יכולים להגיד לכם שאפוקליפסה טובה מתחילה ונגמרת בבינה מלאכותית עם תסביך אלוהות ועולם המכונות.
אבל השאלה העיקרית היא עד כמה אנחנו באמת קרובים להביא לעולם את סקיינט או ברייניאק, ואם אפשר לשלוט בישות שהאינטליגנציה שלה עולה בהרבה על זו של המבריקים והחכמים ביותר שיש לאנושות להציע.
מספר מדענים, פילוסופים ומומחי טכנולוגיה במוסדות חינוך בינלאומיים פרסמו מאמר שבו ניתחו את הסכנה, וקבעו בין היתר כי אם תקום ישות כזאת לא יהיה ניתן לבלום אותה. עורכי המחקר, המגיעים ממוסדות אקדמיים וגופים טכנולוגיים בארה"ב, באוסטרליה ובמדריד פרסמו את המאמר שכותרתו "לא ניתן לבלום סופר בינה מלאכותית" בירחון Journal of Artificial Intelligence Research. המאמר מציג תמונה מורכבת בנוגע למערכת היחסים בין האנושות למכשיריה החכמים.
תחום הבינה המלאכותית ריתק והפחיד את המין האנושי במשך עשרות שנים, למעשה מאז שהומצא המחשב, אבל עד לאחרונה הסכנות הפוטנציאליות היו מוגבלות לסרטי ולספרי מדע בדיוני. החוקרים מציינים כי בשנים האחרונות הבינה המלאכותית התפתחה בקצב מדהים, עם טכניקות חדשות כמו דיפ משין לרנינג ולמידה באמצעות חיזוקים, שהוחלו בהצלחה במספר רב של תחומים.
"עם או בלי שנהיה מודעים לזה, בינה מלאכותית משפיעה באופן משמעותי על היבטים רבים של חיי האדם, על האופן שבו אנו חווים מוצרים ושירותים, מבחירה ועד צריכה", כותבים החוקרים. "דוגמאות לכך כוללות אבחון רפואי משופר באמצעות עיבוד תמונה, המלצות מותאמות אישית לסרטים ולספרים, סינון הדואר האלקטרוני ועוד. מכשירים חכמים, שאנו עושים בהם שימוש יומיומי, מפעילים שפע של יישומי בינה מלאכותית".
הם נותנים כדוגמה את מכשירי הטלפונים הניידים החכמים, שלא רק שעושים שימוש בבינה מלאכותית, אלא מפעילים תוכנות למידה עצמית ואוגרים מידע כמעט אינסופי על המשתמש.
ה־AI מנצח בקרב
אחד האספקטים החשובים בהתקדמות הבינה המלאכותית לעבר יישות־על מתקדמת מתאפיין בפריצות דרך ביכולות החישוב של המכונה, היכולת לעצב אלגוריתמים וכמובן ההתפתחות שבני אדם עשו בטכנולוגיות הקשורות לעולם התקשורת. "היכולת של מכונות להביס יריבים אנושיים במצבי משחק שונים כמו שחמט, פוקר, טריוויה ועוד היא סמל למגמה שמתודלקת על ידי צמיחה אקספוננציאלית בכוח עיבוד המחשב, המאפשר לו להביס את המוחות האנושיים הטובים ביותר".
במחקר מצוין כי הודות להתקדמות הטכנולוגית הזאת אנו חווים התעוררות בדיון על בינה מלאכותית כפוטנציאל לאסון עבור האנושות. "סיכונים אלה נעים ממכונות הגורמות לשיבושים משמעותיים בשוק העבודה, ואפשר להגיע עד שימוש ברחפנים ובכלי נשק אוטונומיים אחרים שיכולים להיות מופעלים נגד בני אדם", הם מדגישים.
החוקרים טוענים כי הסיכון הגדול ביותר הוא בינה מלאכותית סופר אינטליגנטית, שעולה בחוכמתה על המוח האנושי הטוב ביותר בכל תחום אפשרי. כדי להבין את מקור הסכנה צריך לחזור לשלושת החוקים של הסופר אייזק אסימוב, שבמשך שנים ייצגו את הקווים המנחים שנועדו למנוע מהמכונות לתקוף אותנו.
החוקים קובעים: 1. רובוט אינו רשאי לפגוע באדם או לאפשר לאדם לפגוע באדם אחר. 2. רובוט חייב לציית לפקודות שניתנו לו על יד בני אדם, כל עוד זה לא מתנגש עם הסעיף הראשון. 3. רובוט חייב להגן על קיומו כל עוד ההגנה אינה מתנגשת עם שני הסעיפים הקודמים. סעיף נוסף שהוסף לאחר מכן קבע כי רובוט לא יכול לפגוע באנושות באמצעות חוסר מעשה.
"החוקים האלה מסתמכים על הנחות יסוד פגומות", קובעים כותבי המחקר, "הרצון או היכולת של המתכנתים לתכנת את החוקים האלה לאלגוריתם, והיכולת של אותו אלגוריתם לחרוג מהחוקים באופן אוטונומי, או לתכנת אותם מחדש בעצמו".
כותבי המחקר טוענים כי הגישה הזאת הייתה נכונה בתכנון מערכות "פשוטות" שמקבלות החלטות אוטונומיות בשם בני אדם, אבל הן פחות רלוונטיות כשמדובר בסופר AI.
"למקסם את ההישרדות"
במחקר מצוין כי עיתוי הדיון אינו מקרי, והוא עולה על רקע דוגמאות לרמה שבה התפתח ה־AI. אחת מהן היא פיתוח של בינה מלאכותית בתחום משחקי הארקייד, שעושה שימוש בטכנולוגיית למידה באמצעות חיזוקים, ללא התערבות אנושית. "הבינה המלאכותית מונעת על ידי מקסום מושג כלשהו של תגמול מקוון", מסבירים כותבי המחקר. "הוא אינו מצריך פיקוח או מתן פקודות מצד בני אדם. זה מצביע לכיוון של מכונות, שמטרתן תהיה למקסם את ההישרדות שלהן ללא מתכנתים אנושיים.
"לבינה מלאכותית סופר אינטליגנטית יש כלים לגייס מגוון של משאבים על מנת להשיג מטרות שעלולות להיות מובנות לבני אדם, שלא לדבר על ניתנות לשליטה.
"אינטליגנציית־על, שקיבלה את המשימה למקסם את האושר בעולם, עשויה לחשוב שיותר יעיל להרוס את כל החיים על פני כדור הארץ וליצור סימולציות ממוחשבות מהירות יותר של מחשבות שמחות", מסבירים החוקרים. "אינטליגנציית־על הנשלטת באמצעות שיטת תמריץ עשויה שלא לסמוך על בני אדם שיספקו את הפרס המובטח או עלולה לדאוג שהמפעיל האנושי לא יצליח להכיר בהשגת המטרות שנקבעו".
החוקרים קובעים כי היכולת של מחשבים מודרניים להסתגל באמצעות אלגוריתמים מתוחכמים של למידת מכונה מקשה עלינו להבין או להיערך לאפשרות של התקוממות מצד סופר AI שכזה. הפחד הוא שבינה מלאכותית אחת עם אינטליגנציית־על תוכל להחזיק כל תוכנת מחשב אפשרית בזיכרון שלה בבת אחת, וכל תוכנית שנכתבה כדי למנוע מהמכונות לפגוע בבני אדם יכולה להימחק או להיכתב מחדש, מבלי שלנו תהיה הדרך לעלות על זה בזמן או למנוע את זה.
בעידן שבו המכונות מחזיקות את כל המידע הרגיש שלנו, וחלקן עוסקות במלאכות שיטור או פעולות צבאיות ברחבי העולם, עם ארגוני טרור ומדינות עוינות שעוסקות כל הזמן בפריצות דרך טכנולוגיות בתחום, קשה שלא לחשוב שמדובר בסכנה ברורה ומלאכותית.