המדען הבריטי סטיוארט ראסל מזהיר כי קיומה של הבינה המלאכותית (AI), המסוגלת לפתור כל בעיה אינטלקטואלית - מאיימת על האנושות ותביא לאסון.
ראסל אמר בראיון לעיתון "טיימס" כי מחקר בלתי מבוקר בתחום הבינה המלאכותית הוביל לכך ש"השגנו התקדמות שאנחנו בעצמנו לא ציפינו לה", והוסיף כי ייתכן שהמכונות האולטרה אינטליגנטיות יתנגדו בעתיד לניסיונות לשלוט בהן.
לחצו כאן וקבלו את עיתון מעריב לחודש מתנה למצטרפים חדשים>>>
הוא אמר: "איך אתה יכול לשמור על כוחך מול ישויות חזקות ממך? אם אין לך תשובה, תפסיק לחפש. הכל מאוד פשוט. ההימור לא יכול להיות גדול יותר: אם לא נשלוט בציוויליזציה שלנו, אנחנו נאבד את הזכות להחליט לגבי גורל קיומנו בעתיד".
ראסל ציין כי הופעתה של בינה מלאכותית מקיפה, כלומר מערכת שתוכל לבצע כל משימה שאדם עשוי לבצע, עשויה להתרחש בעשר השנים הקרובות.
הוא הביע את חששותיו שמערכות אלו, תוך פתרון בעיות הקשורות לאקלים, למשל, עלולות להגיע למסקנה שהפתרון הטוב ביותר לבעיה זו הוא חיסול האנושות.
לדבריו, "אם אתה מלמד בינה מלאכותית לחקות התנהגות אנושית, אתה למעשה מלמד אותה להגדיר ולעקוב אחרי מטרות אנושיות. מטרות אנושיות כוללות מגוון של דברים... אנחנו יכולים רק לדמיין איזה לאסון הופעתן של מערכות יעילות שירדפו אחרי יעדים יובילו".
איש העסקים והמיליארדר האמריקאי, אילון מאסק, הזהיר בעבר כי בינה מלאכותית תשלוט בעצמה בגלל יכולתה להשמיד את האנושות.