מדענים מובילים בתחום הבינה המלאכותית הזהירו לאחרונה על סכנות יוצאות דופן מהטכנולוגיה המתפתחת, ואף הציגו אפשרויות להיכחדות המין האנושי. מאט קליפורד, יועצו של ראש ממשלת בריטניה, רישי סונאק, הזהיר כי "הבינה המלאכותית עשויה לעמוד מאחורי התפתחויות מדאיגות, ועשויה גם לגרום למותם של אנשים רבים בתוך שנתיים".
בריאיון שערך לערוץ Talk TV, הביע קליפורד דאגה לגבי היעדר הרגולציה הגלובלית של טכנולוגיית הבינה המלאכותית, ואמר כי אם לא תהיה רגולציה בנושא, הטכנולוגיה עלולה להפוך ל"עוצמתית ביותר", ותקשה על בני האדם לשלוטה עליה, ותיצור סיכונים משמעותיים בטווח הקצר. יועצו של סונאק אף הצביע על כך, שהבינה המלאכותית תוכל לייצר נשק ביולוגי מסוכן, שיגרום למותם של אנשים רבים".
"ישנם סוגים רבים ושונים של סיכונים הקשורים לבינה מלאכותית, כולל סיכונים לטווח הקצר והטווח הארוך. אני חושב שהסיכונים בטווח הקצר הם מפחידים מאוד", הוסיף. לטענתו, "יש להתמקד כבר בכיצד ניתן להשתלט על טכנולוגיה זו. זה צריך להיות מוסדר בקנה מידע עולמי, לא רק על ידי ממשלות לאומיות", הוסיף.
בשבוע שעבר, עשרות בכירים בתעשיית הבינה המלאכותית, אקדמאים ואפילו כמה מפורסמים חתמו על הצהרה המזהירה מפני "השמדה עולמית עקב בינה מלאכותית" וקראו לצמצם את הסיכון לאירוע הכחדה כזה. לטענתם, האיום באירוע הכחדה של AI צריך להיות בראש סדר העדיפויות העולמי. "הפחתת סכנת ההכחדה מבינה מלאכותית צריכה להיות בעדיפות עולמית לצד סיכונים אחרים בקנה מידה חברתי כמו מגיפות ומלחמה גרעינית", נכתב בהודעה שפרסם המרכז לבטיחות בינה מלאכותית, המדגישה "חששות רחבי היקף לגבי הסכנה האולטימטיבית שבבינה מלאכותית בלתי מבוקרת".
ההצהרה נחתמה על ידי גורמים מובילים בתעשייה כולל מנכ"ל OpenAI, סם אלטמן; "הסנדק" של הבינה המלאכותית, ג'פרי הינטון; מנהלים וחוקרים בכירים מ-Google DeepMind ו-Anthropic; קווין סקוט, מנהל הטכנולוגיה הראשי של מיקרוסופט; ברוס שנייר, חלוץ אבטחת האינטרנט והקריפטוגרפיה; עו"ד האקלים ביל מקיבן; והמוזיקאי גריימס, בין היתר.
ההצהרה באה בעקבות ההצלחה הוויראלית של ChatGPT של OpenAI, שעזרה להגביר את מירוץ החימוש בתעשיית הטכנולוגיה על בינה מלאכותית. בתגובה, מספר גדל והולך של מחוקקים, קבוצות הסברה ומקורבים טכנולוגיים התריעו מפני היכולה של צ'אטבוטים המופעלים על ידי בינה מלאכותית להפיץ מידע מוטעה ולעקור מקומות עבודה.