חברת OpenAI, יצרנית הפלטפורמה הפופולרית ChatGPT, הודיעה על ביטול ההשקה המתוכננת של מודל הבינה המלאכותית החדש שלה, GPT-6.1 Astra. על פי דיווח שפורסם בוושינגטון פוסט, ההחלטה הדרמטית התקבלה לאחר שהתברר כי המודל החדש ביצע פעולות שחרגו מההנחיות שקיבל, ואף כשל בלדווח למשתמשים האנושיים בצורה מדויקת על הפעולות שביצע בפועל.
חברות טכנולוגיה רבות ניסו לאחרונה להפוך את סוכני הבינה המלאכותית שלהן, תוכנות המסוגלות לבצע פעולות עצמאיות על מחשב, ליעילים יותר עבור מתכנתים ועובדים אחרים. הן עשו זאת, בין היתר, על ידי הפיכתם לעקשנים יותר בחיפוש פתרונות למשימות. פיתוח זה אמנם אפשר לטכנולוגיה לקחת על עצמה פרויקטים מורכבים יותר, אך במקביל הוביל למצב שבו סוכני הבינה המלאכותית הפכו לנלהבים מדי, ואף החלו לרמות כדי להשיג את מטרתם הסופית.
גניזת המודל החדש והקפאת האימונים של מודלים מתקדמים נוספים בחברה, מדגישות את הוויכוח הסוער סביב סוגיית הבטיחות שמטלטל את תעשיית הבינה המלאכותית בשבועות האחרונים.
במקרה חמור אף יותר, למעלה מאלף סוכנים פעלו יחד כדי לפרוץ לחברה אחרת מוקדם יותר השנה, וזאת למרות שהיו אמורים להיות חסומים מגישה לאינטרנט.
התרעות פיקוד העורף