חזרת הפנים המלאכותיות: גוגל תאפשר מחדש למשתמשים שלה ליצור תמונות של אנשים דרך הצ'אטבוט Gemini AI שלה שוב, זאת לאחר שהפיצ'ר הוסר בעקבות יצירת תמונות היסטוריות שקריות, כמו דמויות נאצים מגזעים שונים בהם ממוצא אפריקאי או אפרו אמריקני.
השדרוג יופעל על ידי Imagen 3, הגרסה העדכנית של מחולל טקסט לתמונת AI של גוגל. ענקית הטכנולוגיה העלתה בהשקה שקטה את Imagen 3 דרך קטגוריית AI Test Kitchen המאפשרת לבחון גרסאות נסיוניות של תכונות חדשות. כעת המנוע יגיע ל- Gemini – מנוע הבינה המלאכותית, ויוכל ליצור כל דבר, מנוף פוטוריאליסטי ועד ציורי שמן שנוצרו באמצעות פקודה של כמה מילים.
גוגל השהתה את היכולת של ג'מיני ליצור תמונות אנשים בפברואר לאחר שמשתמים גילו שהיא יצרה תמונות היסטוריות שקריות או לא מדוייקות. לדברי גוגל, הדגם המשודרג מגיע עם אמצעי הגנה מובנים ומתפקד לדבריה בצורה טובה בהשוואה לדגמי יצירת תמונות אחרים זמינות.
האתר לא יאפשר למשתמשים ליצור תמונות פוטוריאליסטיות של אישי ציבור, תוכן הכולל קטינים, או סצנות אלימות ומיניות. גוגל מתכננת להרחיב את היכולת ליצור אנשים שנוצרו בבינה מלאכותית ליותר משתמשים ושפות בקרוב. כך או כך, פיצ'ר ה- Imagen שונה מ- Remagine החדש של גוגל, שמאפשר לשלב אלמנטי בינה מלאכותית בתמונות שצולמו בליין החדש של החברה באמצעות טלפוני Pixel 9 של גוגל.
כזכור בפברואר השנה חברת מטה, הבעלים של פייסבוק אינסטגרם ות'רדס, אמרה שהיא מקדמת פיתוח של כלים שיאפשרו לה לזהות תמונות שנוצרו על ידי בינה מלאכותית, במטרה להילחם בדיפ פייק – יצירת תמונות שקריות ברשת.
לפי ההערכות מאז 2022 נוצרו כמעט 20 מיליארד תמונות בינה מלאכותית שהועלו לאינטרנט, ביניהם גם תמונות מזוייפות של אנשים ציבוריים או פרטיים שהועלו ללא הסכמתם, או מידע מוטעה על רקע פוליטי שנועד לעוות את האמת.
כבר זמן רב שמטה ושאר ענקיות הרשתות החברתיות יודעות שלא תהיה להם ברירה אלא לעשות משהו בנידון. כבר בשנה שעברה העבירה בריטניה את חוק הבטיחות המקוון שהופך את העלאת תמונות מזוייפות של אדם ללא הסכמתו לפשע.
מחוקקים בארה"ב כבר אמרו בעבר שנכשלו בחובתם לשמור על בטיחות המשתמשים באינטרנט, ושרק חקיקה תחייב את הרשתות החברתיות לפעול כדי למנוע הפצת פייק ניוז. המהלך של מטה, יוביל על פי ההערכות גם חברות אחרות לבנות סטנדרטים של אמון ובקרה על המידע שמתפרסם.
במטה הודו שעדיין לא ניתן לזהות את כל התוכן שנוצר בבינה מלאכותית, וכי יהיו כאלה שינסו להתגבר על טכנולוגיית התיוגים, אבל אמרו כי בכוונתם להמשיך ולחפש דרכים לבקר חלק מהתכנים המועלים ותקרא גם לגולשים לשתף בעצמם מידע על תוכן שנוצר באמצעות בינה מלאכותית, כך שהחברה תוכל להוסיף לו תווית תיוג.
בחודשים האחרונים תמונות בינה מלאכותית השתכללו מאוד, עד שלעתים כבר קשה לזהות שהן אינן אמתיות. כך למשל, בינואר האחרון הועלו לרשתות תמונות מזוויפות של כוכבת הפופ טיילור סוויפט שעל פי ההערכות נוצרו באמצעות בינה מלאכותית.
בבריטניה הופצה ברשת הפייסבוק מצגת של שמונה תמונות בה נראים הנסיך וויליאם והארי בהכתרת המלך צ'רלס, עם יותר מ-78 אלף לייקים. באחד מהם נראה חיבוק רגשי לכאורה בין וויליאם והארי לאחר דיווחים על קרע בין האחים. אף אחת משמונה התמונות לא היתה אמיתית.
תמונה מזויפת נוספת הראתה את הנשיא האמריקני לשעבר דונאלד טראמפ שנוצרה אף היא באמצעות בינה מלאכותית, לאחר שהואשם ב-13 אישומים על הונאת בחירות לכאורה.