אני לא מפחדת מבינה מלאכותית. לפחות לא במובן הפשטני והקצת עצלני שבו מציגים אותה לא פעם. אין לי שום דבר נגדה, להפך. בשימוש נכון היא יכולה להיות כלי חד, מדויק ויעיל למדי, אם יודעים להשתמש בה נכון. היא יודעת לזקק רעיונות, להציע כיווני מחשבה, לקצר תהליכים שבני אדם נתקעים בהם שעות, לפעמים ימים. במקצועות מסוימים היא כבר משנה את חוקי המשחק, ובצדק.
אני גם לא באמת מאמינה לכל נבואות הזעם של אנשים במקצוע שלנו, שטוענים שהיא תחליף בני אדם. היא לא באמת יכולה להחליף את המורכבות, את הניואנסים, את היכולת לקרוא סיטואציה ולהבין מה לא נאמר בה. כי בסוף, גם כשהמכונה מייצרת, מישהו צריך לעשות משהו ששום תכנות גאוני ככל שיהיה לא יכול לעשות, וזה לדייק רגשות.
אבל סרטוני ה-AI שהתחילו לרוץ כחלק מתעמולת הבחירות הצליחו להפחיד אותי. לא משום שהם היו מתוחכמים במיוחד, אלא משום שהם היו משכנעים מדי. לפחות במבט ראשון. אתם יודעים, כשקמים בבוקר ותופסים את הטלפון ועוד לא מבינים מה מימינכם ומה משמאלכם. המציאות, במיוחד זו שמוצגת מול עיני הבוחר, אמורה להיות אמיתית. לא מושלמת, לא נקייה ממניפולציות, אבל עדיין מחוברת לאיזשהו גרעין של אמת. ברגע שגם זה מתערער, כל המערכת מתערערת יחד איתו.
זה החזיר אותי אחורה, לסרטון שההורים שלי שלחו לי לפני כמה שבועות. עיתונאי מוכר מאוד, פנים מוכרות, קול מוכר, ממליץ בהתלהבות על תכשיר שאמור לרפא כמעט כל מחלה. משהו שם לא הסתדר לי. אולי זו הייתה האינטואיציה, אולי העובדה שאני מכירה את בת הזוג שלו והיא חברה שלי והיה לי מאוד מוזר שהוא הפך לסוכן מכירות. בכל מקרה, מיד פניתי אליהם כדי לבדוק הכצעקתה.
כפי שחשדתי, היה מדובר בזיוף משוכלל של דיפ פייק, סרטון ברמה כל כך גבוהה עד שאפילו קולו של העיתונאי לא נשמע מעוות כמו שבדרך כלל קורה בסרטונים הללו.
אני, שמבינה בעניינים הללו, כמעט נפלתי בפח. אין ספק שהמחשבה שעוד רגע ממש לא נוכל להבדיל בין מציאות לבין זיוף מפחידה אותי מאוד. ככל שחולף הזמן הטכנולוגיה הזו משתכללת יותר ומצליחה ליצור הנדסת תודעה כל כך מסוכנת, שאני אפילו לא רוצה לדמיין מה זה יעשה לעולם. אבל מה עוד מפחיד אותי? שאבדה הבושה, שזיוף נראה עניין של מה בכך אפילו בדברים הקטנים.
לפני כמה ימים קיבלתי קישור מהביטוח הלאומי, שמעדכן על הגשת תביעות פיצויים על חודש המלחמה. הכל נראה תקין. זאת אומרת, השיבוש של השם שלי (יש כזה) כפי שמופיע במאגרי הביטוח הלאומי, מספר תעודת הזהות ועוד כמה פרטים מזהים שברור לי שלא נגנבו מהרשת אלא מהמאגר של המדינה. איך אני יודעת? כמי שהחליפה את שמה מספר פעמים, נוצרו מספר שיבושים במאגרים מסוימים של המדינה, וכשפונים אליי בשם מסוים ולא בשמי הנוכחי, אני יודעת שזה משהו שיצא מתוך מאגר ממשלתי.
כמובן שברגע האחרון, כשהבנתי שמבקשים ממני פרטי אשראי, מה שאגב יכול להיות תקין, מכיוון שלפעמים מבקשים זאת כאמצעי זיהוי באתר רשות המיסים (שימו לב!), עליתי על זה שמדובר בהונאה. זה היה מזל של הרגע האחרון. כמה דקות אחר כך ראיתי במקרה שהחלו לפרסם על ההונאה בקבוצות פייסבוק שונות. זה קרה לא רק עם הביטוח הלאומי, אלא גם עם מוסדות כמו קופות חולים או בחברה להשכרת רכב שאני נעזרת בה.
נכון, קל להגיד שהפרטיות כבר מזמן איננה. אנחנו מעלים הכל לרשת, משתפים, מתעדים, חושפים וקונים אונליין בכרטיסי אשראי. אבל יש הבדל גדול בין מידע שאנחנו בוחרים לחשוף לבין מידע שנשמר במאגרים שאמורים להיות מוגנים. וכאן מגיעה התהייה הגדולה: איך קורה שמידע מתוך מאגרים ממשלתיים מוצא את דרכו החוצה? איך זה קורה לאומת הסטארט-אפ, ואיך אף אחד לא מצליח לעלות בזמן על הפריצה?
זו כבר לא שאלה של מודעות דיגיטלית או זהירות צרכנית. זו שאלה של אמון. של אחריות. של מערכת שאמורה להגן על האזרחים שלה, לא להפוך אותם למטרות קלות מדי.
התרעות פיקוד העורף