ד"ר דן חי, מומחה לדיני פרטיות וטכנולוגיה שוחח עם מעריב בנושא שימוש בבינה המלאכותית במערכת הבחירות הקרובה בארה"ב, ואמר כי יש סיכון משמעותי כי הדבר ישמש באופן בלתי הוגן את הצרכים הפוליטיים.
האם לדעתך צפויה עליה בשימוש בטכנולוגיות AI לקראת מערכות הבחירות הקרובות בארה"ב ובהמשך גם בישראל?
ד"ר חי: "בינה מלאכותית תופסת כיום מקום מרכזי בהליכי בחירות. בהיבט החיובי, ניתן לרתום את הטכנולוגיה במספר שימושים ובהם גילוי הונאה והגנה על מידע אישי, ניהול רישום מצביעים ומעקב אחר אחוזי הצבעה. בינה מלאכותית משמשת לייעול רישום של בוחרים, לזהות בוחרים פוטנציאליים שלא נרשמו ולשלוח תזכורות לגבי מועדי רישום".
לדברי ד"ר חי, אלגוריתמים של בינה מלאכותית יכולים למשל לזהות חריגות בדפוסי הצבעה או הצבעות ממיקום בודד, מה שעלול להצביע על הונאה שיש בה כדי להשפיע על ההליך הדמוקרטי.
יחד עם זאת, לדברי ד"ר חי, היות שמערכות בינה מלאכותית מבצעות איסוף נתונים אישיים רגישים, הן מהוות מטרות אטרקטיביות להתקפות סייבר, ומחייבות שימוש בכלי סייבר להגנה מפני פריצות ועל מנת להבטיח יפגעו תקינותם של ההליכים הדמוקרטיים.
לדבריו יש "שימוש לגיטימי בבינה מלאכותית בא לידי ביטוי בשיפור מערכות רישום בוחרים, שיפור האבטחה והשקיפות של ספירת הקולות, באופן שהופך את הבחירות ליעילות ואמינות יותר".
באיזה אופן יכולות תוכנות וטכנולוגיות AI להשפיע על האופן שבו אזרחים מצביעים?
לדברי ד"ר חי, "שימוש בכלים חיצוניים, לרבות מערכות AI, בידי צד מעוניין במסגרת מערכת הבחירות יכול להיות לגיטימי בהחלט. לדוגמה, במהלך הבחירות לנשיאות ארה"ב ב-2012, נעשה שימוש באלגוריתמים של AI כדי לנתח את סנטימנט הבוחרים, לחזות את תוצאות הבחירות במיקומים שונים, ובכך לסייע לאנשי קמפיין ליצור אסטרטגיה יעילה יותר".
מצד שני, שימוש בלתי לגיטימי מתבטא כמעט תמיד בחשש מהפעלת מניפולציה ומסירה של מידע מוטעה: "ניתן להשתמש בבינה מלאכותית כדי להפיץ מידע מוטעה או לתמרן את דעת הקהל. למשל יצירת חומרים וויזואליים "דיפ-פייק" תוך למידה ושימוש בשפה טבעית, פרופיילינג וטירגוט אוכלוסיות ברשתות החברתיות והעברת מידע כוזב ומסרים מותאמים, באופן שעשוי להטות את דעתו של הבוחר ובכך לפגוע בהליך הדמוקרטי".
רק משתכללים: טכנולוגיית ה־AI מציעה שלל שדרוגים מסעירים חדשים
בצל החשש מפני הבינה המלאכותית: במטא הגיבו לסערה החדשה
איך המדינות והממשלות מתמודדות עם האפשרות של השפעה על בחירות באמצעות AI?
ד"ר חי: "האיחוד האירופי היה הראשון, ועד לאחרונה היחיד, שפעל נוכח פוטנציאל הפגיעה של AI בתהליכים דמוקרטיים ובזכויות אזרח, וזאת באמצעות חוק מחייב שמבטא מדיניות מקיפה ותקיפה בנושא".
עוד הוסיף חי כי "ממש לפני כשבועיים נכנס לתוקפו באופן סופי ה-AI Act האירופי. מתוך הכרה באיום הפוטנציאלי על זכויות האזרחים והדמוקרטיה הנובעים מיישומים מסוימים של AI, מדינות האיחוד הסכימו לאסור בין היתר על מערכות סיווג ביומטריות המשתמשות במאפיינים כמו אמונות פוליטיות, דתיות, נטייה מינית וגזע, ומערכות שמתפעלות התנהגות אנושית כדי לעקוף את רצונן החופשי', לשון החוק".
עוד הוסיף כי "החוק האירופאי קובע חובות ברורות ביחס למערכות בינה מלאכותית "בסיכון גבוה", כלומר בעלות פוטנציאל לפגיעה בבריאות, בזכויות יסוד, בדמוקרטיה ושלטון החוק. על-פי ה- AI Actהאירופאי, מערכות בינה מלאכותית המשמשות להשפעה על תוצאות הבחירות ועל התנהגות הבוחרים, מסווגות גם הן בסיכון גבוה".
לדברי ד"ר חי, בשבועות האחרונים, גם מועצת אירופה (Council of Europe), שהיא גוף שונה מהאיחוד האירופי, ומטרתו לשמור על זכויות האדם, הדמוקרטיה ושלטון החוק באירופה, ייסדה את 'אמנת המסגרת של בנושא בינה מלאכותית וזכויות אדם, דמוקרטיה ושלטון החוק', שהיא האמנה הבינלאומית המחייבת הראשונה בנושא טכנולוגיה זו.
זאת כאמור, במקביל לפעילותו הנמרצת של איחוד האירופי בנושא, במסגרתו אושר לאחרונה חוק הבינה המלאכותית, ה-AI ACT אשר אמור להיות מיושם השנה. האמנה שונה מחוק ה-AI של האיחוד האירופי בכך שבניגוד לאיחוד האירופי, גם מדינות שאינן חברות באיחוד יכולות לחתום על האמנה".
כיצד בינה מלאכותית יכולה לתרום לחיזוק ההליכים הדמוקרטיים?
ד"ר חי: "כאמור, בינה מלאכותית מסייעת לייעל רישום בוחרים על ידי אוטומציה של הזנת נתונים, באופן שמפחית שגיאות וזיופים. באמצעות הצלבה של מידע במסדי נתונים, בינה מלאכותית יכולה לסייע לעובדי הבחירות להקצות משאבים בצורה יעילה.
הוא מדגים: "למשל, על ידי חיזוי היכן אחוז הצבעה הוא באופן מסורתי נמוך, ניתן לקדם תשדירים לעידוד מימוש זכות הבחירה, ובכך להבטיח תוצאה בחירות מייצגת יותר. בנוסף, אוטומציה של ספירת קולות יכולה לספור קולות במהירות ובדייקנות, ולקצר את משך הזמן והמשאבים הנדרשים לצורך הכרזת תוצאות הבחירות, כמו גם לדיוק התוצאות בהן. בינה מלאכותית מנתחת במהירות תוצאות בזמן אמת, ומספקת שקיפות ציבורית שמטייבת למשל את הסיקור העיתונאי".
ומה המצב החוקי בישראל?
ד"ר חי: "נכון להיום, הממשלה בישראל החליטה שלא לקבוע בחקיקה או בתקנות כללים מחייבים שמסדירים את שימושי הבינה המלאכותית בארץ, וזאת על אף שטכנולוגיית הבינה המלאכותית שועטת קדימה ושארגונים רבים בארץ כבר עושים בה שימושים רבים ומגוונים, ומפתחים עומלים מידי יום על שיפורה ושכלולה".
לדברי ד״ר חי, שמשרדו מייעץ לארגונים רבים, לרבות גופים מהגדולים במשק, בנושא ה-AI בארץ ובעולם, ״ההחלטה בישראל לא לעשות כלום היא בשורה טובה להרבה גופים, אבל בעייתית כיוון שהיא יוצרת חוסר ודאות״. לדברי ד״ר חי, ״היה עדיף שתאומץ כאן רגולציה, שהיא נכונה לישראל. כזו שלא תכביד על מי שמבקש לפתח מוצרי בינה מלאכותית אבל גם כזו שתעשה סדר בתחום״.
לסיכום, אומר ד"ר חי כי תפקידה של בינה מלאכותית בתהליכי בחירות גדל באופן משמעותי, וככל שהטכנולוגיה ממשיכה להתפתח, בינה מלאכותית צפויה למלא תפקיד משמעותי יותר בעיצוב עתיד הדמוקרטיה: "השילוב של מערכות AI מתקדמות בתהליכים דמוקרטיים יכול לשפר את הממשל, להגביר את היעילות ולטפח מעורבות גדולה יותר של האזרחים. עם זאת, זה גם מעלה אתגרים חדשים שיש לטפל בהם כדי להבטיח שבינה מלאכותית תשמש לחיזוק ולא תערער את הערכים הדמוקרטיים".