האם אפשר לסמוך על הצ'טבוט שלכם? בשיחה בכנס סייברטק גלובל ופסגת החדשנות ספארקס, תל-אביב 2025, סקר משה קרקו, מנהל הטכנולוגיות הראשי של NTT את הסכנות שעומדות בפני השימוש הגובר בצ'טבוטים, בהם ChatGPT.
"כלי בינה מלאכותית ציבוריים כמו ChatGPT, GROK, Claude, ואחרים מעמידים ארגונים רבים בפני סכנה כפולה: מחד, דליפה מתמדת של מידע רגיש מהארגון כמו פרטי לקוחות, סודות מסחריים ואסטרטגיה, ומאידך - סכנה שקטה אך הרסנית לא פחות: הסתמכות על מידע שגוי או גנרי. לא חייבים להיות האקר מאוד משוכלל – צריכים לדעת רק איך לשכנע או לעשות מניפולציות ב – ChatGPT.
איך אנחנו בונים אמון בשיתוף הדאטה שלנו עם הצ'אטבוטים? צריכים לעבוד בצורה רב שכבתית. מומחים גיבשו את מסגרת עבודה AI TRISM, המאפשרת ניתוח בחמישה ממדים קריטיים: טכנולוגיה, רגולציה, השפעה, אבטחה ומוסר.
הפתרון לאתגרים אלו נמצא בפיתוח מערכות AI פנים-ארגוניות, המאומנות על המידע והתהליכים הספציפיים של הארגון. הן לא רק מונעות דליפת מידע אלא גם מספקות תשובות מדויקות ורלוונטיות מבוססות הרשאות גישה ממוקדות. מחקרים מראים שארגונים שהשקיעו במערכות כאלו ראו ירידה של 82% בתקריות אבטחת מידע ושיפור של 64% בדיוק התשובות.
במבט קדימה, ההתמודדות עם הסכנות שמציבים האקרים באמצעות כלי AI ציבוריים דורשת פעולה בשלושה תחומים: השקעה במערכות AI בתוך הארגון, הכשרת עובדים, ויצירת תהליכי בקרה ופיקוח. על פי מחקר של Deloitte, אירוע דליפת מידע עולה בממוצע 3.2 מיליון דולר. נתון זה מראה שהשקעה בפתרונות אבטחה לא רק חשובה, אלא גם משתלמת כלכלית.
מעבדת החדשנות של NTT בישראל מחברת בין סטארטאפים ישראלים לבין קבוצת NTT, תאגיד ענק יפני עם כ- 330,000 עובדים ברחבי העולם, 1000 חברות בת ברחבי העולם ומכירות של יותר מ- 100 מיליארד דולר בשנה.
כנס סייברטק גלובל תל-אביב 2025 מפגיש את צמרת הסייבר העולמית, בהשתתפות אלפי משתתפים מלמעלה מ – 50 מדינות
