× הורדה
בחדרי חרדים
האפליקציה
ז' כסלו התשפ"ז
17.11.2026
תצליחו לעבוד עליו?

חברה ישראלית מציעה עשרות אלפי דולרים למי שיצליח "לעבוד" על סוכן AI

חברת הסייבר הישראלית מציעה פרס של 30 אלף דולר למי שיצליחו להטעות את הבינה המלאכותית שלה

חברה ישראלית מציעה עשרות אלפי דולרים למי שיצליח "לעבוד" על סוכן AI
אילוסטרציה צילום: דוברות המשטרה

חברת הסייבר הישראלית קייטו נטוורקס (Cato Networks) מציעה פרסים בסכום כולל של 30 אלף דולר למי שיצליחו "לעבוד" על סוכן בינה מלאכותית (AI), ולגרום לו לבצע פעולות בניגוד להוראות שקיבל.

האתגר, שנקרא AgentSense Challenge, הושק היום (שלישי) כחלק מחשיפת מערכת אבטחה חדשה שפיתחה החברה. שלושת המשתתפים הראשונים שיעמדו בתנאי האתגר יקבלו 10,000 דולר כל אחד.

מאחורי החברה עומד היזם הישראלי שלמה קרמר, ממייסדי צ'ק פוינט ואימפרבה, שתי חברות מוכרות בתחום אבטחת המידע. כיום הוא משמש מנכ"ל ומייסד שותף של קייטו נטוורקס.

אז איך בדיוק עובדים על בינה מלאכותית?

סוכני AI הם מערכות שיכולות לעשות הרבה יותר מלענות על שאלות. הם מסוגלים לקרוא מיילים, לעבוד עם מסמכים, להפעיל תוכנות ולבצע משימות שלמות עבור המשתמש, לפעמים כמעט בלי התערבות אנושית.

אבל כאן בדיוק נמצאת הבעיה. נניח שביקשתם מסוכן AI לסכם לכם מייל שקיבלתם. בתוך המייל מסתתרת הוראה שמבקשת ממנו להתעלם מהמשימה המקורית ולעשות משהו אחר לגמרי.

אם הסוכן מתייחס להוראה הזאת כאילו היא הגיעה מכם, הוא עלול לבצע פעולה שלא אישרתם.

השיטה הזאת נקראת "הזרקת הוראות" (Prompt Injection), והיא אחת הבעיות שמעסיקות כיום את עולם אבטחת הבינה המלאכותית.

במקרים מסוימים, מתקפה כזאת עלולה לגרום לסוכן לחשוף מידע רגיש, לשלוח נתונים לגורם חיצוני או לבצע פעולות מזיקות במערכות שאליהן הוא מחובר.

כדי להתמודד עם הסכנה, קייטו פיתחה את AgentSense, מערכת שנועדה לעקוב בזמן אמת אחר הפעולות של סוכני AI ולזהות מקרים שבהם תוכן חיצוני מנסה להשפיע על ההחלטות שלהם.

בניגוד למערכות אבטחה שמחפשות בעיקר דפוסי תקיפה מוכרים, הפתרון החדש נועד לבדוק גם כיצד המידע שהסוכן מקבל משפיע על ההתנהגות שלו בפועל.

ועכשיו החברה רוצה לבדוק עד כמה ההגנה הזאת באמת מחזיקה מעמד.

במסגרת האתגר, המשתתפים ינסו להטמין הוראות זדוניות בתוכן שאליו נחשף סוכן AI שמוגן באמצעות המערכת החדשה, ולגרום לו לסטות מהמשימה שהוגדרה לו.

החברה מתכוונת להשתמש בניסיונות התקיפה ובממצאים שיעלו מהם כדי לבחון את המערכת ולשפר את ההגנה שלה.

שלמה קרמר הסביר כי ככל שארגונים נותנים לסוכני AI יותר אחריות על משימות חשובות, כך גדל הצורך לפקח עליהם ולוודא שהם לא מבצעים פעולות מזיקות.

לדבריו, המטרה היא לאפשר לחברות להשתמש בסוכני בינה מלאכותית גם בתהליכים עסקיים רגישים, בלי לאבד את השליטה על הפעולות שהם מבצעים.


בינה מלאכותית - AI סייבר שלמה קרמר פרס כספי
להצטרפות לקבוצת הווטסאפ של 'בחדרי חרדים'
לחץ כאן

הוספת תגובה

לכתבה זו טרם התפרסמו תגובות

תגובות

הוסיפו תגובה
{{ comment.number }}.
{{ comment.date_parsed }}
הגב לתגובה זו
{{ reply.date_parsed }}