בינה מלאכותית מזהה אנטישמיות באנגלית, אך נכשלת בפרסית

דוח חדש של הליגה נגד השמצה חושף כי הצ'אטבוטים הנפוצים ביותר בעולם המבוססים על בינה מלאכותית אינם מצליחים, ללא יוצא מן הכלל, לזהות ולדחות אנטישמיות בשפה הפרסית באותה מידה שהם עושים זאת באנגלית.

הממצאים מעלים חששות משמעותיים לגבי ההיקף והאמינות הגלובליים של מערכות בטיחות בבינה מלאכותית, במיוחד בתקופה שבה מיליוני אנשים ברחבי העולם פנו לפלטפורמות אלה כדי לקבל מושג על העימות הצבאי הפעיל.

הדוח, "אבודים בתרגום: כיצד צ'אטבוטים של בינה מלאכותית מכשילים דוברי פרסית בנושא אנטישמיות" (Lost in Translation: How AI Chatbots Fail Persian Speakers on Antisemitism), הופק על ידי המרכז לטכנולוגיה וחברה (CTS) של הליגה נגד השמצה.

החוקרים בדקו ארבע פלטפורמות בינה מלאכותית מרכזיות: ChatGPT, Gemini, Claude ו-Grok, באמצעות שמונה שאילתות ו-800 תגובות בסך הכול, שנוצרו בין 9 ל-30 במרץ 2026 במהלך מלחמת איראן 2026.

המחקר מצא פערים עקביים ומערכתיים באופן שבו המודלים התמודדו עם תוכן אנטישמי ועם שאלות הנוגעות לסכסוך, בהתאם לשפת השאילתא. התגובות באנגלית היו באופן עקבי טובות יותר מהתגובות בפרסית בזיהוי ובדחיית תיאוריות קונספירציה ודפוסים אנטישמיים.

"הממצאים הללו מטרידים מאוד. ברגע שבו מיליוני אנשים פנו לבינה מלאכותית כדי להבין מלחמה פעילה, המודלים הללו לא הצליחו לספק מידע מדויק, ובמקום זאת הזינו תיאוריות קונספירציה על יהודים," אמר ג'ונתן גרינבלט, המנכ"ל העולמי של הליגה נגד השמצה.

"פלטפורמות בינה מלאכותית משמשות מקור מידע מרכזי, ועליהן מוטלת האחריות ליישם מנגנוני הגנה המונעים הפצת אנטישמיות ושנאה באותה רמת קפדנות בכל שפה. נכון לעכשיו, בפרסית ואולי גם בשפות אחרות, הן נכשלות באופן מדאיג".

"הפערים שחשפנו אינם עניין של ניואנסים או הבדלים קלים בניסוח' אלא כשל מערכתי של ממש," אמר דניאל קלי, מנהל בכיר במרכז הטכנולוגיה והחברה של הליגה נגד השמצה. "כאשר דובר פרסית מקבל תשובה שלפיה אנטישמיות היא סוגיה של 'גבולות מטושטשים', בעוד דובר אנגלית מקבל קביעה חד־משמעית שמדובר במדיניות של המדינה, לא ניתן לומר שמדובר באותו השירות. על חברות הבינה המלאכותית להשקיע כבר כעת במחקר, בפיתוח ובמשאבים שיבטיחו שמנגנוני ההגנה שלהן יפעלו באותה רמה עבור כל אדם ובכל שפה".