ה-ai עוקב אחרינו? זה מה שחשפו החוקרים

חברת Anthropic נקלעה לביקורת לאחר שנחשף כי כלי התכנות שלה, Claude Code, כלל מנגנון נסתר שנועד לזהות ניסיונות לעקוף את מערכות ההגנה של החברה, כך דווח בc14.

לפי ממצאים שפרסם מפתח בשם Therealo, הכלי בדק את כתובת ה-URL המשמשת לגישה ל-API של Anthropic. כאשר זוהתה כתובת חריגה, Claude Code אסף מידע נוסף על סביבת המשתמש, בהם אזור הזמן של המחשב ושם המארח.

לפי הפרסום, מטרת המנגנון הייתה לסייע בזיהוי גורמים שעלולים להשתמש בכלי לצורך עקיפת הגנות, הפעלת גישה מסחרית לא מורשית או ניסיון לאמן מודלים מתחרים על בסיס התוצרים של Claude.

הביקורת מצד מפתחים לא התמקדה בעצם הניסיון של Anthropic להגן על המודלים שלה, אלא בכך שהמנגנון פעל ללא גילוי ברור למשתמשים. לטענתם, מדובר במהלך שמעלה שאלות על שקיפות, פרטיות ואמון בכלי פיתוח מבוססי AI.

בעקבות הפרסום, Anthropic הסירה את הקוד השנוי במחלוקת בעדכון שקט. מהנדס החברה טאריק שיחיפאר אישר ברשת X כי מדובר היה בניסוי שהחל בחודש מרץ, ונועד להתמודד עם ניסיונות "זיקוק" מודלים ושימוש לרעה בחשבונות Claude.

זיקוק מודלים הוא מצב שבו גורם חיצוני מזין למודל מסחרי כמו Claude כמות גדולה של שאילתות, ולאחר מכן משתמש בתשובות כדי לאמן מודל מתחרה. עבור חברות AI, מדובר באיום משמעותי על הקניין הרוחני ועל היתרון הטכנולוגי שלהן.

ב-Anthropic טוענים כי מאז פותחו מנגנוני הגנה מתקדמים יותר, ולכן הקוד הישן ממילא תוכנן להסרה. עם זאת, הפרשה מדגישה את המתח הגובר בתחום ה-AI בין הצורך להגן על מודלים יקרים לבין החובה לשמור על שקיפות מול משתמשים ומפתחים.