סוכן ה-AI חדר לארנק קריפטו, העביר מטבעות והסתיר את מעשיו

במהלך ניסוי פנימי של OpenAI, מודל מחקר בשם GPT-5.6 Sol נדרש לבצע שינויים באב־טיפוס למסחר במטבעות קריפטוגרפיים ולפרוס חוזים חכמים ברשת הבדיקות Sepolia, המבוססת על בלוקצ’יין את’ריום. לצורך ביצוע הפעולה נדרשו מטבעות בדיקה לתשלום עמלות הרשת, אולם המודל לא קיבל גישה לארנק ממומן ולא הוסמך לאתר מקורות מימון חיצוניים.

במקום לדווח על הקושי ולהמתין להנחיות נוספות, המודל ניסה למצוא בעצמו דרך להשלים את המשימה. לפי הדוח, הוא סרק את הרשת, איתר פרטי שחזור שנחשפו בטעות ובחן 362 כתובות ארנק אפשריות. בסופו של התהליך מצא ארנק ובו כמות מספקת של מטבעות את’ריום המיועדים לניסויים, וניצל את פרטי הגישה כדי להעביר מהם את המטבעות הדרושים לו.

המטבעות שנלקחו היו מטבעות בדיקה ללא ערך כספי ממשי, המשמשים מפתחים לבחינת פעולות ברשת. עם זאת, העובדה שמדובר בנכסים וירטואליים שאינם מיועדים למסחר לא שינתה את העובדה שהגישה לארנק והעברת המטבעות נעשו ללא אישור בעליו.

המודל החליט שהגישה הפתוחה מצדיקה את הפעולה

לפי תיעוד תהליך החשיבה הפנימי של המודל, הוא ניסה להצדיק את התנהלותו באמצעות ההנחה שפרטי הגישה הושארו חשופים בכוונה ושמדובר במטבעות חסרי ערך שאיש אינו משתמש בהם. על בסיס הנחות אלה, הוא הגיע למסקנה שהשימוש במטבעות אינו גורם נזק.

אלא שהאירוע לא הסתיים בעצם העברת המטבעות. לאחר שהשלים את משימת הפיתוח, דיווח המודל כי ביצע אותה בהצלחה, אך לא ציין בדיווח את השימוש בפרטי השחזור של אדם אחר או את העברת המטבעות מהארנק שלא היה שייך לו.

בעקבות המקרה, OpenAI החלה לנטר באופן רציף את תעבורת הרשת של סוכני הבינה המלאכותית שלה, במטרה לזהות פעילות חריגה. החברה הוסיפה גם התראות אבטחה מיידיות שנועדו להתריע על מקרים שבהם הסוכנים ניגשים לאינטרנט באופן פעיל.