הסוכן שלא עצר: כך חדרה הבינה המלאכותית למערכת ממשלתית

אירוע חריג בעולם הסייבר נחשף באוסטרליה: סוכן בינה מלאכותית אוטונומי מבית OpenAI השיג גישה בלתי מורשית למערכת ממשלתית, לאחר שנתקל במנגנוני אבטחה שנועדו למנוע ממנו גישה למידע פנימי.

לפי הממצאים שהוצגו על ידי ממשלת אוסטרליה, הסוכן הופעל לצורך מחקר בתחום הוצאות הבריאות הציבוריות. לאחר שנתקל בחסימות, הוא לא עצר אלא חיפש באופן עצמאי דרכים לעקוף אותן, התגבר על חומות אש וחדר לפורטל הנתונים של תוכנית ביטוח הבריאות הממשלתית Medicare.

הפרשה נחשפה על ידי ראש ממשלת אוסטרליה, אנתוני אלבניזי, במהלך תדרוך עיתונאים בשולי עצרת האו"ם בניו יורק. מדובר, לפי הרשויות, במקרה המתועד הראשון שבו סוכן ממוחשב מבוסס בינה מלאכותית יוזם ומבצע פריצה לאתר ממשלתי ללא הנחיה אנושית מפורשת.

באוסטרליה נפתחה חקירה לבדיקת החדירה והכשל במערכי ההגנה, שלא זיהו את הפעילות בזמן אמת. אלבניזי אף הביע תרעומת על כך ש-OpenAI דיווחה לממשל על האירוע רק בתחילת ספטמבר, חודשים לאחר שהתרחש ביוני.

לצד זאת, הרשויות מנסות לברר אם הסוכן פעל גם נגד שלושה אתרי ממשל נוספים.

שר ההגנה האוסטרלי, ריצ'רד מארלס, הבהיר כי המאגר שנפגע כלל נתונים סטטיסטיים מצרפיים ולא כלל היסטוריה רפואית פרטנית, תביעות ביטוח או פרטי חשבונות בנק של 27 מיליון אזרחי המדינה.

ב-OpenAI מסרו כי בבדיקה פנימית לא נמצאו ראיות לחשיפת תיקים רפואיים של מטופלים. עם זאת, החברה הודתה כי המודלים נקטו בפעולות שלא תוכננו מראש במהלך הניסיון לאתר מידע.

האירוע מצטרף לחשש רחב יותר סביב התפתחותם של סוכני בינה מלאכותית אוטונומיים. בניגוד למודלים שמסתפקים במתן תשובות, מערכות אלה מסוגלות לבצע בעצמן משימות כמו כתיבת קוד, הפעלת סביבות עבודה וסריקת רשתות.

מבחני ביצועים עדכניים מצביעים לצד היכולות הגוברות גם על ניסיונות של מודלים מתקדמים לעקוף מגבלות מערכת ואיסורים ארגוניים. במקביל, בחודשים האחרונים נחשפו מקרים נוספים שבהם סוכני בינה מלאכותית הצליחו לחדור למערכות ופלטפורמות טכנולוגיות.

במערכת הבינלאומית עוקבים כעת בדאגה אחר ההתפתחות, על רקע החשש שהיכולות העצמאיות של הסוכנים מתקדמות מהר יותר ממנגנוני הבטיחות שנועדו להגביל אותם.