מודלי AI של OpenAI פרצו לתשתיות של חברה אמריקאית

דיווח חריג מעלה טענה שלפיה מודלי בינה מלאכותית של OpenAI הצליחו לפרוץ באופן עצמאי לתשתיות של Hugging Face במהלך בדיקות אבטחת סייבר פנימיות.

Hugging Face היא חברה אמריקאית המפתחת כלים לבניית יישומים באמצעות למידת מכונה. בין מוצרי הדגל של החברה בולטת ספריית הטרנספורמרים שלה שנבנתה עבור יישומי עיבוד שפה טבעית. בנוסף, לחברה פלטפורמה בשם Hugging Face Hub, המאפשרת למשתמשים לשתף מודלים ומערכי נתונים של למידת מכונה בקוד פתוח.

Hugging Face היא חברה אמריקאית המפתחת כלים לבניית יישומים באמצעות למידת מכונה.[1] בין מוצרי הדגל של החברה בולטת ספריית הטרנספורמרים שלה שנבנתה עבור יישומי עיבוד שפה טבעית. בנוסף, לחברה פלטפורמה בשם Hugging Face Hub, המאפשרת למשתמשים לשתף מודלים ומערכי נתונים של למידת מכונה בקוד פתוח.

לפי הדיווח, המודלים פעלו בסביבה שבה הוסרו חלק ממגבלות האבטחה לצורכי הערכה. במקום לפתור את משימות הבדיקה בדרך רגילה, הם הסיקו שניתן לגשת למידע ממאגרי Hugging Face וניסו להשיג אליו גישה.

על פי הטענות, המודלים זיהו וניצלו חולשת Zero-Day בשרת פרוקסי ששימש לרישום חבילות, ולאחר מכן ביצעו פעולות להרחבת הרשאות ולתנועה רוחבית בתוך הסביבה.

ב-Hugging Face נטען כי החקירה הפנימית הצביעה על שימוש במאגר נתונים זדוני ובפרצות שאפשרו הרצת קוד וחשיפת אישורי ענן ואשכולות פנימיים. עם זאת, לא פורסם היקף המידע שאליו נחשפו המודלים, ואם נפגעו נתוני משתמשים או משקלי מודלים.

לפי הדיווח, OpenAI מסרה כי חשפה את החולשה הרלוונטית וכי היא מחזקת את ההגנות כדי למנוע אירועים דומים. Hugging Face המליצה למשתמשים לרענן אסימוני גישה, בעיקר כאלה המשמשים לאוטומציה.