OpenAI מזהירה: המודל החדש שלה עלול להוות סיכון סייבר רציני

OpenAI הודיעה כי היא לא יכולה לשלול את האפשרות שמודל הבינה המלאכותית הבא שלה, אסטרה (Astra), כולל יכולות סייבר ברמה "קריטית". בעקבות הערכות ראשוניות שבוצעו בימים האחרונים, החברה עצרה חלק מפעולות הפיתוח הפנימיות הקשורות למודל והפעילה נהלי בטיחות חדשים. כך דווח ברויטרס. 

לפי ההנחיות של OpenAI, מודל מגיע לרמת סיכון "קריטית" אם הוא מסוגל לזהות באופן עצמאי חולשות אבטחה חמורות בתוכנות אמיתיות ולנצל אותן. מדובר בין היתר בפרצות המכונות "יום אפס" (Zero-Day). בנוסף, ההגדרה כוללת יכולת לבצע מתקפות סייבר מורכבות נגד מערכות מאובטחות במיוחד, ללא התערבות של אדם.

OpenAI מסרה כי בדיקות ראשוניות שבוצעו בימים האחרונים, יחד עם הערכות של מומחים חיצוניים, הראו שאסטרה עשויה להיות מסוגלת לבצע משימות סייבר מורכבות יותר ויותר באופן עצמאי.

"בעודנו ממשיכים לבחון ולהעריך את המודל, ההערכות הראשוניות שלנו מצביעות על ביצועים חזקים מספיק, כך שאיננו יכולים לשלול בשלב זה יכולת ברמה 'קריטית'", מסרה החברה.

בעקבות הממצאים, OpenAI הגבירה את אמצעי האבטחה סביב אסטרה והפסיקה פעילויות פנימיות הקשורות למודל שלא עמדו בדרישות האבטחה החדשות. בנוסף, המשך הפיתוח של המודל יעבור לסביבות בדיקה מבודדות, עם גישה מוגבלת לרשת והפעלת קוד בתוך סביבה סגורה.

ההתפתחות מגיעה על רקע שורה של אירועים שבהם מערכות בינה מלאכותית הראו יכולות סייבר מתקדמות. בשבועות האחרונים הודיעו OpenAI, אנת'רופיק (Anthropic) ומטא (Meta) כי מודלי הבינה המלאכותית שלהן הצליחו לחדור למערכות של חברות אחרות במהלך מבחני סייבר.

האירועים האלה מדגישים את אחד האתגרים המרכזיים שעומדים כיום בפני חברות הבינה המלאכותית. ככל שהמודלים הופכים חזקים ואוטונומיים יותר, החברות צריכות למצוא דרכים חדשות כדי לוודא שהם נשארים תחת שליטה ולא מבצעים פעולות שלא תוכננו לבצע.

למרות החששות, מנכ"ל OpenAI, סם אלטמן, אמר כי החברה עדיין פועלת כדי להפוך את אסטרה לזמינה לציבור הרחב. אלטמן כתב ברשת X כי OpenAI אינה חושבת שזו אסטרטגיה טובה לשמור מודלים חזקים בידי קבוצה מצומצמת של אנשים.

OpenAI גם הבהירה כי אסטרה לא הייתה מעורבת בפריצה נגד פלטפורמת הבינה המלאכותית Hugging Face. החברה צפויה לשתף פעולה עם גופים ממשלתיים ועם ארגונים בתחום בטיחות הבינה המלאכותית כדי לבדוק את היכולות של המודל.

בשלב הזה, OpenAI ממשיכה לבחון את אסטרה לפני קבלת החלטות נוספות לגבי הפיתוח וההפצה שלה. עצם העובדה שהחברה אינה יכולה לשלול אפשרות של יכולות סייבר ברמה "קריטית" ממחישה עד כמה מהר היכולות של מודלי הבינה המלאכותית מתקדמות.