חברות ה-Ai יתבקשו למסור מרצונן את המודלים לממשל ארה"ב

ממשל ארצות הברית השלים את גיבושו של מנגנון חדש לבדיקת יכולות הסייבר של מודלים מתקדמים מבית OpenAI, Google וחברות בינה מלאכותית נוספות. לפי גורם בבית הלבן, החברות יתבקשו למסור מרצונן את המודלים החזקים ביותר שלהן לבדיקות ממשלתיות שיבחנו עד כמה הם מסוגלים לאתר חולשות, לחדור למערכות ולבצע פעולות שעלולות להפוך לכלי תקיפה. 

המסגרת החדשה אינה חוק מחייב בשלב זה, אלא מנגנון וולונטרי שנועד לאפשר לממשל להבין את היכולות של המודלים לפני הפצה רחבה או שילובם במוצרים. נציגים של OpenAI, Google ו Anthropic צפויים לדון בפרטים עם אנשי הממשל, ובהם אופן ביצוע המבחנים, מסירת התוצאות והטיפול באירועי אבטחה חריגים. 

המהלך מגיע לאחר חשיפת ניסויים שבהם סוכני בינה מלאכותית של OpenAI ושל Anthropic הצליחו לחדור למערכות של חברות אחרות. במקרה שנקשר ל OpenAI, סוכן שפעל בסביבת בדיקות הגיע למערכות של Hugging Face, והאירוע זוהה בידי החברה רק לאחר מספר ימים. OpenAI מסרה כי הניסוי נערך בתנאים שנועדו לבחון יכולות סייבר ולא במסגרת שימוש רגיל של לקוחות. 

החידוש כעת הוא שהממשל השלים את הפרטים המעשיים של הבדיקות, לאחר שהנשיא דונלד טראמפ הורה ביוני להקים מסגרת שתאפשר להעריך את הסיכון שמודלים מתקדמים ישמשו לפריצות או לפגיעה בתשתיות. הבית הלבן עדיין לא פרסם לציבור את המדדים המדויקים, את סף הכישלון או את ההשלכות על חברה שתסרב להשתתף. 

הבדיקות צפויות להתמקד במודלים בעלי יכולות מתקדמות במיוחד ולא בכל גרסה של ChatGPT או Gemini. נכון לעכשיו לא נמסר אילו דגמים ייבדקו, מתי יתחילו המבחנים או האם תוצאותיהם יפורסמו לציבור. גם OpenAI ו Google טרם הודיעו רשמית אילו מערכות הן מוכנות להעביר לבדיקה.

עבור המשתמשים אין כרגע שינוי באופן השימוש ב ChatGPT או Gemini. עם זאת, אם המנגנון יורחב בעתיד או יהפוך למחייב, הוא עשוי להשפיע על לוחות הזמנים להשקת מודלים חדשים, על מגבלות השימוש ביכולות סייבר ועל מידת השקיפות שהחברות יידרשו לספק לפני השקה.