הלהיט החדש של מטא: מיליוני הורדות וחולשת אבטחה חמורה

סוכן הבינה המלאכותית החדש של מטא, Muse, רשם בתוך פחות משבועיים נתוני שימוש והורדות משמעותיים, ואף עבר את ChatGPT, קלוד וגרוק במספר ההורדות הראשוני בארצות הברית. אלא שבמקביל להתפשטות המהירה של השירות, נחשפה חולשת אבטחה שעלולה לאפשר השתלטות על הסוכן וניצול ההרשאות שניתנו לו.

Muse הושק ב-8 בספטמבר, ובחמשת הימים הראשונים הגיע לכ-730 אלף התקנות. עד יום שני כבר חצה מספר ההורדות את רף 2.5 מיליון. לפי נתונים ראשוניים של חברת המחקר Sensor Tower, במהלך 12 הימים הראשונים להשקה נרשמו בארצות הברית ובקנדה כ-1.8 מיליון הורדות של האפליקציה במכשירי אייפון, לעומת כ-1.3 מיליון הורדות של ChatGPT באותה תקופה. 

גם נתוני השימוש מצביעים על פעילות רחבה. Muse הגיע לכ-359 אלף משתמשים פעילים מדי יום באייפון בארצות הברית ובקנדה. נוסף על כך, אין צורך בהכרח להתקין את האפליקציה, שכן מטא מאפשרת להשתמש בשירות גם באמצעות וואטסאפ, כך שמספר המשתמשים הכולל עשוי להיות גבוה יותר.

לחלק מההצלחה יש קשר ישיר למערך השירותים הקיים של מטא. יותר מ-95% ממשתמשי Muse משתמשים גם בפייסבוק, בעוד שכ-63% מהם משתמשים באינסטגרם. כך, בניגוד לחברות בתחום הבינה המלאכותית שנדרשות לבנות קהל משתמשים חדש, למטא כבר קיימת גישה למספר עצום של משתמשים בתוך השירותים שלה. 

לא רק צ’אטבוט

Muse נועדה לפעול באופן שונה מצ’אטבוטים רגילים. במקום להסתפק בקבלת שאלה ומתן תשובה, מדובר בסוכן AI שמקבל משימה, קובע את השלבים הנדרשים לביצועה ופועל באופן עצמאי כדי להשלים אותה.

המערכת יכולה לגלוש באינטרנט ולהתחבר לשירותים שבהם משתמש האדם. בין היתר, היא מיועדת לבצע פעולות כמו שליחת מיילים, הזמנת טיסות ובתי מלון, ניהול יומן, הזמנת מקומות במסעדות, מיון הודעות דואר אלקטרוני, טיפול בפניות לשירות לקוחות, השוואת מחירים ואף ניהול משא ומתן במסגרת רכישות מקוונות. 

Muse מבוססת על תשתית Muse Spark 1.3 של מטא ויכולה להתחבר לחשבונות מייל, ליומן ולשירותי תשלום. אחד המרכיבים המרכזיים במערכת הוא היכולת להמשיך בביצוע משימות גם לאחר שהמשתמש עוזב את האפליקציה. לצורך כך, מטא אומרת שלכל משתמש מוקצה מחשב וירטואלי עצמאי בענן, שפועל באופן רציף ומופרד מהפעילות של משתמשים אחרים.

אלא שהגישה הרחבה לשירותים ולמשאבים של המשתמש יוצרת גם סיכוני אבטחה. במקרה שבו סוכן כזה טועה או מותקף, ההשלכות אינן מסתכמות בהצגת תשובה שגויה, שכן המערכת יכולה לבצע פעולות בפועל באמצעות ההרשאות שניתנו לה.

חולשת Zero-Day נחשפה

החשש קיבל ביטוי ממשי לאחר שחוקר אבטחת הסייבר פטריק וורדל חשף חולשת Zero-Day בגרסת Muse למחשבי מק. לדבריו, החולשה מאפשרת לאפליקציה מקומית או לפקודה המופעלת במחשב להשתלט על חשבון המשתמש.

לפי החוקר, ניתן לנצל את החולשה כדי לשנות את השרת שאליו מועברים נתוני התמלול של Muse ולהפנות אותם לשרת שנמצא בשליטת התוקף. כך ניתן להשיג את הטוקן שמאפשר גישה לחשבון, ולאחר מכן לנצל את ההרשאות שכבר ניתנו לסוכן.

ההרשאות הללו עשויות לאפשר ביצוע פעולות בשם המשתמש, ובהן כתיבת קבצים במחשב ואפילו צילום תמונות באמצעות המצלמה, ובחלק מהמקרים הדבר עשוי להתרחש ללא התרעה למשתמש.

היקף ההרשאות הוא חלק מרכזי מהבעיה: Muse יכולה לקבל גישה למייל, לוואטסאפ, ליומן ולחשבונות ברשתות החברתיות. בגרסת המק היא עשויה לקבל גם הרשאות למשאבי מערכת נוספים, בהם קבצים, מצלמה ומיקרופון. 

אמזון חסמה את הגישה

במקביל, אמזון הודיעה כי חסמה את הגישה של Muse לשירותיה. בחברה הסבירו כי המהלך נבע מחששות הנוגעים לפרטיות ולאבטחה, וטענו כי לא קיבלו הודעה מוקדמת על שילוב המערכת בשירותיה. לדברי אמזון, גישה מתמשכת ולא מורשית של סוכן בינה מלאכותית לשירותיה מפרה את תנאי השימוש שלה.