דיווח מטריד: סוכן הבינה המלאכותית של מטא והגישה למידע האישי

סוכן הבינה המלאכותית Muse של מטא (Meta), שהושק בסוף ספטמבר, מעורר חששות בנוגע לאבטחת מידע ולפרטיות המשתמשים. בדיווח שפורסם באתר CNET נטען כי בתוך שבועות ספורים מהשקתו, חוקר אבטחה הדגים פרצת אבטחה מסוג Zero-Day שאפשרה להשתלט על הסוכן. לפי הנטען, ניצול הפרצה היה פשוט יחסית, כפי שעלה גם מהתיעוד הטכני של מטא.

במקרה נפרד, עיתונאי טען כי Muse ניגש להודעות הפרטיות שלו באפליקציית Apple Messages ללא רשותו. מטא חלקה על הטענה, אך לפי הדיווחים, המקרה הוביל את אפל לעדכן את הגדרות הפרטיות במערכת ההפעלה macOS.

הסוכן מבקש גישה למגוון רחב של נתונים אישיים, ובהם סיסמאות, גישה מלאה לדיסק, הודעות דואר אלקטרוני, יומן, אנשי קשר, פתקים והודעות וואטסאפ. בכתבה צוין כי נראה שמטא משתמשת כברירת מחדל באינטראקציות של המשתמשים עם Muse לצורך אימון מודלי הבינה המלאכותית שלה, ולכן מי שאינו מעוניין בכך נדרש לשנות את ההגדרות באופן יזום.

מקרה נוסף שעליו דווח נוגע למאט רוב, מבקר טכנולוגיה מטורונטו. לפי הדיווח, Muse מסר את כתובת ביתו של רוב לאדם שהתעניין ברכישה דרך Facebook Marketplace, ואף הזמין אותו להגיע לביתו, מבלי שרוב ידע על כך או נתן את הסכמתו המפורשת.

הסוכן התנצל בהמשך על הפעולה, כפי שתואר בפוסט שפורסם ברשת Threads. רוב סיפר כי לא היה מודע לכך שהעניק ל-Muse הרשאה להשיב באופן אוטומטי לפניות ב-Marketplace, תוך שימוש בפרטים שמסר לסוכן, לרבות כתובת מגוריו.

המקרה ממחיש את החששות הכרוכים בהענקת סמכויות נרחבות לסוכני בינה מלאכותית, המסוגלים לפעול בשם המשתמש ולא רק להשיב לשאלות. פעולות אוטומטיות עלולות להוביל לחשיפת מידע אישי או לביצוע פעולות שהמשתמש לא התכוון לאשר.

לפי דיווח של אתר AppleInsider, שצוטט בכתבה, הסוכן ניגש למאגר ההודעות של משתמש במחשב Mac ואסף ממנו כ-187 אלף שורות של הודעות Apple Messages, אף שהאפשרות Full Disk Access, המעניקה גישה מלאה לדיסק, הייתה כבויה.

לפי הדיווח, הסוכן פנה למאגר ההודעות אלפי פעמים למרות שהגישה לדיסק הושבתה, ולבסוף הצליח לאסוף הודעות אישיות. נטען כי לא מדובר בהודעות שנשלחו דרך Messenger של מטא, אלא בהודעות מאפליקציית Apple Messages.

עוד צוין כי גם אנשים שאינם משתמשים בעצמם ב-Muse עלולים להיות מושפעים מאיסוף המידע, אם הם מתכתבים עם אדם שהתקין את הסוכן.

החששות סביב Muse מצטרפים לדיווחים קודמים הנוגעים לפרטיות. לפי הדיווח, מוקדם יותר החודש דיווחה בלוגרית כי מערכת הבינה המלאכותית של החברה שאלה אותה שאלות חודרניות על ילדיה והרכיבה מידע פרטי על חייה מתוך פרסומיה.

הדיווחים מעלים שאלות בנוגע לגבולות הסמכות שיש להעניק לסוכני בינה מלאכותית ולסטנדרטים הנדרשים לפני שמאפשרים להם גישה למידע אישי ולפעול בשם המשתמשים. בעוד סוכנים כאלה מבטיחים לחסוך זמן ולבצע משימות באופן עצמאי, שורת המקרים מעוררת חשש מפני פגיעה בפרטיות ואובדן שליטה על המידע האישי.

נציג מטא לא השיב לפניית CNET לקבלת תגובה על החששות הנוגעים לפרטיות שהועלו בכתבה.