נותנים ל-ChatGPT גישה לחיים שלכם? אתם עלולים להתחרט על זה

חברות OpenAI ומטא מבטיחות למשתמשים שסוכני הבינה המלאכותית החדשים שלהן מסוגלים לבצע משימות מורכבות תוך שמירה על פרטיות המידע האישי. אלא שתחקיר חדש שפורסם באתר The Verge מעלה שאלות בנוגע ליכולתן לעמוד בהבטחות, במיוחד כאשר המערכות מקבלות גישה לחשבונות אישיים ולמידע רגיש.

במרכז התחקיר עומדים שני שירותים חדשים: Muse של מטא ו Dots של OpenAI. בניגוד לצ'אטבוטים רגילים, המערכות הללו מסוגלות לפעול באופן עצמאי, לקרוא מידע מאפליקציות מחוברות, לנהל משימות ולבצע פעולות עבור המשתמש. ככל שהן מקבלות הרשאות רחבות יותר, כך גדלה גם כמות המידע האישי שנחשפת בפניהן.

מטא הציגה את Muse כמערכת שנבנתה מלכתחילה תוך הקפדה על אבטחה ופרטיות. החברה מפעילה עבור כל משתמש מחשב וירטואלי מבודד בענן, שבו נשמרים הנתונים והחיבורים לשירותים השונים. אלא שלפי התחקיר, הבידוד מונע גישה של משתמשים אחרים למידע, אך אינו מונע בהכרח ממטא עצמה לגשת אליו.

התחקיר מזכיר גם פרצת אבטחה שהתגלתה באפליקציית Muse למחשבי מק, שאפשרה בתנאים מסוימים להשתלט על פעילות הסוכן. הפרצה תוקנה מאז, אך עוררה שאלות בנוגע לבטיחות המערכות. בנוסף, פורסמו דיווחים של משתמשים ועיתונאים שטענו כי Muse ניגש להודעות פרטיות או חשף מידע אישי בדרכים שלא ציפו להן. מדובר בדיווחים נקודתיים, ולא בהוכחה שכל המשתמשים חשופים לאותה בעיה.

מנגד, OpenAI מנסה להציג את Dots כחלופה בטוחה יותר. החברה מאפשרת למשתמשים להגדיר אילו פעולות הסוכן רשאי לבצע באופן עצמאי ואילו פעולות דורשות אישור. בנוסף, לקוחות עסקיים יכולים להשתמש באפשרויות מתקדמות לשליטה בשמירת מידע, בעוד שבחשבונות אישיים ניתן לשלוט בהגדרות השימוש בנתונים לצורך שיפור המודלים.

עם זאת, גם ההגנות של OpenAI אינן מבטיחות חסינות מוחלטת. סוכני בינה מלאכותית זקוקים לעיתים לגישה למידע אישי רב כדי לבצע את משימותיהם, והם עדיין עלולים לטעות. לפי התחקיר, עצם העובדה שהמערכת מבקשת הרשאות לגישה למיילים, למסמכים או למידע פיננסי מחייבת את המשתמש להבין מה בדיוק היא רשאית לעשות.

המשמעות המעשית ברורה: לפני שמחברים סוכן בינה מלאכותית לחשבון הגוגל, למייל, להודעות או לשירותים פיננסיים, מומלץ לבדוק את ההרשאות שניתנות לו. כדאי להעדיף הרשאות קריאה בלבד כאשר אין צורך בביצוע פעולות, להפעיל אישור אנושי לפעולות רגישות ולבטל חיבורים שאינם נחוצים. חשוב לזכור שגם מערכת שמוגדרת כמאובטחת אינה מבטיחה שהמידע האישי שלכם לעולם לא ייחשף.