מחקר חדש מזהיר: ChatGPT עלול להוות סכנה לבני נוער

מחקר חדש של ארגון Common Sense Media מעורר שאלות משמעותיות בנוגע ליעילות מנגנוני ההגנה של ChatGPT עבור בני נוער. המחקר, שפורסם ב 7 באוקטובר וזכה לסיקור נרחב בתקשורת הבינלאומית, קובע כי חלק מההגנות שהציגה OpenAI אינן פועלות באופן אמין כפי שהחברה הבטיחה.

הבדיקה נערכה באמצעות יותר מ 4,000 פניות למערכת, תוך שימוש בחשבונות שהוגדרו עבור בני 13 עד 17. צוות המחקר בחן את התנהגות ChatGPT לפני ואחרי השקת חוויית השימוש הייעודית לבני נוער באוגוסט, ונעזר גם בפסיכיאטרים המתמחים בילדים ובמתבגרים.

אחד הממצאים המדאיגים נוגע להתראות להורים. במסגרת הבדיקה נוהלו שיחות ממושכות בנושאים רגישים באמצעות חשבונות שקושרו לחשבונות הורים. לפי החוקרים, במקרים מסוימים המערכת לא שלחה התראה להורה גם לאחר שיחה שנמשכה כשעה וכללה תכנים שהיו אמורים להפעיל מנגנוני בטיחות.

החוקרים בדקו גם את התנהגות המערכת במצבי משבר נפשי. לטענתם, ChatGPT לא הפנה באופן עקבי בני נוער למוקדי סיוע או לאנשי מקצוע כאשר היה צורך בכך. ביותר מרבע מהמקרים שבהם החוקרים סברו שנדרשת הפניה לסיוע, ההפניה לא הופיעה כנדרש.

ליקויים נוספים נמצאו בכלי הלמידה. למרות שמצב הלמידה של ChatGPT אמור לעודד תלמידים לחשוב ולהגיע לתשובות בעצמם, החוקרים הצליחו במקרים מסוימים לגרום למערכת להשלים עבורם מטלות לימודיות. הם גם מצאו דרכים לעקוף חלק מהגבלות הלמידה שהוגדרו בחשבון.

המחקר אינו טוען שכל מנגנוני ההגנה נכשלו. החוקרים מצאו גם יכולות שפעלו כראוי, עם זאת, הארגון סבור שהפער בין ההבטחות לבין התוצאות משמעותי מספיק כדי להמליץ להגביל את השימוש בשירות לבני 18 ומעלה עד לשיפור ההגנות.

OpenAI חולקת על מסקנות המחקר. בתגובה לסוכנות הידיעות AP מסרה החברה כי בדיקת שיטת המחקר העלתה שחלק ניכר מהניסויים עשוי היה להתבצע לפני שהפעלת בקרת ההורים הושלמה. לכן, לטענתה, התוצאות אינן משקפות בהכרח את פעילות המערכת לאחר הגדרה מלאה.