הפיצ'ר החדש של ChatGPT יכול להציל לכם את החיים

חברת OpenAI החלה להשיק בימים האחרונים פיצ׳ר חדש ב ChatGPT בשם "איש קשר מהימן", שנועד להוסיף שכבת בטיחות במצבים שבהם מזוהה חשש חמור לפגיעה עצמית במהלך שיחה עם המערכת. הכלי, המיועד למשתמשים בוגרים בלבד, מאפשר לבחור מראש אדם קרוב, כמו בן משפחה, חבר או מטפל, שיוכל לקבל התראה במקרה של חשש בטיחותי חריג. 

לפי הודעת החברה, המנגנון פועל בכמה שלבים. תחילה המערכת האוטומטית מזהה סימנים מדאיגים בשיחה, ולאחר מכן המקרה נבדק גם על ידי בודקים אנושיים שעברו הכשרה. רק אם נקבע כי מדובר בחשש בטיחותי חמור, עשויה להישלח הודעה לאיש הקשר שהוגדר מראש. ב OpenAI מדגישים כי ההתראה תהיה מוגבלת ולא תכלול את תמליל השיחה או את פרטיה המלאים, אלא רק הודעה כללית המעודדת את איש הקשר לבדוק מה שלומו של המשתמש. 

החברה מבהירה במפורש כי מדובר בכלי תמיכה אופציונלי בלבד, ולא בשירות חירום, מערכת תגובה למשבר או תחליף לטיפול נפשי. לפי מרכז העזרה של OpenAI, אין להסתמך על הפיצ׳ר לבדו במצב של סכנה מיידית, משום שאיש הקשר לא בהכרח יהיה זמין או יוכל להגיב בזמן. 

השקת הכלי מגיעה ברקע ביקורת ציבורית והליכים משפטיים שנקשרו לשיחות רגישות עם ChatGPT. בעדכון שפרסמה החברה בפברואר האחרון היא התייחסה לריכוז של כמה תיקים משפטיים הקשורים לבריאות הנפש, ובמקביל פירטה שורה של צעדים לשיפור ההגנות במצבי מצוקה, בהם גם הרחבת בקרות ההורים ופיתוח האפשרות לאיש קשר מהימן. עם זאת, החברה לא הציגה את הפיצ׳ר כתוצאה ישירה של התביעות. 

עוד מסרה OpenAI כי הפיתוח נעשה בליווי מומחים לבריאות הנפש וכחלק ממאמץ רחב יותר לשפר את זיהוי סימני המצוקה, להפחית תגובות לא מתאימות ולהכווין משתמשים לעזרה אנושית במצבים רגישים. לפי החברה, המטרה היא לחבר בין השימוש בכלי דיגיטלי לבין תמיכה של אנשים אמיתיים בסביבתו של המשתמש, כאשר מתעורר חשש משמעותי.