קיבלתם הודעה ממספר לא מוכר? וואטסאפ מתחילה לבדוק אותה

הונאות מקוונות וניסיונות להטעות משתמשים הפכו לאחד האיומים המרכזיים באפליקציות מסרים. על רקע התופעה, חטיבת ההנדסה של מטא חשפה בסוף השבוע האחרון את Scam Alert, כלי אבטחה חדש המוטמע בוואטסאפ ונועד לזהות התנהלות חשודה מצד משתמשים שאינם נמצאים ברשימת אנשי הקשר.

המערכת פועלת באמצעות זיהוי דפוסים המאפיינים ניסיונות הונאה בהודעות נכנסות. היא מתמקדת, בין היתר, במבנה השיחה ובאופן שבו מנוסח התוכן, במטרה לאתר סימנים שעלולים להעיד על ניסיון מרמה. הכלי מיועד לספק שכבת הגנה נוספת, במיוחד עבור אוכלוסיות שעלולות להיות חשופות יותר להונאות, ובהן קשישים ובני נוער.

אחד המאפיינים המרכזיים של הפתרון הוא אופן הפעולה שלו. במקום להעביר את המידע לעיבוד בשרתי ענן, המודל של מטא פועל ישירות על גבי החומרה של הטלפון. כך ניתן לנתח את ההודעות במכשיר עצמו, כאשר תוכן השיחה אינו נדרש לצאת ממנו.

כאשר המערכת מזהה פעילות החשודה כהונאה, המשתמש מקבל התראה שאינה מוצגת לשולח ההודעה. דרך ההתראה ניתן לבחור לחסום את איש הקשר, לדווח עליו או לסמן את השיחה כבטוחה במקרה שבו המערכת זיהתה בטעות פעילות לגיטימית כהונאה.

פיתוח המערכת הציב בפני מטא אתגר מרכזי: כיצד להוסיף יכולות לזיהוי הונאות מבלי לפגוע במנגנון ההצפנה מקצה לקצה של וואטסאפ. בחברה מדגישים כי תוכן ההודעות אינו מועבר לשרתי מטא או לגורם חיצוני במהלך פעולת המערכת.

לצורך בחינת ביצועי הכלי, מטא אוספת נתונים סטטיסטיים אנונימיים בלבד, כגון מספר ההתראות שהופעלו. המידע נאסף באמצעות מנגנון פרטיות מבדלת (Differential Privacy), המוסיף נתונים אקראיים למידע הסטטיסטי ומקשה על האפשרות לקשר פעולה מסוימת למשתמש יחיד.

מטא מבקשת גם להתמודד מראש עם החשש שהמודל ישמש לצורכי מעקב. במסגרת זו, החברה מפרסמת את משקולות המודל ואת החתימות הדיגיטליות שלו ביומן שקיפות ציבורי המנוהל על ידי צד שלישי, Cloudflare. לפי החברה, המהלך נועד להבטיח שלא ניתן יהיה להפיץ גרסת מודל שונה למשתמש מסוים.

במקביל, חוקרי אבטחה יוכלו לבחון את הקוד באופן עצמאי במסגרת תוכנית מענקים (Bug Bounty), בעוד שמשתמשי וואטסאפ יוכלו לצפות ביומני האבטחה דרך הגדרות החשבון.

Scam Alert מתחיל כעת להיפרס בגרסת בטא ניסיונית לקבוצה מוגבלת של משתמשים, והוא אינו מופעל כברירת מחדל באופן כפוי. המשתמשים יוכלו לבחור אם להפעיל את שכבת ההגנה או להשבית אותה בכל עת באמצעות תפריט הפרטיות של האפליקציה. המהלך מבוסס על שימוש במודלי שפה זעירים הפועלים באופן מקומי במכשיר, במטרה לספק זיהוי אוטונומי של ניסיונות הונאה תוך שמירה על פרטיות המידע האישי.