אתם לא רואים אותו - המחשב כן: הטריק החדש שמסתתר במיילים

מילה תמימה למראה בתוך הודעת מייל יכולה להיות שונה לחלוטין מזו שהמחשב חושב שהוא קורא. טכניקה שהפכה מוכרת בעקבות מתקפות על מערכות בינה מלאכותית משמשת כעת שולחי ספאם בניסיון לעבור מתחת לרדאר של מסנני הדואר האלקטרוני.

לפי מחקר שפרסמה מיקרוסופט ודווח בסוף השבוע ב-Ars Technica, השיטה, המכונה ASCII smuggling, מנצלת תווים מיוחדים ב-Unicode שכמעט אינם נראים לעין האנושית, אך עדיין קיימים בתוך הטקסט ונקראים על ידי מערכות מחשב.

מיקרוסופט זיהתה בתחילת השנה עלייה חריגה בשימוש בשיטה. לפי נתוני החברה, מספר הזיהויים היומי של חתימות הקשורות ל-ASCII smuggling עמד בתחילה על כ-21 אלף. בתוך זמן קצר הוא זינק ליותר מ-1.3 מיליון, וכעבור ארבעה ימים כבר הגיע ל-2.5 מיליון. הפעילות נמשכה בהיקפים גבוהים במשך חודשים ונחלשה משמעותית באמצע מאי.

הרעיון שעומד מאחורי השיטה פשוט יחסית. קיימת ב-Unicode קבוצה של תווים שמייצגים אותיות וסימנים, אך ברוב הממשקים הם אינם מוצגים למשתמש. מבחינת האדם שקורא את ההודעה הם למעשה בלתי נראים, בעוד שמערכות שמנתחות את הטקסט עדיין עשויות לזהות אותם.

שולחי הספאם מנצלים את הפער הזה כדי לשבש מילים שמסנני דואר עשויים לחפש. למשל, אפשר להכניס תו בלתי נראה באמצע המילה האנגלית "funding". האדם שמקבל את ההודעה עדיין עשוי לראות "funding" כרגיל, אבל מערכת הסינון יכולה לפרש את הטקסט כאילו מדובר בשני חלקים נפרדים - "fun" ו-"ding" - ובכך לא לזהות את המילה שאותה היא מחפשת.

אותו עיקרון יכול לשמש להסוואת ביטויים נוספים שמזוהים עם הודעות ספאם, בהם סכומי כסף ומילים הקשורות לאשראי ולהלוואות.

התחכום אינו מסתכם בעקיפת מסננים פשוטים שמחפשים מילה מסוימת. לפי מיקרוסופט, השימוש בתווים הנסתרים עשוי להקשות גם על מערכות מתקדמות המבוססות על למידת מכונה ועיבוד שפה.

מערכות כאלה מפרקות לעיתים את הטקסט ליחידות קטנות לפני שהן מנתחות אותו. כאשר תו בלתי נראה מוחדר לתוך מילה מוכרת, הוא יכול לשנות את האופן שבו היא מתפרקת ולהקשות על המערכת להבין שמדובר באותה מילה שהמשתמש רואה על המסך.

ASCII smuggling לא נולד בעולם הספאם. השיטה זכתה לתשומת לב בשנים האחרונות בעקבות מתקפות Prompt Injection נגד מערכות AI. תוקפים גילו שניתן להסתיר הוראות בתוך טקסט באופן שהמשתמש האנושי אינו רואה, אך מודל השפה עדיין מסוגל לקרוא ולעבד.

כעת נעשה שימוש באותה תכונה בכיוון מעט שונה: במקום להסתיר הוראה מהאדם ולחשוף אותה ל-AI, שולחי הספאם משתמשים בתווים כדי לגרום לטקסט להיראות רגיל לאדם - ובמקביל לשבש את הדרך שבה מערכות ההגנה מנתחות אותו.

עצם הניסיון להסוות מילים אינו חדש. שולחי ספאם משתמשים כבר שנים ברווחים בלתי נראים ובתווים מיוחדים כדי לבלבל מסננים. אלא שהשימוש בתווי Unicode מהסוג הזה מעניק להם כלי נוסף מול מערכות הסינון החדשות, שחלקן נשענות בעצמן על AI.

מיקרוסופט פרסמה בעקבות הפעילות הנחיות למפתחי מערכות סינון כיצד לזהות טוב יותר שימוש בתווים הללו ולנטרל אותם לפני ניתוח תוכן ההודעה.