האושיות בלחץ: הונאת ה-AI החדשה שמתחזה ליוצרי תוכן

מגמה מטרידה מתפשטת ברשתות החברתיות: חשבונות פיקטיביים גונבים סרטונים של יוצרי תוכן אמיתיים, משתמשים בקולם המקורי ומחליפים את פניהם באמצעות בינה מלאכותית.

בניגוד לסרטוני AI רגילים, כאן מדובר בזיוף מתוחכם יותר. הנוכלים מורידים סרטון קיים, מפרידים את קולו של היוצר מרעשי הרקע, ומשתמשים בתוכנות עריכה כדי להלביש על הגוף המקורי פנים סינתטיות. כך נוצר סרטון שנראה במבט ראשון אמיתי, אך בפועל מציג אדם שלא אמר את הדברים ולא הסכים לפרסום.

הסכנה המרכזית היא גניבת זהות דיגיטלית. יוצרי תוכן עלולים למצוא את עצמם "ממליצים" על מוצרים שמעולם לא השתמשו בהם, מקדמים שירותים מפוקפקים או מופיעים בקמפיינים מסחריים מזויפים. מבחינת הצופה, הקול מוכר, הגוף נראה אמיתי - ורק הפנים חושפות שמשהו לא מסתדר.

למרות השיפור בטכנולוגיה, עדיין קיימים סימנים שיכולים לחשוף את הזיוף. אחד הבולטים שבהם הוא חוסר סנכרון בין תנועות השפתיים לבין הקול, בעיקר בעיצורים חדים. גם תאורה לא טבעית על הפנים, טשטוש באזור הצוואר או קו שיער לא יציב עשויים להעיד על עריכה מלאכותית.

סימן נוסף נמצא בעיניים. בסרטונים מזויפים, המבט נראה לעיתים קפוא, האישונים אינם מגיבים באופן טבעי והפנים נראות מנותקות מהגוף. גם הסאונד עשוי להסגיר את התרמית: קול מתכתי, ניקוי רעשים מוגזם או שקט מלאכותי בין המילים יכולים להעיד שהקול עבר עיבוד.

ההמלצה לצופים היא לא למהר להאמין לסרטונים שמקדמים מוצר או שירות, במיוחד כאשר הסרטון נראה מעט מוזר או מופיע מחשבון שאינו החשבון הרשמי של היוצר. כדאי לבדוק את מקור הפרסום, להשוות לסרטונים אחרים של אותו אדם, ולהיזהר במיוחד מקישורים לרכישה או מהבטחות שיווקיות מוגזמות.