ט' ניסן התשפ"ד
17.04.2024
דיפ פייק

כך עובדים עליכם באמצעות בינה מלאכותית

ניתן לייצר באמצעות טכנולוגיה מבוססת בינה-מלאכותית שינויים כגון זיוף קול, תמונות וסרטוני וידאו מזויפים, המתעדים כביכול פעילות של אדם מבצע פעולות שלא התקיימו במציאות | למידה כיצד לזהות זיופים עמוקים ומתי הם עשויים לשמש כחלק מהונאה היא קריטית בשמירה על מרחב תודעתי בטוח ומוגן

אילוסטרציה
אילוסטרציה צילום: freepik/ צילום מסך

המונח – דיפ פייק (זיוף עמוק בעברית), מבוסס על חיבור בין המושגים Deep Learning ו-Fake, ומתאר טכנולוגיה מבוססת בינה-מלאכותית המאפשרת לשנות או לעבד את התוכן של תמונות או סרטונים כמעט מבלי שניתן יהיה להבחין שהתכנים זויפו. 

ניתן לייצר באמצעות טכנולוגיה זו שינויים כגון זיוף קול, תמונות וסרטוני וידאו מזויפים, המתעדים כביכול פעילות של אדם מבצע פעולות שלא התקיימו במציאות. 

למידה כיצד לזהות זיופים עמוקים ומתי הם עשויים לשמש כחלק מהונאה היא קריטית בשמירה על מרחב תודעתי בטוח ומוגן עבור כולנו.

קיבלתם סרטון חשוד ברשת? שאלו את השאלות הבאות:

עקביות – האם הדמות שמדברת בסרטון מדברת או מתנהגת כפי שאתם זוכרים ומכירים את הדמות?

תזמון – מדוע סרטון זה נשלח אליכם דווקא בתזמון מאוד מסוים?

זהות – מי הפיץ את הסרטון ומה האינטרס שלו?

תגובה – האם הסרטון מעורר אצלכם רגשות עזים?

פקפוק – האם הסרטון גורם לכם לפקפק בדברים שכבר הכרתם או באמינותם של אישי ציבור שבהם תמכתם?

רכילות – האם יש בסרטון מידע חשוב או שתכליתו סנסציה וצהבהבות?

חיזוק – האם מצאתם מקורות אחרים המחזקים את הנאמר בסרטון?

זיוף – האם אתם מזהים בסרטון סממנים של עריכה או זיוף

אז כיצד נוכל לזהות זיוף עמוק?

תנועת עיניים לא טבעית: או היעדר תנועת עיניים, כגון היעדר מצמוץ - הן דגלים אדומים. ניסיון לשחזר את פעולת המצמוץ בצורה שנראית טבעית היא מאתגרת. כך גם בשכפול תנועות עיניים של אדם אמיתי. זאת בשל העובדה שעיניו של אדם בדרך כלל עוקבות אחר האדם איתו הם מדברים.

הבעות פנים לא טבעיות: כאשר משהו לא נראה כשורה בפניו של הדובר בסרטון, הדבר יכול לאותת על מניפולציה מלאכותית שנוצרה והדבקה של שכבת תמונה נוספת על הווידאו המקורי.

עיוותים בפנים: אם פניו של מישהו מופנות לכיוון אחד והאף שלו פונה לכיוון אחר.

חוסר רגש: אם אתם מזהים פער בין הדברים שאומר הדובר בסרטון ובין הרגש ההגיוני שהוא אמור להפגין כשהדברים נאמרים.

גוף או יציבה מגושמת למראה: סימן נוסף הוא האם צורת הגוף של אדם לא נראית טבעית או שיש מיקום מביך או לא עקבי של הראש והגוף. זיהוי שכזה אמור להיות קל יותר לזיהוי, היות וטכנולוגיית Deepfake מתמקדות בדרך כלל בתווי פנים ולא בכל הגוף.

תנועת גוף לא טבעית: אם מישהו נראה מעוות או כבוי כשהוא מסתובב הצידה או מזיז את ראשו, או שהתנועות שלו קופצניות מפריים אחד למשנהו.

צבעים וגוונים: גוון עור חריג, שינוי צבע, תאורה מוזרה וצללים שלא במקום.

שיער שלא נראה אמיתי: לא תראו שיער מקורזל או מתעופף באוויר, כי רוב הטכנולוגיות עדיין מתקשות לייצר אלמנטים ייחודים שכאלו (לפחות בינתיים...).

שיניים שאינן נראות אמיתיות: חלק מטכנולוגיות הדיפ פייק הקיימות מתקשות ביצירת שיניים בודדות. כך שהיעדר קווי מתאר המפריד בין השיניים יכול להוות רמז לזיוף.

טשטוש או חוסר יישור: אם קצוות התמונות מטושטשים או שהתמונות החזותיות לא מיושרות - למשל, כאשר הפנים והצוואר של מישהו משתלבים עם גופו.

חוסר עקביות ותקלות באודיו: סנכרון שפתיים לקוי, קולות שנשמעים רובוטיים, הגיית מילים מוזרה, רעשי רקע דיגיטליים, או אפילו היעדר אודיו.

תמונות שנראות לא טבעיות בעת האטה: אם אתם צופים בסרטון וידאו על מסך שגדול יותר מהסמארטפון שלכם או שיש לכם תוכנת עריכת וידאו שיכולה להאט את הפעלת הסרטון, אתם יכולים להתקרב ולבחון את התמונות מקרוב יותר. התקרבות לשפתיים, למשל, תעזור לכם לראות אם הן באמת מדברות או אם מדובר בסנכרון שפתיים גרוע.

חיפוש תמונות הפוך: חיפוש אחר תמונה מקורית, או חיפוש תמונה הפוך בעזרת מחשב, יכול לחשוף סרטונים דומים באינטרנט כדי לעזור לקבוע אם תמונה, אודיו או וידאו שונו בדרך כלשהי. בעוד שטכנולוגיית חיפוש וידאו הפוך אינה זמינה עדיין לציבור, בעתיד הלא רחוק כלי שכזה יכול להיות מועיל מאוד.

לא מדווחים על הסרטון במקורות חדשותיים מהימנים: אם מה שהאדם בסרטון אומר או עושה הוא מזעזע או חשוב, התקשורת החדשותית תדווח על כך. אם אתם מחפשים מידע על הסרטון ושום מקורות מהימנים לא מדברים על זה.

לסיכום, ככל שטכנולוגיית הזיוף העמוק תתקדם, כך גם הקושי לזהות אותם יתקדם. אך למרות קושי זה, על כולנו מוטלת החובה לצפות בסרטונים ברשת באופן ביקורתי ולהיות מודעים לכך שלא כל דבר שאנחנו רואים או שומעים הוא בהכרח אמיתי ונכון.

בינה מלאכותית פייק רשת הונאה

art

'בחדרי' גם ברשתות החברתיות - הצטרפו!

הוספת תגובה

לכתבה זו התפרסמו 1 תגובות

תגובות

הוסיפו תגובה
{{ comment.number }}.
{{ comment.date_parsed }}
הגב לתגובה זו
{{ reply.date_parsed }}
טען עוד