שיח אנטישמי ברשתות החברתיות: כשל מדאיג במנגנוני הפיקוח של מטא ו-X

בדיקה שנערכה על ידי ארגון Eko הגרמני לאחריות תאגידית ופורסמה בynet, חושפת ליקויים חמורים במנגנוני הבקרה של הרשתות החברתיות מטא ו-X. על פי הממצאים, שתי הפלטפורמות אישרו פרסום של מודעות המכילות שיח שנאה חמור וקריאות לאלימות נגד מיעוטים, בסמוך לבחירות הפדרליות בגרמניה.

במהלך הבדיקה, הוגשו מודעות הכוללות ביטויים קיצוניים, ובהם כינויים מבזים למהגרים מוסלמים ויהודים, קריאות לאלימות, ואף הצעות כגון כליאת מהגרים במחנות ריכוז או השמדתם. למרות תוכנן הקיצוני, חצי מהמודעות אושרו על ידי מטא, בעוד X אישרה את כולן.

הממצאים, שנמסרו לנציבות האירופית, מעלים תהיות קשות בנוגע למדיניות הפיקוח של הפלטפורמות. העיתוי שבו נחשפו הנתונים רגיש במיוחד, שכן הבחירות הפדרליות בגרמניה עומדות בפתח, והחשש הוא מהשפעה שלילית על השיח הציבורי וההליך הדמוקרטי.

זו אינה הפעם הראשונה שבה הרשתות החברתיות מואשמות בהתרת שיח שנאה, בעיקר בתקופות בחירות. פרשת קיימברידג' אנליטיקה, שבה התברר כי נתוני משתמשים נוצלו להשפעה על הצבעות ברחבי העולם, כבר הובילה בעבר את פייסבוק לקנס חסר תקדים של 5 מיליארד דולר.

גם אילון מאסק, בעלי X, נקשר בהאשמות של מעורבות פוליטית, לאחר שהתבטא בגלוי בתמיכה במפלגת הימין הקיצוני AFD בגרמניה. לא ברור אם אישור המודעות הקיצוניות נובע מתמיכתו האישית או ממדיניות חופש הביטוי שהנהיג בפלטפורמה מאז רכש אותה. במסגרת שינויי המדיניות, ביטל מאסק את מנגנוני הפיקוח על תכנים, כשהוא מתבסס על מערכת "הערות הקהילה" – מנגנון שבו גולשים מצרפים הקשרים נוספים לתכנים שפורסמו.

מגמה זו אינה ייחודית ל-X בלבד. גם מארק צוקרברג הכריז כי בכוונתו ליישם את אותו מנגנון בפייסבוק, תוך שילוב מערכות AI לזיהוי תוכן שנאה ותכנים בלתי חוקיים. עם זאת, הביקורת הציבורית עולה ככל שמתגלים מקרים שבהם אלגוריתמים מהדהדים מסרים קיצוניים, במקום לצמצם את הפצתם.

הדיון סביב מדיניות הפיקוח ברשתות החברתיות צובר תאוצה, במיוחד על רקע בחירות קרובות באירופה וארה"ב. מחקר שנערך לאחרונה חשף כי תכני ימין קיצוני מופצים בהיקף נרחב בטיקטוק וב-X, ומעצבים את דעת הקהל המקומית.

מצב זה מתרחש לצד עלייה חדה באלימות מצד מהגרים מוסלמים ופיגועים שאירעו בחודשים האחרונים, מה שעלול להוסיף דלק לשיח המתלהט. לא ניתן לקבוע בוודאות אם האלגוריתמים ברשתות החברתיות אחראים להקצנת השיח, או שמא מדובר בהשתקפות של המצב הפוליטי והחברתי, אך ברור כי מאסק וצוקרברג מראים נכונות גוברת לצמצם את הפיקוח, חרף לחצי הרגולטורים באירופה.

כעת עולה השאלה האם המחקר האחרון יוביל להחמרת הפיקוח מצד האיחוד האירופי, או שמא יגובש פתרון אחר שיחייב את המדינות.