דוח שגוי של בינה מלאכותית כמעט הוביל למלחמה בין ארה"ב לסין

צבא ארצות הברית היה קרוב לאחרונה לעימות חזיתי מול סין בגלל דוח מודיעין שגוי שנוצר על ידי בינה מלאכותית. רשת CNN דיווחה אמש כי המידע הכוזב קבע שספינה סינית מובילה רכיבי נשק גרעיני. הדיווח הופץ בקרב כוחות הצבא בעיצומה של המלחמה עם איראן ועורר בהלה מיידית במערכת הביטחון האמריקנית.

בעקבות המידע החל הצבא לתכנן מבצע יירוט של כלי השיט הסיני. לפי ארבעה מקורות, לוחמים חמושים כבר התכוננו לעלות על הסיפון ומטוסי קרב הוזנקו לאוויר. רגעים ספורים לפני תחילת הפעילות המבצעית בדקו גורמים רשמיים את הדיווח לעומק וגילו כי צ'אטבוט שילב מידע ממקורות גלויים עם נתוני מודיעין אותות סודיים והגיע למסקנה שגויה על תכולת המטען. אחד המקורות אמר לרשת התקשורת כי הדיווח היה שקרי לחלוטין וכמעט פתח במלחמה.

התקרית מתרחשת על רקע דחיפה של שר ההגנה האמריקני פיט הגסת' לשילוב נרחב של טכנולוגיות בינה מלאכותית בכל זרועות הצבא. בינואר האחרון פרסם הגסת' אסטרטגיה להסרת חסמים בירוקרטיים שתנגיש כלים אוטומטיים ליותר משלושה מיליון אנשי צוות, מתוך תפיסה שארה"ב אינה יכולה להרשות לעצמה לפגר טכנולוגית אחרי סין.

למרות הגיבוי הממשלתי, גורמים המכירים את המערכות מזהירים כי המאמץ אינו מרוכז ומתבסס פעמים רבות על ציוד מסחרי שעבר התאמות קלות בלבד. בקהילת המודיעין חוששים במיוחד מתופעת ההזיות של המכונה שמייצרת מידע שגוי אך משכנע. גורמי מודיעין ותיקים התריעו כי הטכנולוגיה מפעילה לחץ על אנליסטים צעירים לסמוך על הכלים ללא ביקורת ולהפיק תוצרים במהירות. אחד המקורות סיכם את הסכנה והזהיר כי בינה מלאכותית מאפשרת להגיע לרעיון רע מהר יותר.