הלם בעולם: אלפי טילים שוגרו ע"י Grok של אילון מאסק

משרד ההגנה האמריקאי אישר כי נעזר בגרסה ייעודית של Grok, צ'אטבוט הבינה המלאכותית של xAI שבבעלות אילון מאסק, במסגרת פעילות צבאית באיראן. כך עולה ממסמכים ועדות שהוגשו לבית משפט במיסיסיפי, כך דווח בווינט.

הפרטים נחשפו במסגרת הליך משפטי נגד xAI, העוסק בטענות לזיהום הנגרם מחוות השרתים של החברה במיסיסיפי. קצין הדיגיטל והבינה המלאכותית הראשי של הפנטגון, קמרון סטנלי, העיד כי המשך פעילות המערכת הוא "עניין של ביטחון לאומי עליון".

לפי עדותו, המערכת סייעה לירי של יותר מ-2,000 חימושים לעבר אלפי מטרות בתוך 96 שעות. מדובר באחת ההודאות המפורשות הראשונות מצד גורם בכיר בממשל האמריקאי על שימוש במודל AI מסחרי במסגרת פעילות צבאית רחבת היקף.

סטנלי ציין כי Grok הוא אחד ממספר מודלים המסוגלים לתמוך ביישומי ביטחון לאומי, וכי גרסה ייעודית בשם Grok Gov נבנתה עבור סוכנויות פדרליות וכוללת יכולות שאינן זמינות במודל הציבורי הרגיל.

לדבריו, מרכזי הנתונים שמפעילים את מערכות הבינה המלאכותית עבור הממשל הם כלי אסטרטגי חשוב לשמירה על היתרון הטכנולוגי של ארצות הברית מול יריבותיה. הוא הזהיר כי החלטה משפטית שתפגע בפריסת המודל עלולה להשפיע באופן חמור על יכולות הפנטגון.

החשיפה מעוררת ביקורת קשה בארצות הברית, במיוחד על רקע דיווחים קודמים על תקיפה באיראן שבה היו נפגעים אזרחיים רבים, ולפי הערכות אנליסטים ייתכן שנעשה בה שימוש במיקוד מבוסס AI לצד טעות אנוש.

בעקבות הפרסומים, כמה סנאטורים דמוקרטים מקדמים חקיקה שתגביל את השימוש הצבאי בבינה מלאכותית. ההצעה של הסנאטורית קירסטן גיליברנד מבקשת לקבוע כי החלטות הנוגעות לחיים ומוות יישארו בידי מפקדים אנושיים בלבד, ולא בידי מערכות AI.

גיליברנד הזהירה כי הפנטגון מתקדם במהירות להטמעת מערכות בינה מלאכותית עוצמתיות ללא גבולות ברורים, וקראה לקבוע כללים שיבטיחו כי בני אדם יישארו בשליטה על השימוש בטכנולוגיה במלחמה.

במקביל, הפנטגון מנהל מאבק משפטי נפרד סביב השימוש בכלי AI של Anthropic, לאחר שהחברה והממשל לא הצליחו להגיע להסכמות בנוגע למגבלות השימוש במודלים שלה לצרכים צבאיים.