חקלאי בסין איבד את כל יבולו בעקבות המלצה של בינה מלאכותית

חקלאי בן 67 מסין, העונה לשם וו, איבד כמעט לחלוטין את יבול השומשום שלו בשטח של כ-100 דונם, לאחר שפעל לפי הנחיות שקיבל מאפליקציית בינה מלאכותית.

וו, שנהג בשנה האחרונה להסתמך בהדרגה על הבינה המלאכותית במגוון נושאים חקלאיים, מתזמון דישון ועד לבחירת חומרי הדברה, פנה אל המודל ב-10 ביולי בבקשה לקבל פתרון להתמודדות עם עשבים שוטים ומזיקים בשדה.

בתגובה, הפיקה המערכת תוכנית עבודה אווירית לריסוס באמצעות רחפן, שכללה תערובת של קוטלי חרקים וחומרים כימיים שונים, כך על פי דיווח בעיתון הטייוואני CTWANT.

החקלאי יישם את ההנחיות וריסס את השדה, אך התוצאות היו הרסניות: בתוך 24 שעות בלבד נבל היבול כולו. "אם תרסס את זה, למחרת השתילים לא ישרדו. גם הדשא וגם השתילים ימותו, והשתילים ימותו אפילו מהר יותר", שחזר וו. בבירור נוסף שערך מול הצ'אטבוט לאחר האסון, הודתה המערכת כי אחד החומרים הכימיים שהמליצה עליהם הוא שהוביל להרס השדה.

המקרה המדאיג מצטרף לשורת אזהרות של מומחים מפני הסתמכות עיוורת על מערכות בינה מלאכותית בתחומים מקצועיים ורגישים. מחקר שנערך באפריל האחרון במכון לונדקוויסט לחדשנות ביו-רפואית (Harbor-UCLA) בחן תשובות של חמישה צ'אטבוטים מובילים (בהם Gemini, ChatGPT, Meta AI, Grok ו-DeepSeek) בנושאים רפואיים מורכבים כמו סרטן, חיסונים ותאי גזע. ממצאי המחקר העלו כי כמעט מחצית מהתשובות שניתנו בנוגע לטיפולים במחלת הסרטן דורגו כ"בעייתיות" על ידי מומחים, ואף נטענו ככאלו שעלולות לסכן חיים.