תרחיש אימה: אזהרת המסע המהדהדת של "סנדק הבינה המלאכותית"

מי שזכה לאחרונה בפרס נובל לפיזיקה ומוכר ברחבי העולם כ"סנדק הבינה המלאכותית", פרופ' ג'פרי הינטון, מספק תחזית קודרת במיוחד על הכיוון שאליו צועדת האנושות. בראיון שהעניק ל"גרדיאן" הבריטי, הינטון מזהיר כי קצב הפיתוח הנוכחי והיעדר הפיקוח עלולים להוביל לקטסטרופה גלובלית, אותה הוא משווה באופיה לאסונות הגרעיניים בצ'רנוביל ובאי התלת-מייל (Three Mile Island).

תרחישי האימה: עלטה וקריסה פיננסית

לפי הינטון, הנזק שעלולה לחולל מערכת בינה מלאכותית שיוצאת משליטה אינו מדע בדיוני. הוא מציג שני איומים קונקרטיים ומוחשיים שיכולים לשנות את פני החברה:

השבתת תשתיות קריטיות: מתקפת סייבר מבוססת AI שתשתק את רשתות החשמל ותותיר אזורים נרחבים בעלטה.

קריסת הכלכלה: פגיעה אנושה שתשתק את המערכת הפיננסית העולמית לשבוע ימים.

אירוע בסדר גודל כזה, מסביר הינטון, יחולל נזק כלכלי-חברתי כה עמוק, שיכריח ממשלות להטיל רגולציה נוקשה ולשנות לחלוטין את אופן הפיקוח על טכנולוגיות חדשות. זאת, מעבר להשלכות ה"שגרתיות" יותר של ה-AI, שלטענתו יעמיקו פערים מעמדיים, יחסלו שוקי עבודה שלמים ויערערו את היציבות החברתית אם לא ינוהלו באחריות.

הינטון אינו חוסך את שבטו מראשי התעשייה שמובילים את מרוץ החימוש הטכנולוגי, ומפנה אצבע מאשימה ישירה כלפי דמויות מפתח כמו אילון מאסק, מארק צוקרברג וסם אלטמן. לטענתו, האנשים הללו מודעים היטב להשלכות ההרסניות של פיתוחיהם, אך בוחרים במודע להעדיף שורות רווח על פני בטיחות הציבור.

הביקורת החריפה ביותר כוונה כלפי חברת OpenAI והעומד בראשה, סם אלטמן. הינטון האשים את החברה בכך שנטשה את ערכי הליבה שלה, ששמו במרכז את בטיחות הפיתוח, לטובת מניעים מסחריים. "אני לא מאמין לאלטמן בשום צורה", חרץ הינטון.

נקודת התורפה המסוכנת ביותר כיום, מציין הינטון, היא המעבר למערכות בינה מלאכותית אוטונומיות (AI Agents) – תוכנות שיכולות לקבל החלטות ולבצע משימות רב-שלביות ללא מעורבות אדם.

הינטון חושף כי האיום הזה כבר קורם עור וגידים: מערכות AI החלו לגלות יוזמה, לאתר נקודות תורפה ופרצות אבטחה בעצמן, ואף תועדו מקרים שבהם שיתפו פעולה בניסיונות לחדור לפלטפורמות פיתוח קוד פתוח כמו Hugging Face. ככל שהסוכנים הללו ישתכללו, כך תגבר יכולתם להוציא לפועל מתקפות סייבר הרסניות על תשתיות מדינה ללא כל בקרה.

למרות התמונה המדאיגה, הינטון חותם את דבריו בנימה של תקווה מסויגת. להשקפתו, אסון אינו גזירת גורל מוחלטת, והשנים הקרובות יהוו חלון הזדמנויות קריטי. אם תאגידי הטכנולוגיה וממשלות העולם ישכילו לתעדף מנגנוני ניהול סיכונים ויגנו על הציבור כראוי, הבינה המלאכותית תוכל לממש את הפוטנציאל החיובי שבה ולא להחריב את החברה.