הבונקר הגרעיני של מפתחי ChatGPT: האם הם חוששים מאסון עולמי?

האם הפחד מבינה מלאכותית חזקה מדי כבר עבר את גבול הדמיון המדעי? חשיפה חדשה מתוך ספר שעתיד להתפרסם בקרוב, "Empire of AI" (-אימפריית הבינה המלאכותית), שופכת אור על דרמה פנימית חסרת תקדים ב־OpenAI — כולל הצעה להקים בונקר מוגן לצוות הפיתוח של ChatGPT.

על פי הספר שכתבה העיתונאית קרן האו (לשעבר וול סטריט ג'ורנל) ופורסם בטיימס ההודי, איליה סוצקבר, מדען ישראלי - קנדי, ממייסדי OpenAI ומי שנחשב למוח המדעי מאחורי ChatGPT, אמר לצוות החוקרים ב־2023: "אנחנו בהחלט נבנה בונקר לפני שנשחרר את ה־AGI (בינה מלאכותית כללית)".

למרות שהוסיף כי "הכניסה לבונקר תהיה אופציונלית", מדובר בעדות מפתיעה לרמות החשש שהגיעו בתוך החברה לנוכח ההתקדמות המהירה של הבינה המלאכותית.

סוצקבר, שפיתח את מערכת AlexNet יחד עם חלוץ ה־AI ג'פרי הינטון, האמין כי פיתוח AGI יהפוך את הטכנולוגיה הזו למושא חמדן עבור ממשלות מרחבי העולם – ומכאן הצורך בהגנה פיזית ממשית.

סם אלטמןצילום: shutterstock

אחת הסיבות המרכזיות למתח: סוצקבר ואחרים חששו כי המנכ"ל סם אלטמן מעדיף רווחים על פני בטיחות, במיוחד לאחר ההצלחה האדירה של ChatGPT שהביאה ל"מירוץ זהב" של מימון והפכה את OpenAI לשם חם בשוק ההשקעות. "יש קבוצה — ואיליה ביניהם — שמאמינה שפיתוח AGI יביא למעין חזון של גאולה אפוקליפטית", אמר אחד החוקרים.

התפיסה הזו הובילה את סוצקבר להשתתף בניסיון להדיח את אלטמן מההנהלה — מהלך שכשל תוך פחות משבוע והסתיים בחזרתו המהירה של סם אלטמן לתפקיד ובפרישתו של סוצקבר.
המקרה, המכונה כעת על ידי עובדי החברה בשם "The Blip", סיים בפועל את שליטתו של מחנה "הבטיחות" ב־OpenAI.

לאחר עזיבתו, סוצקבר הקים את Safe Superintelligence Inc., חברה חדשה שמתמקדת אך ורק בפיתוח בינה מלאכותית בטוחה.

הוא לא התייחס בפומבי לרעיון הבונקר, אך חברים לשעבר לצוות טוענים כי חששותיו עדיין מהדהדים בתעשייה.

הוויכוח לגבי מועד הגעת AGI נמשך: אלטמן סבור כי ניתן להגיע אליה כבר עם הטכנולוגיה הקיימת, בעוד מנכ"ל Microsoft AI מוסטפא סולימאן טוען שזה ייקח עוד עשור לפחות.
בינתיים, בגוגל וב־DeepMind מעריכים שה־AGI תגיע לקראת שנת 2030.

ג'פרי הינטון מסכם: "AGI היא מטרה משמעותית — אך עדיין לא מוגדרת באופן חד משמעי".

למרות הפערים, התפיסה הרווחת בקרב בכירי התחום היא שבינה מלאכותית כללית אינה שאלה של 'אם' אלא של 'מתי'.

מה זה AGI?

בינה מלאכותית כללית (AGI) היא השלב הבא בהתפתחות הבינה המלאכותית – מערכת מתקדמת שתוכל להבין, ללמוד ולבצע כל משימה אינטלקטואלית שבני אדם מסוגלים לה, ולא רק משימות מוגדרות מראש כמו בתוכנות הקיימות כיום.

בניגוד ל־'AI צרה', המוכרת לנו כיום ומצטיינת בתחומים נקודתיים כמו תרגום, זיהוי תמונות או שיחות, AGI מבטיחה יכולת הסתגלות רחבה, חשיבה יצירתית ופתרון בעיות במגוון תחומים – בדומה למוח אנושי.

מדובר בחזון מהפכני שעדיין רחוק מהגשמה מלאה, אך הוא מעורר עניין, תקווה וגם דאגה, כשהשאלות סביבו נוגעות לא רק לטכנולוגיה, אלא גם לאתיקה, אחריות ועתיד האנושות.