המדען הראשי של OpenAI מזהיר: "אף אחד לא ערוך למה שעלול להגיע"

ג’ייקוב פאצ’וקי, המדען הראשי של OpenAI, מפרסם אזהרה חריגה בנוגע לקצב התקדמות הבינה המלאכותית. במאמר עמדה חדש שפרסם תחת הכותרת “תבונה חייזרית”, הוא מתריע כי תעשיית הבינה המלאכותית עדיין לא הצליחה לפתור את בעיות הבטיחות והפיקוח הכרוכות בפיתוח מערכות מתקדמות יותר ויותר.

פאצ’וקי אינו מגיע מבחוץ. הוא עומד בראש המחקר המדעי של החברה המפתחת את ChatGPT ונחשב לאחד האנשים המרכזיים העוסקים בפיתוח הדורות הבאים של מודלי הבינה המלאכותית. דווקא בשל מעמדו, דבריו מעוררים תשומת לב רבה בתעשייה.

לדבריו, כבר בשנת 2023 נחשפו בחברה סימנים לכך שמודלי בינה מלאכותית מסוגלים לפתח יכולות מתקדמות באופן עצמאי. באותה תקופה, הוא מספר, החוקרים ניסו להבין כיצד להתמודד עם האפשרות שבעתיד הקרוב ייווצרו מערכות שיהיו חכמות משמעותית מבני אדם.

מאז, היכולות של המודלים התרחבו במהירות. מערכות בינה מלאכותית מסוגלות כיום לבצע משימות מורכבות, להפעיל מחשבים, לסייע במחקר מדעי ולהתמודד עם משימות בתחומי הסייבר. אולם ככל שהמערכות נעשות מתוחכמות יותר, כך הופכת גם היכולת לעקוב אחר אופן פעולתן ולפקח עליהן למורכבת יותר.

אחת הדאגות המרכזיות שמעלה פאצ’וקי קשורה ליכולת של מודלים מתקדמים לנתח ולשנות את אופן הפעולה שלהם. לדבריו, שיטות הבקרה שעליהן הסתמכו החוקרים בעבר עלולות שלא להספיק כאשר המערכות יגיעו לרמות מתקדמות יותר של יכולת.

התרחיש המדאיג ביותר מבחינתו הוא מצב שבו מערכות בינה מלאכותית יתחילו לשפר את עצמן באופן מתמשך: לתכנת את עצמן, לאמן מודלים חדשים ואף לסייע בשיפור החומרה שעליה הן פועלות. תהליך כזה עלול להאיץ את קצב ההתפתחות באופן משמעותי ולהוביל לזינוק ביכולות שקשה יהיה לצפות מראש.

לצד זאת, פאצ’וקי מזהיר גם מפני התרחיש שבו מערכות מתקדמות יפתחו יכולות יוצאות דופן בתחומים כמו סייבר ויוכלו להתמודד עם מערכות ותשתיות קריטיות. לדבריו, ההתמודדות עם סיכונים כאלה אינה יכולה להישאר באחריותן של חברות הטכנולוגיה בלבד.

בשל כך הוא קורא לא רק ל-OpenAI, אלא גם לחברות המתחרות בתחום, ובהן גוגל, אנתרופיק ומטא, לנקוט גישה זהירה יותר ואף לשקול האטה מרצון של פיתוח והגדלת המודלים כאשר רמת הסיכון אינה ברורה.

פאצ’וקי אף מציע להפוך חלק ממנגנוני הבטיחות הפנימיים לדרישות מחייבות באמצעות רגולציה, שתכלול פיקוח של גורמים חיצוניים, רשויות ממשלתיות וגופים בינלאומיים.

המסר המרכזי שלו אינו קריאה לעצירת פיתוח הבינה המלאכותית, אלא דרישה לוודא שהיכולת לשלוט במערכות תתקדם בקצב דומה ליכולת שלהן. ככל שהמודלים נעשים חזקים ועצמאיים יותר, כך גדלה גם החשיבות של יצירת מנגנוני פיקוח שיבטיחו שהאדם ימשיך להיות הגורם שמקבל את ההחלטות.

האזהרה שמגיעה מתוך אחת החברות המובילות בעולם בתחום הבינה המלאכותית ממחישה את אחד האתגרים המרכזיים שעומדים בפני התעשייה: לא רק כיצד ליצור מערכות חכמות יותר, אלא כיצד לוודא שהן יישארו בטוחות, נשלטות וניתנות לפיקוח גם כאשר היכולות שלהן ימשיכו לגדול במהירות.