אנבידיה מפתיעה: מודל קולי שפועל ישירות מהמחשב

שיחות קוליות עם בינה מלאכותית עדיין מרגישות במקרים רבים איטיות ולא טבעיות, בעיקר בגלל התהליך שבו הקול מתומלל לטקסט, נשלח לענן ומוחזר כתשובה קולית.

מודל חדש בשם PersonaPlex של NVIDIA מציג גישה אחרת: עיבוד קולי ישיר בזמן אמת, שמאפשר למערכת לשמוע, להבין ולהגיב בקול בצורה זורמת ומהירה יותר.

לפי הדיווח, מדובר במודל בעל 7 מיליארד פרמטרים המבוסס על גישת Full-Duplex, כלומר הוא מסוגל לעבד את הדיבור של המשתמש ואת התגובה שלו במקביל. המודל נשען על פיתוח קוד פתוח בשם Moshi, שממיר דיבור לקודים קוליים מהירים בזמן אמת.

אחד היתרונות המרכזיים הוא האפשרות להריץ את המודל מקומית על מחשב אישי. הגרסה הרשמית דורשת כרטיס מסך חזק, אך גרסאות מותאמות מאפשרות הפעלה גם על מחשבים עם כרטיסי מסך חלשים יותר. כך השיחה נשארת פרטית ואינה נשלחת לשרתים חיצוניים.

עם זאת, PersonaPlex עדיין אינו מוצר צרכני בשל. למודל יש זיכרון קצר יחסית של כ-4 דקות, והוא עלול לאבד הקשר בשיחות ארוכות. למרות המגבלות, מדובר בהצצה מסקרנת לעתיד של עוזרים קוליים מהירים, מקומיים ופרטיים יותר.