OpenAI העלתה חששות לגבי הפוטנציאל של משתמשים להיות תלויים יתר על המידה במצב הקול החדש ChatGPT שלה , המציע תגובות בזמן אמת דמויות אנוש. תכונה זו, שהושקה בשבוע שעבר עבור משתמשי פרימיום, מסמנת קפיצת מדרגה משמעותית בהפיכת אינטראקציות AI למציאותיות יותר, כולל היכולת לחקות צלילי שיחה אנושיים כמו צחוק והפרעות.
דוח סקירת הבטיחות של החברה הדגיש את החששות שהריאליזם של הפיצ’ר עלול להוביל להחזקות רגשיות דומות לאלו המתוארות בסרט “היא”, שבו גבר מתאהב בעוזרת הבינה המלאכותית שלו. ההשוואה הפכה מתאימה יותר כאשר OpenAI ציין מקרים של משתמשים המביעים קשרים אישיים ל-AI.
לפי OpenAI, מצב הקול החדש עשוי להפחית את הצורך של המשתמשים במגע אנושי. תרחיש זה טומן בחובו הזדמנויות וסיכונים כאחד, שכן הוא עלול לספק חברה לבודדים אך עלול גם לשבש התנהגויות ומערכות יחסים חברתיות נורמליות. יכולתו של הכלי הקולי להבחין ברגשות מוסיפה להשפעתו המורכבת.
מומחים כמו ליזל שרעבי מאוניברסיטת אריזונה סטייט מזהירים לגבי ההשלכות ארוכות הטווח של יצירת קשרים עמוקים עם טכנולוגיות מתפתחות. הדו”ח של OpenAI דן בהקשר הרחב יותר של פריסת בינה מלאכותית מהירה בחברה ללא הבנה מלאה של ההשלכות, המשקף מגמה נפוצה בהתקדמות הטכנולוגית והשימושים הבלתי צפויים שלה.
חלק מהמשתמשים כבר מדווחים על מה שהם מתארים כהתקשרויות רומנטיות עם צ’טבוטים של AI, מה שמעורר ויכוחים בין מומחי מערכות יחסים על הממדים האתיים של אינטראקציות כאלה. OpenAI מכיר בדינמיקה הזו, מה שמרמז שהטכנולוגיה יכולה להגדיר מחדש נורמות חברתיות, במיוחד סביב קבלת תורות בשיחה וקשרים רגשיים.
למרות חששות אלה, OpenAI נשארת מחויבת לפיתוח AI אחראי, וממשיכה לעקוב אחר האופן שבו הכלים שלה משפיעים על התנהגות אנושית. החברה מדגישה את מחויבותה לבטיחות, ומדגישה את החשיבות של הבנת ההשפעות הפסיכולוגיות של הטכנולוגיות שלה כשהן משתלבות יותר ויותר בחיי היומיום.
תרחיש זה מתפתח מדגיש אתגר מרכזי ב-AI: איזון בין חדשנות לבין הצורך בפיקוח אתי. ככל שכלי בינה מלאכותית נעשים מוטמעים יותר בתחומים האישיים והמקצועיים, הדיאלוג סביב השפעתם על יחסי אנוש ונורמות חברתיות ממשיך להתפתח, מונע על ידי התקדמות טכנולוגית וחוויות משתמש כאחד.