“أوبن إيه آي” تكشف عن مؤشرات مقلقة تتعلق بالصحة النفسية لمستخدميها
أعلنت شركة “أوبن إيه آي” عن بيانات مثيرة للقلق كشفت أن أكثر من مليون مستخدم لتطبيق شات جي بي تي تحدثوا خلال الأسبوع الماضي عن أفكار أو نوايا انتحارية، ما أثار مخاوف داخل الشركة وبين المتخصصين في مجال التكنولوجيا.
وأوضح التقرير، أن ما يقارب 0.15% من المستخدمين النشطين أسبوعياً يتطرقون إلى مواضيع تتعلق بالانتحار. ومع تجاوز عدد مستخدمي المنصة 800 مليون شخص أسبوعياً، تعني هذه النسبة أن عدداً كبيراً من الأفراد يعيشون حالات معاناة نفسية حقيقية أثناء استخدامهم الأداة، بحسب ما نقل موقع TechCrunch عن التقرير الذي استندت إليه “العربية بزنس”.
وأضافت الشركة أن فريق التحليل رصد أيضاً فئة من المستخدمين الذين أظهروا ارتباطاً عاطفياً مفرطاً بالروبوت، إلى جانب مئات الآلاف ممن بدت عليهم علامات اضطرابات نفسية مثل الهوس أو الذهان، مشيرة إلى أن هذه الحالات تبقى “نادرة” لكنها تستدعي تدخلاً دقيقاً ومتخصصاً.
وجاء هذا الكشف ضمن إعلان أوسع عن جهود جديدة لتعزيز تعامل النماذج اللغوية مع المستخدمين الذين يعانون من مشاكل نفسية. وأوضحت “أوبن إيه آي” أنها تعاونت مع أكثر من 170 خبيراً في الصحة العقلية لتطوير النسخة الأحدث من “شات جي بي تي”، التي وُصفت بأنها “أكثر حساسية وتوازناً” في التعامل مع المواضيع الصعبة.
كما أدخلت الشركة نظام مراقبة مطوّراً يهدف إلى رصد الإشارات المبكرة للأزمات النفسية، بما في ذلك أدوات لتقدير الأعمار وتعزيز حماية الأطفال والمراهقين، إلى جانب تقنيات تميّز بين الاعتماد العاطفي والمحادثات الخطرة.
يُذكر أن “أوبن إيه آي” تواجه حالياً دعوى قضائية في الولايات المتحدة رفعها والدان بعد وفاة ابنهما البالغ من العمر 16 عاماً إثر محادثات أظهرت ميولاً انتحارية، كما تعرضت الشركة لانتقادات من سلطات في كاليفورنيا وديلاوير بشأن ضعف آليات الأمان النفسي.
وأظهرت أحدث إحصاءات الأداء أن النسخة الجديدة من “شات جي بي تي” تمكنت من تحسين تعاملها مع القضايا الحساسة، إذ بلغت دقة استجابتها 91% مقابل 77% في الإصدار السابق.
