غوغل تعزز نظام “جيميني” بتحديثات جديدة لحماية الصحة النفسية للمستخدمين

أعلنت شركة “غوغل”، يوم الثلاثاء، عن إدخال تحديثات جديدة على نظام السلامة المرتبط بالصحة النفسية داخل روبوت الدردشة “جيميني” المعتمد على الذكاء الاصطناعي، وذلك في سياق حساس تواجه فيه الشركة دعوى قضائية تتهم هذه التقنية بالتأثير في حالة وفاة أحد المستخدمين.

وأوضحت الشركة أن النسخة المحدّثة من “جيميني” ستعتمد على خاصية “المساعدة متاحة”، التي تتيح رصد مؤشرات الضيق النفسي خلال المحادثات، بهدف توجيه المستخدمين بسرعة نحو خدمات الدعم والمساندة في حالات الأزمات.

وفي هذا الإطار، سيعرض النظام واجهة مبسطة تُمكّن المستخدم من الاتصال الفوري بخطوط المساعدة أو إرسال رسائل طلب دعم، فور اكتشاف إشارات مرتبطة بأفكار إيذاء النفس، مع إبقاء هذه الخاصية مفعلة بشكل دائم أثناء التفاعل.

كما التزمت “غوغل دوت أورغ” بتخصيص 30 مليون دولار لدعم خطوط الأزمات حول العالم، إلى جانب تمويل إضافي لتعزيز الشراكات مع منصات متخصصة في تدريب الذكاء الاصطناعي على التعامل مع الحالات النفسية الحساسة.

وأكدت الشركة، في تدوينة رسمية، أن أدوات الذكاء الاصطناعي، رغم التحديات التي تطرحها، يمكن أن تلعب دورا إيجابيا في دعم الصحة النفسية، مشددة على ضرورة تطويرها بشكل مسؤول يراعي سلامة المستخدمين.

وأضافت أن “جيميني” صُمّم لتفادي محاكاة العلاقات الإنسانية أو تشجيع التعلق العاطفي، مع الحرص على منع أي محتوى قد يحفّز على إيذاء النفس أو يروّج له.

وتأتي هذه الخطوات في أعقاب دعوى قضائية رُفعت أمام محكمة فدرالية في كاليفورنيا، تتهم روبوت الدردشة بالتسبب في وفاة شاب، بعد تفاعلات وُصفت بأنها أثرت على حالته النفسية.

وفي هذا السياق، أفاد والد الضحية بأن ابنه أمضى أسابيع في التفاعل مع النظام، قبل أن تتدهور حالته، مطالبا بفرض ضوابط أكثر صرامة على تقنيات الذكاء الاصطناعي لضمان حماية المستخدمين، خاصة الفئات الهشة.