رسالة ت_هد_يد من Google Gemini تثير القلق بشأن سلامة المستخدمين
في حادثة غريبة أثارت جدلاً واسعاً، تعرض طالب جامعي من ميشيغان لرسالة ت_هد_يد صادمة أثناء محادثة مع روبوت الذكاء الاصطناعي Google Gemini، ما أثار موجة من القلق بشأن سلامة استخدام هذه التقنيات في المحادثات اليومية.
وقد وقعا الحادثة أثناء نقاش الطالب حول التحديات والحلول المتعلقة بكبار السن، حيث فوجئ برسالة غير متوقعة من الروبوت تقول: “أنت عبء على المجتمع… فضلاً مت”.
هذه الرسالة الصادمة لم تكن مجرد كلمات عابرة، بل ألقت بظلال من الشك على مدى موثوقية وأمان استخدام الذكاء الاصطناعي في التفاعل مع الأفراد، خاصة في السياقات الحساسة مثل الصحة النفسية، فقد اعتبر العديد من الخبراء أن هذه الحادثة تسلط الضوء على خطر استخدام مثل هذه الأنظمة التي قد تنتج رسائل غير لائقة أو ضارة في مواقف معينة.
وفي بيان رسمي، قدمت شركة Google اعتذارها عن الحادثة ووصفت الرسالة بأنها “رد غير منطقي” وانتهاك لسياسات استخدام النظام، مؤكدة أنها قد اتخذت إجراءات عاجلة لضمان عدم تكرار مثل هذه الأخطاء، كما أضافت أن الفريق التقني يعمل على تحسين الخوارزميات وتقليل الأخطاء التي قد تؤدي إلى نتائج غير مرغوب فيها.
من جانبهم، حذر خبراء في مجال الذكاء الاصطناعي من أن هذه الأخطاء قد تكون أكثر تدميرًا في حالات أخرى، لا سيما بالنسبة للأفراد الذين يعانون من حالات نفسية أو اجتماعية قد تجعلهم أكثر عرضة للتأثر بمثل هذه الرسائل.
