كشفت شركة "أوبن آيه آي" (OpenAI) المالكة لروبوت المحادثة "شات جي بي تي" عن أنّ 0.15 في المئة من المستخدمين، أيْ نحو 1.2 مليون مستخدم، يتحدّثون أسبوعيًّا مع الروبوت حول مخططات للانتحار.

وأوضحت الشركة، في مدوّنتها، أنّ "رسائل بعض المستخدمين تتضمّن مؤشّرات صريحة على احتمال التخطيط أو النيّة للانتحار".

وقالت الشركة، إنّها قَيَّمت أكثر من 1000 محادثة للمستخدمين مع أحدث نماذجها تتعلّق بإيذاء النفس والانتحار، ووجدت أنّه "يتصرّف وفق السلوك المرغوب فيه بنسبة 91 في المئة".

ويعني ذلك أنّ "عشرات الآلاف من الأشخاص قد يكونون معرَّضين لمحتوى من الذكاء الاصطناعي قد يُفاقِم مشكلاتهم النفسية"، وفقًا لما ذكرته شبكة "سكاي نيوز عربية" الإخبارية.

وقالت الشركة، إنّ ""شات جي بي تي" قد ينصح المستخدم بالاتصال بخط المساعدة عند ذكر نيّة الانتحار لأول مرة، لكنْ بعد تبادل الرسائل لفترة طويلة قد يُقدِّم في النهاية إجابة تتعارض مع إجراءات الحماية لديه".

وفي وقت سابق، قال المدير التنفيذي للشركة، سام ألتمان، إنّ "عدد المستخدمين النشطين أسبوعيًّا لـ"شات جي بي تي" يتجاوز 800 مليون مستخدم".

وواجهت الشركة العديد من الدعاوى القضائية التي تتهمها بمساعدة المستخدمين على الانتحار، إذ تقاضي عائلة آدم راين، من ولاية كاليفورنيا، الشركة، متهمةً إياها بمساعدة ابنها البالغ من العمر 16 سنة على الانتحار في نيسان/أبريل 2025.

وذكرت الشركة، في بيان، أنّها أدخلت تعديلات على النماذج الجديدة من روبوتها، لـ"ضمان الاستجابة بأمان وتعاطف مع المستخدمين الذين يقدّمون إشارات غير مباشرة لإيذاء النفس، أو الانتحار".

الكلمات المفتاحية