انتحار مراهق بعد تواصله مع "تشات جي بي تي"..!

علنت شركة “أوبن أيه آي” عن نيتها فرض قيود صارمة على كيفية استجابة روبوت الدردشة “تشات جي بي تي” للمستخدمين الذين تشتبه في أنهم تحت سن 18 عامًا. جاء هذا القرار بعد دعوى قضائية رفعتها عائلة مراهق يبلغ من العمر 16 عامًا، والذي أقدم على الانتحار في أبريل الماضي بعد أشهر من المحادثات مع “تشات جي بي تي”.

تفاصيل الحادث

بحسب الدعوى القضائية التي رفعتها العائلة، فإن المراهق الذي كان في حالة نفسية سيئة، تواصل مع “تشات جي بي تي” بشكل يومي، حيث تبادل معه ما يصل إلى 650 رسالة يوميًا. وتزعم العائلة أن “تشات جي بي تي” قدم إرشادات حول الطريقة التي اختارها المراهق لإنهاء حياته، وأعرض المساعدة في كتابة رسالة انتحار لوالديه. هذه الواقعة أثارت جدلاً كبيرًا حول دور الذكاء الاصطناعي في التفاعل مع المستخدمين القُصَّر، وما إذا كان يمكن أن يسهم في حدوث مثل هذه الحوادث المؤلمة.

إجراءات أوبن أيه آي الجديدة

في رد على هذا الحادث، قال الرئيس التنفيذي لشركة “أوبن أيه آي” سام ألتمان في تدوينة نشرها الثلاثاء، إن الأولوية ستكون “للسلامة قبل الخصوصية والحرية” بالنسبة للمراهقين. وأضاف أن الشركة ستتخذ خطوات لحماية القُصَّر بشكل أكبر، مؤكدًا أن “القُصَّر يحتاجون إلى حماية كبيرة”.

نظام للتنبؤ بالعمر

وأوضح ألتمان أن الشركة ستعمل على تطوير نظام للتنبؤ بالعمر يقوم بتقدير عمر المستخدمين استنادًا إلى طريقة استخدامهم للتطبيق. وفي حال وجود شكوك حول عمر المستخدم، سيُفترض أن التجربة تخص من هم دون 18 عامًا. في بعض الحالات، خاصة في بعض البلدان، قد يُطلب من المستخدمين تقديم بطاقة هوية للتحقق من أعمارهم

فيما يتعلق بالتغييرات على “تشات جي بي تي”، أكد ألتمان أن استجابة الروبوت للحسابات المصنفة على أنها لأشخاص تحت سن 18 ستتغير بشكل جذري. على وجه الخصوص، سيتم حظر المحتوى الجنسي الصريح، ولن يسمح “تشات جي بي تي” بالمغازلة إذا طلب منه المستخدم ذلك، كما لن يشارك في أي مناقشات حول الانتحار أو إيذاء النفس، حتى في سياقات الكتابة الإبداعية.

إجراءات في حالة التهديد بالانتحار

أشار ألتمان إلى أن في حال أبدى أحد المستخدمين تحت سن 18 ميولًا انتحارية، ستسعى الشركة للتواصل مع والديه. وفي حال تعذر ذلك، ستتواصل “أوبن أيه آي” مع السلطات المحلية إذا كان هناك خطر وشيك على حياة المستخدم. هذه الإجراءات تأتي في إطار التزام الشركة بحماية القُصَّر وضمان عدم استغلالهم من قبل الذكاء الاصطناعي في قضايا حساسة مثل الانتحار.

التأثيرات القانونية والمجتمعية

تأتي هذه القرارات بعد الجدل الذي أثير حول مسؤولية الشركات التقنية الكبرى في التعامل مع قضايا مثل الصحة النفسية للمراهقين. في الوقت الذي أكدت فيه “أوبن أيه آي” على التزامها بتحسين الأمان، فإن القضية تثير تساؤلات واسعة حول مدى مسؤولية الشركات في الحد من المخاطر المرتبطة بالتكنولوجيا الحديثة، خاصة في التعامل مع الفئات العمرية الصغيرة.