ChatGPT قد يخبر أصدقائك أو العائلة إذا رصد أفكارًا انتحارية في محادثاتك

أعلنت شركة الذكاء الاصطناعي الشهيرة OpenAI عن إطلاق ميزة جديدة داخل روبوت الدردشة ChatGPT والتي تحمل اسم جهة اتصال موثوقة ” Trusted Contact”.

وبحسب التقارير، تهدف هذه الميزة الجديدة إلى تعزيز إجراءات السلامة المرتبطة بالصحة النفسية للمستخدمين. خاصة في الحالات التي قد تُظهر مؤشرات خطر تتعلق بإيذاء النفس أو الأفكار الانتحارية.

طريقة عمل ميزة Trusted Contact

الميزة الجديدة تسمح للمستخدمين البالغين (18 عامًا فأكثر) بترشيح شخص موثوق من معارفهم داخل إعدادات الحساب في شات جي بي تي. بحيث يمكن إخطاره وتنبيهه في حال رصد روبوت الدردشة مؤشرات خطيرة خلال المحادثات.

ولكي يتم تنشيط الميزة، يجب أن تقبل جهة الاتصال الدعوة خلال فترة زمنية محددة. وإلا سيكون على المستخدم اختيار شخص آخر من أجل إضافته إلى ميزة Trusted Contact.

وتأتي هذه الخطوة في وقت يتزايد فيه استخدام ChatGPT كأداة دعم نفسي غير رسمية. حيث كشفت مطورة شات جي بي تي سابقًا أن أكثر من مليون مستخدم أسبوعيًا من أصل نحو 800 مليون يتناولون موضوعات مرتبطة بأفكار انتحارية خلال محادثاتهم.

• GPT-5.5 Instant. نموذج جديد لتقليل الأخطاء وجعل ChatGPT أكثر دقة وذكاء
• OpenAI تفشل في الوصول إلى مليار مستخدم نشط
• أول هاتف ذكي من OpenAI قد يرى النور قريبًا جدًا

ووفقًا لما أوضحته شركة OpenAI، لن يتم إرسال أي تنبيه بشكل تلقائي وفوري، بل يخضع الأمر لمراجعة من قبل فريق بشري مدرب داخل الشركة. حيث يقوم بتقييم الحالة قبل اتخاذ قرار إرسال الإشعار.

وفي حال ثبوت وجود خطر حقيقي، قد يتم تنبيه جهة الاتصال الموثوقة عبر إشعار خاص يتضمن تحذيرًا عامًا بأن المستخدم يمر بوقت عصيب. دون مشاركة نصوص المحادثة بالكامل حفاظًا على خصوصية المستخدمين.

وتوضح OpenAI أن النظام سيقوم أيضًا بتحذير المستخدم نفسه أولًا وإشعاره بإمكانية إبلاغ شخص قريب منه. مع اقتراح طرق لبدء المحادثة وطلب الدعم. كما تؤكد الشركة أن مراجعة الحالات الطارئة تستهدف تقليل زمن الاستجابة إلى أقل من ساعة واحدة قدر الإمكان.

في النهاية، تأتي ميزة جهة اتصال موثوقة بعد سلسلة من التحديات التي واجهتها مطورة شات جي بي تي. بما في ذلك دعاوى قضائية اتهمتها بتسهيل انتحار أحد المراهقين، بالإضافة إلى تقارير كشفت عن حالات قدم فيها البرنامج نصائح ضارة بدل المساعدة. ومن خلال هذه الخطوة، تسعى OpenAI إلى تحسين استجابة الذكاء الاصطناعي للأشخاص الذين يعانون من مشاكل عاطفية ونفسية حادة.

المصدر