شات جي بي تي يرسل إشعارات للمقربين خلال الأزمات النفسية

أعلنت شركة “أوبن إيه آي” أخيراً عن إدخال ميزة جديدة تتعلق بالأمان في تطبيق “شات جي بي تي”، تهدف إلى تعزيز الدعم النفسي خلال الأزمات. تأتي هذه الخطوة في إطار استجابة الشركة للمخاوف المتزايدة حول تأثير تقنيات الذكاء الاصطناعي على المستخدمين، خاصة في السياقات التي تتطلب عناية خاصة للصحة النفسية.

يتعلق الابتكار الجديد بميزة “جهة الاتصال الموثوقة”، حيث يمكن للمستخدمين اختيار فرد موثوق، سواء كان صديقاً أو أحد أفراد العائلة، ليتم إعلامه في حال رصد المحادثات مع التطبيق علامات تدل على تفكير في إيذاء النفس أو حتى الانتحار. هذه المبادرة تنبع من القلق المتصاعد حول تأثير استخدام أدوات الذكاء الاصطناعي، التي يُخشى أن تسهم في تفاقم الاضطرابات النفسية لدى بعض الأفراد.

في تقرير سابق، كشفت “أوبن إيه آي” أن حوالي 0.07% من المستخدمين المنتظمين الذين يتجاوز عددهم 900 مليون، أظهروا علامات تدل على حالات طوارئ نفسية مثل الهوس أو الذهان. يُعادل هذا الرقم أكثر من نصف مليون شخص، بينما أفاد 0.15% من المستخدمين بأنهم يواجهون مخاطر تتعلق بالإيذاء الذاتي أو الفكر الانتحاري، مما يعكس تحدي كبير تحاول الشركة مواجهته من خلال هذه الميزة الجديدة.

تعتمد خاصية “جهة الاتصال الموثوقة” على أنظمة مراقبة متقدمة في “شات جي بي تي”، تعمل على تحديد الأنماط والسلوكيات التي تشير إلى وجود خطر محتمل على سلامة المستخدم. في حال اكتشاف مؤشرات قد تدل على crisis نفسية، يتم مراجعة سجل المحادثات من قبل فريق من المختصين، لتقييم الحالة والتأكد مما إذا كان يجب إبلاغ “جهة الاتصال الموثوقة” للتدخل.

تتوسع هذه الميزة لتشمل أيضاً تقديم معلومات حول خطوط المساعدة المحلية للمستخدمين الذين قد يمرون بأزمات نفسية، مما يعكس التزام “أوبن إيه آي” بتوفير بيئة آمنة ومحافظة على صحة المستخدمين النفسية أثناء استخدام منتجاتها.