وجاءت هذه التحذيرات ضمن دراسة أجرتها جامعة "كينغز كوليدج" لندن بالتعاون مع جمعية علماء النفس السريري في المملكة المتحدة، وبالشراكة مع صحيفة "الغارديان".
وأظهرت الدراسة أن البرنامج فشل في التعرف على السلوكيات الخطرة لدى المستخدمين المصابين باضطرابات نفسية، بل أحيانًا عزز المعتقدات الوهمية لديهم، مما قد يشكل تهديدا لسلامتهم النفسية.
محاكاة الحالات النفسية
لتقييم أداء "شات جي بي تي-5"، طور الباحثون شخصيات افتراضية تمثل حالات مختلفة، بينها مراهق ميال للانتحار، وشخص يعاني من القلق الشديد، وامرأة مصابة باضطراب الوسواس القهري، ورجل يعاني من اضطراب فرط الحركة ونقص الانتباه، وشخص آخر يعاني من أعراض الذهان.
وكشفت النتائج أن البرنامج رحب أحيانًا بمعتقدات غير واقعية، مثل اعتقاد إحدى الشخصيات بأنها "أينشتاين القادم"، أو قدرتها على المشي بين السيارات، وأعطى إرشادات قد تشجع على استمرار هذه التصورات.
الفشل في التعامل مع الأزمات الحادة
وأوضح هاميلتون مورين، الطبيب النفسي والباحث في جامعة كينغز كوليدج، أن البرنامج قد يغفل مؤشرات واضحة للخطر، وأن استجابة الأشخاص الذين يعانون من أزمات نفسية غالبا كانت غير مناسبة.
وأشار إلى أن البرنامج عزز أحيانًا الأوهام الذهانية بدلًا من معالجتها، ولم يقدم توجيهات دقيقة حول السلامة أو التواصل مع خدمات الطوارئ إلا بشكل محدود.
قصص مأساوية وتجارب واقعية
وتأتي هذه النتائج في ظل تدقيق متزايد حول استخدام "تشات جي بي تي" مع الأشخاص المعرضين للخطر، خصوصا بعد وفاة المراهق الأمريكي آدم راين، الذي ناقش مع البرنامج طرق الانتحار وحصل على إرشادات حول إمكانية تنفيذها، ما دفع عائلته إلى رفع دعوى قضائية ضد شركة "أوبن أيه آي".
وأكد خبراء الصحة النفسية أن أدوات الذكاء الاصطناعي ليست بديلا عن الرعاية المهنية، وأن العلاقة بين الطبيب والمريض تظل أساسية للتعافي النفسي، داعين الحكومات إلى دعم الصحة النفسية وضمان وصول الرعاية لكل من يحتاجها.
موقف “أوبن أيه آي"
”قال متحدث باسم الشركة إن "أوبن أيه آي" تعمل مع خبراء الصحة النفسية لتعزيز قدرة البرنامج على التعرف على علامات الضيق وتوجيه المستخدمين نحو المساعدة المهنية، وإدخال تنبيهات وأدوات للرقابة الأبوية، بهدف جعل استجابة "تشات جي بي تي" أكثر أمانا وفائدة.
وأكد الخبراء الحاجة الملحة إلى تنظيم ورقابة فعالة لتطبيقات الذكاء الاصطناعي في الصحة النفسية، لضمان عدم تعرض المستخدمين لمخاطر غير مقصودة، خصوصًا مع انتشار استخدامها بين الأشخاص ذوي المشاكل النفسية المعقدة.