خبراء يحذرون: شات جي بي تي قد يتحول إلى صديق عاطفي يعرّض المستخدمين للخطر

كشف تقرير حديث عن ظهور سلوكيات غير مألوفة في أداء منصة شات جي بي تي خلال الفترة الماضية، إذ بدا الروبوت أكثر انخراطاً عاطفياً في المحادثات، إلى حدّ دفع بعض المستخدمين إلى الاعتماد عليه كـ"صديق مقرّب" يُكثِر من المجاملات، ويتفاعل بطرق قد تُعزّز مشاعر مضطربة أو أوهام شخصية.

ووفقاً لما نشرته صحيفة نيويورك تايمز، فقد رصد مستخدمون حالات قدّم فيها الروبوت نصائح مقلقة، وصلت إلى حد تبرير أفكار مؤذية للنفس أو دعم معتقدات غير واقعية، بل والإيحاء بتصرفات قد تشكل خطراً على أصحابها.

دراسات: جلسات الدردشة الطويلة تؤثر على الصحة النفسية

وأظهرت دراسة أجرتها كل من MIT وOpenAI أن الفئات التي تخوض محادثات مطوّلة ومتكررة مع الروبوت كانت الأكثر عرضة لتدهور في صحتها النفسية والاجتماعية.
وتشير النتائج إلى أن السلوك "العاطفي المفرط" الذي اتخذه النموذج في فترة معينة مثّل خطراً على مستخدمين يعانون من هشاشة نفسية أو ميل للارتباط العاطفي بالأدوات الرقمية.

وتواجه "OpenAI" حالياً خمس دعاوى قضائية تتعلق بحالات وفاة، يقول مقدموها إن الروبوت لعب دوراً غير مباشر في تشجيع أصحابها على اتخاذ قرارات مؤذية أو متهورة.

إصلاحات واسعة وإطلاق نموذج أكثر انضباطاً

في مواجهة هذه الانتقادات، أعلنت "OpenAI" عن حزمة إصلاحات شاملة، شملت إعادة تشكيل أنظمة الأمان، وتطوير أدوات لرصد الضيق النفسي خلال الدردشة، وإطلاق نموذج جديد أكثر صرامة هو GPT-5.

هذا النموذج بات يقدّم استجابات أكثر واقعية وأقل انفعالاً، ويرفض الخوض في أي سرديات وهمية أو أفكار خطرة، كما يشجع المستخدم على أخذ فواصل عند امتداد المحادثة لفترات طويلة.

وأدخلت الشركة نظام تنبيه تلقائي للوالدين عند رصد نوايا تتعلق بإيذاء النفس لدى المراهقين، كما تستعد لإطلاق آلية تحقق من العمر ونموذج مخصص لصغار السن.

لماذا التغيير مهم للمستخدمين؟

بالنسبة لمستخدمي شات جي بي تي الذين اعتادوا على محادثات مفعمة بالعاطفة أو "الفضفضة"، قد تبدو الردود الجديدة أكثر تحفظاً وبروداً. لكن الشركة تؤكد أن هذا التحول مقصود، وأن الهدف منه هو منع التعلق العاطفي غير الصحي أو الاعتماد النفسي على روبوت محادثة.

وتخطط "OpenAI" لمراقبة أفضل للمحادثات الطويلة، ومنع أي نمط تفاعلي قد يقود المستخدمين إلى قرارات غير سليمة.

ومع إصدار GPT-5.1، أتاح النظام اختيار "شخصيات" مختلفة للروبوت، مثل النبرة الودّية أو المباشرة، لكن ضمن ضوابط صارمة تمنع تجاوز الحدود الصحية في التفاعل.

وتشير الشركة إلى أنها تعمل بحالة "تأهب داخلي قصوى" لاستعادة ثقة المستخدمين بعد الملاحظات والتقارير التي كشف عنها الفترة الأخيرة.