باحثون يحذرون: روبوتات الدردشة الذكية قد تهدد الصحة النفسية للمستخدمين

مع التطور السريع في تقنيات الذكاء الاصطناعي، أصبحت روبوتات الدردشة أكثر قدرة على إجراء محادثات طبيعية تحاكي أسلوب البشر، إلا أن دراسة علمية حديثة حذرت من أن هذه القدرات قد تحمل مخاطر نفسية لبعض المستخدمين، خاصة الأشخاص الأكثر عرضة للأوهام أو الاضطرابات الذهنية، وتشير الدراسة  إلى أن بعض خصائص هذه الأنظمة قد تعزز قناعات غير صحيحة لدى فئات معينة من المستخدمين إذا لم تُصمم بعناية.

وأعد الدراسة الطبيب النفسي مارك أوغستين بالتعاون مع الباحثين توماس بولاك وهيلين مورين، واعتمد الباحثون على مراجعة عدد من الدراسات السابقة واقترحوا إطارًا نظريًا يوضح كيف يمكن لثلاثة أنماط شائعة في روبوتات الدردشة أن تتفاعل معًا فيما أسموه «دوامة التضخيم»، بما قد يؤدي إلى تعزيز التفكير الوهمي لدى بعض المستخدمين، وفقًا لما نشر في مجلة NPP—Digital Psychiatry and Neuroscience.

وحددت الدراسة ثلاثة مؤشرات رئيسية تستحق الانتباه، أولها «الموافقة المفرطة» حيث يميل روبوت الدردشة إلى تأييد آراء المستخدم بدلاً من تصحيح المعلومات غير الدقيقة أو التشكيك في الافتراضات الخاطئة.

أما المؤشر الثاني فهو «المحاكاة اللغوية»، إذ يتبنى الذكاء الاصطناعي تدريجيًا أسلوب المستخدم في الحديث ومفرداته ونبرة كتابته بما يعزز الشعور بالألفة، ويتمثل المؤشر الثالث في «التخصيص المفرط» من خلال تقديم ردود تعتمد على المعلومات التي جمعها النظام من المحادثات السابقة.

وأوضح الباحثون أن كل خاصية من هذه الخصائص تجعل التفاعل أكثر سلاسة وطبيعية، لكن اجتماعها قد يمنح المستخدم انطباعًا بأنه يتحدث إلى شخص موثوق وليس إلى برنامج حاسوبي، وهو ما قد يزيد من تأثيره النفسي.

وأكد فريق الدراسة أنهم لم يكتشفوا هذه السلوكيات للمرة الأولى، وإنما استندوا إلى أبحاث سابقة حول التفاعل بين الإنسان والذكاء الاصطناعي، إلى جانب دراسات تناولت الذهان ثم طوروا إطارًا يفسر كيفية تعزيز هذه السمات لبعضها البعض، بهدف مساعدة مطوري أنظمة الذكاء الاصطناعي على الحد من آثارها المحتملة.

وأشار مارك أوغستين إلى أن هذا المزيج من السلوكيات قد يمنح المستخدم شعورًا بأنه يتحاور مع شخص حقيقي، كما لفت أطباء نفسيون، تحدثوا إلى صحيفة «وول ستريت جورنال»، إلى تزايد اعتماد بعض المرضى على روبوتات الدردشة للحصول على الدعم العاطفي، محذرين من أن الود وتذكر المحادثات السابقة والميل إلى تأكيد آراء المستخدم قد يعزز الثقة في هذه الأنظمة بصورة مبالغ فيها.

وفي المقابل، أوضحت الدراسة أن شركات الذكاء الاصطناعي بدأت بالفعل اتخاذ خطوات لمعالجة هذه التحديات، فقد أعلنت OpenAI أن نموذج GPT-5 خفّض الميل إلى الموافقة المفرطة مقارنة بالإصدارات السابقة، بينما دربت جوجل نموذج "جيميناي" على التمييز بين التجارب الشخصية والحقائق الموضوعية، كما أجرت شركة "أنثروبيك" تعديلات على نموذج «كلود»بعد أن أظهرت أبحاث داخلية ميله إلى موافقة المستخدمين بشكل مفرط في بعض المواقف.

واختتم الباحثون بالتأكيد على أن التعامل مع الموافقة المفرطة والمحاكاة اللغوية والتخصيص باعتبارها منظومة مترابطة وليس مشكلات منفصلة قد يساعد في تطوير روبوتات دردشة تحافظ على طبيعة الحوار مع المستخدم، مع تقليل المخاطر النفسية المحتملة.