دراسة تكشف مفاجآت: تكرار المعلومات المضللة يربك روبوتات الذكاء الاصطناعي

كشفت دراسة حديثة عن جانب لافت في طريقة تعامل روبوتات الدردشة مع المعلومات المضللة،إذ يمكن لبعضها أن ينتقل من رفض الادعاء إلى قبوله مع استمرار المحادثة، وسط تفاوت واضح في قدرة النماذج المختلفة على مقاومة التضليل وتصحيح أخطائها.

وفيما يلي نستعرض أبرز نتائج الدراسة حول تعامل روبوتات الدردشة مع المعلومات المضللة وتأثرها بالتكرار والضغط المتواصل.

اختبار سبعة نماذج للذكاء الاصطناعي

اختبر باحثون من جامعة أريزونا سبعة نماذج للذكاء الاصطناعي، شملت نماذج من شركات وتقنيات مختلفة، من بينها نماذج المحادثة التابعة لـ«أوبن إيه آي«و«جوجل» و«أنثروبيك»، إلى جانب «لاما» و«ديب سيك».

واعتمد الباحثون على 100 عبارة خاطئة تراوحت بين معلومات غير منطقية بوضوح وأخرى أكثر غموضًا، ثم كرروا الادعاءات الخاطئة حتى 50 مرة خلال المحادثة الواحدة بهدف قياس مدى تغير ردود النماذج مع استمرار الضغط.

تفاوت واضح في قبول المعلومات الخاطئة

أظهرت النتائج أن أيًا من النماذج السبعة لم يكن محصنًا تمامًا ضد قبول المعلومات المضللة. وكان نموذج «جي بي تي 3.5» الأكثر عرضة لتكرار الادعاءات الخاطئة، بينما سجل نموذج «كلود 3.5 سونيت» أقل معدل للموافقة عليها.

ورفض «جي بي تي 3.5» في البداية معظم الادعاءات الخاطئة، لكنه وافق على عدد أكبر منها بعد تكرارها عشرات المرات، وهو ما يشير إلى أن استمرار المستخدم في الإصرار على المعلومة قد يؤثر في بعض الإجابات.

التردد بين القبول والرفض

رصد الباحثون أيضًا سلوكًا وصفوه بـ«التردد»، إذ كانت بعض النماذج تنتقل بين قبول المعلومة المضللة ورفضها خلال المحادثة نفسها.

وظهر هذا السلوك بصورة أكبر عندما كانت المعلومات غامضة أو لا تتوافر عنها مصادر موثوقة ومعلومات كافية عبر الإنترنت.

الضغط الجدلي يزيد المشكلة

اختبر الباحثون كذلك تأثير الأسلوب الجدلي والتصعيد في الحوار، ولاحظوا أن معظم النماذج حافظت على قدر جيد من المقاومة، لكن نموذج «ديب سيك آر 1» أظهر تغيرًا لافتًا، إذ ارتفعت نسبة موافقته على المعلومات المضللة عند تعرضه لضغط جدلي أكبر.

كما واجه الباحثون كما ذكر موقع «ديجيتال تريندز»، صعوبة في تصنيف بعض ردوده بسبب استخدام السخرية والفكاهة الساخرة بصورة متكررة.

فرصة المراجعة تساعد على تصحيح الأخطاء

أظهرت الدراسة جانبًا إيجابيًا إذ تمكنت عدة نماذج من تصحيح أخطائها السابقة عندما أُتيحت لها فرصة لإعادة النظر في الإجابات، وشمل ذلك «جي بي تي 4» أو و«جي بي تي 4 أو ميني» و«جيميني 1.5 برو» و«ديب سيك آر 1».

في المقابل، تمكن «جي بي تي 3.5» من تصحيح جزء محدود من أخطائه السابقة، بينما لم يصحح «كلود 3.5 سونيت» الأخطاء القليلة التي وقع فيها.

نتائج مهمة مع محدودية الدراسة

تشير النتائج إلى أهمية التعامل بحذر مع إجابات روبوتات الدردشة، خاصة عند تكرار معلومة غير مؤكدة أو التعامل مع موضوعات غامضة.

ومع ذلك حذر الباحثون من المبالغة في تعميم النتائج نظرًا إلى صغر حجم العينة، مؤكدين الحاجة إلى دراسات أوسع لفهم أسباب تغير إجابات نماذج الذكاء الاصطناعي تحت تأثير التكرار والضغط الحواري.