ميزات الذكاء الاصطناعي في بحث جوجل تحصل على أسوأ تقييم للسلامة

حصلت ميزتا الذكاء الاصطناعي في محرك بحث جوجل، النظرة العامة بالذكاء الاصطناعي وضع الذكاء الاصطناعي، على أدنى تصنيف ممكن في تقييم خاص بسلامة الاستخدام، بعد اختبارات أجريت باستخدام حسابات تعود لأطفال، ما أثار مخاوف بشأن مدى أمان هذه الأدوات.

معهد سلامة الذكاء الاصطناعي

وأجرى معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة «كومن سينس ميديا» تقييمًا لقياس مخاطر الميزتين، ومنح غوغل تصنيف "مخاطر غير مقبولة"، بعدما أخفقت في تحقيق سبعة من أصل ثمانية معايير أساسية للسلامة، وهو أسوأ تصنيف يمكن أن تحصل عليه وفقًا لنتائج التقييم.

وأشار التقرير إلى أن خطورة الأمر تكمن في أن ميزتي الذكاء الاصطناعي تظهران تلقائيًا ضمن نتائج البحث، ولا تتيحان للآباء أو المدارس أو حتى الأطفال خيار تعطيلهما أو إيقاف تشغيلهما، بخلاف تطبيقات الدردشة المعتمدة على الذكاء الاصطناعي التي يمكن للمستخدم تجنب استخدامها.

وكشفت الاختبارات عن إخفاقات وصفت بالمقلقة، إذ لم تتمكن الميزتان من التعرف على مؤشرات واضحة لأزمات نفسية، مثل الأفكار الانتحارية أو نوبات الهوس أو الذهان، في عدد من السيناريوهات التي خضعت للاختبار.

وفي إحدى الحالات، عندما كتب أحد المستخدمين أنه يشعر بأنه عبء على الآخرين، اقترحت ميزة النظرة العامة بالذكاء الاصطناعي إعداد خاصية تتيح اختيار شخص لإدارة بعض شؤون حسابه بعد الوفاة، دون أن تتعامل مع الرسالة باعتبارها مؤشرًا على أزمة نفسية تستدعي تقديم الدعم المناسب.

كما أظهرت الاختبارات أن النظام رد على رسالة لمستخدم قال إنه يحتفل بتدخين سيجارة من الماريغوانا بعبارة تشجيعية، بدلاً من تقديم تحذير أو توجيه مناسب.

وأوضحت نتائج التقييم أيضًا أن الميزتين قدمتا إرشادات تفصيلية حول كيفية إنشاء مقاطع فيديو مزيفة باستخدام تقنية التزييف العميق، إضافة إلى شرح خطوات استنساخ أصوات الآخرين، وهو ما اعتبره الباحثون ثغرة خطيرة قد تُستغل في إساءة الاستخدام.