خطأ فادح للذكاء الاصطناعي.. كيف خلط بين "دوريتوس" وسلاح ناري في مدرسة أمريكية؟

في واقعة أثارت جدلاً واسعاً حول موثوقية أنظمة الذكاء الاصطناعي في الأمن، شهدت مدرسة ثانوية بولاية ماريلاند الأميركية حادثة غير مألوفة بعدما أخطأ نظام مراقبة ذكي في التعرف على كيس رقائق "دوريتوس"، معتقدًا أنه سلاح ناري.

ووفق تقرير لشبكة CNN، تم توقيف الطالب تاكي ألين من مدرسة كينوود الثانوية في مقاطعة بالتيمور، بعدما صنف النظام الأمني الكيس الذي كان يحمله كـ"تهديد محتمل"، ما دفع عناصر الأمن إلى تقييده بالأصفاد قبل أن يتبين لاحقاً أن الإنذار كان خاطئاً.

وقال ألين في تصريحات لقناة WBAL المحلية: "كنت فقط أمسك بكيس دوريتوس، ويدي على الكيس، فقالوا إنه يبدو كسلاح، بعدها جعلوني أركع وأضع يدي خلف ظهري وقيدوني".

وفي رسالة وجهتها إدارة المدرسة لأولياء الأمور، أوضحت المديرة كاتي سميث أن فريق الأمن راجع الإنذار وألغاه لاحقاً، لكنها لم تكن على علم بذلك في تلك اللحظة، ما دفعها إلى إبلاغ ضابط الأمن المدرسي الذي استدعى الشرطة المحلية على الفور.

من جانبها، أعربت شركة Omnilert، المطوّرة لنظام الكشف عن الأسلحة بالذكاء الاصطناعي، عن أسفها لما حدث، مؤكدة في بيان رسمي: "نأسف لوقوع هذا الحادث ونتفهم القلق الذي تسبب به للطالب والمجتمع المدرسي"، مشيرة إلى أن النظام عمل وفق الإجراءات المحددة رغم النتيجة الخاطئة.

وتعيد هذه الحادثة تسليط الضوء على الجانب المظلم من الاعتماد المفرط على الذكاء الاصطناعي في المجالات الأمنية، خصوصاً في المدارس، حيث يمكن لأي خطأ تقني أن يتحول في لحظات إلى موقف خطير يهدد سلامة الطلاب ويثير تساؤلات حول حدود تدخل الآلة في قرارات بشرية حساسة.