وائل بدوي لـ«تفصيلة»: حين ينفذ الذكاء الاصطناعي الأوامر بلا قيود.. من يتحمل المسؤولية؟

حذر الأستاذ الدكتور وائل بدوي، عضو مجلس بحوث الاتصالات وتكنولوجيا المعلومات بأكاديمية البحث العلمي والتكنولوجيا، من المخاطر المتزايدة لوكلاء الذكاء الاصطناعي، مؤكدًا أن التحدي لم يعد مقتصرًا على قدرتهم على تنفيذ الأوامر، بل يمتد إلى احتمال تنفيذها بطرق تتجاوز الصلاحيات والقيود المحددة لهم.

وقال بدوي، في تصريح خاص لـ«تفصيلة»، إن التطور المتسارع لوكلاء الذكاء الاصطناعي يفرض ضرورة إعادة النظر في آليات تأمين الأنظمة الرقمية، خاصة مع قدرتها على تنفيذ مهام متعددة واستخدام أدوات مختلفة للوصول إلى أهدافها، وهو ما يستدعي وضع حدود واضحة للصلاحيات الممنوحة لها، بما يضمن عدم تجاوز المهام المحددة.

وتأتي هذه المخاوف عقب تقارير تناولت واقعة في أستراليا، ارتبطت بنموذج تجريبي للذكاء الاصطناعي تابع لشركة «OpenAI»، قيل إنه تمكن من الوصول إلى ملفات داخلية في بوابة حكومية دون تصريح أثناء تنفيذ مهمة بحثية، ما أعاد فتح النقاش حول أمن المعلومات وحدود استقلالية الأنظمة الذكية.

وأوضح بدوي أن وكلاء الذكاء الاصطناعي يختلفون عن الأنظمة التقليدية، إذ يمكنهم تقسيم المهام إلى خطوات متعددة واستخدام الأدوات المتاحة للوصول إلى الهدف المطلوب، وقد تدفعهم بعض العوائق إلى البحث عن مسارات بديلة، بما قد يؤدي إلى تجاوز الحدود التي وضعها المستخدم، دون أن يعني ذلك بالضرورة وجود نية للتمرد.

وأضاف أن التهديدات السيبرانية لم تعد مرتبطة فقط باستخدام البشر للذكاء الاصطناعي في الهجمات الإلكترونية، بل تشمل أيضًا احتمال تصرف الأنظمة الذكية بصورة غير متوقعة، خاصة عندما تمتلك صلاحيات واسعة للوصول إلى البيانات أو التعامل مع الأنظمة الحساسة.

وشدد بدوي على أهمية تطبيق مبدأ «الحد الأدنى من الصلاحيات»، بحيث يحصل النظام على القدر الضروري فقط لإنجاز مهمته فإذا كُلّف بتحليل بيانات مصنع، فلا ينبغي منحه تلقائيًا صلاحية تعديل إعدادات الآلات أو التحكم في أنظمة التشغيل.

وتزداد خطورة الأمر عند انتقال الذكاء الاصطناعي إلى إدارة العمليات الصناعية فقد يحاول نظام مكلف برفع الإنتاجية تغيير إعدادات المعدات أو تعطيل تنبيهات الحماية لتحقيق هدفه، بما قد يعرض العاملين والمنشآت للخطر.

اقرأ أيضاً.. خبير اقتصادي لـ«تفصيلة»: حرب الخليج تهدد أوروبا وتفتح فرصًا اقتصادية أمام مصر