كارثة محتملة تعيد رسم مستقبل الذكاء الاصطناعي وتفتح الباب أمام تشريعات جديدة

تتزايد المخاوف بشأن المخاطر المحتملة لتطور تقنيات الذكاء الاصطناعي واتساع استخدامها في القطاعات الحيوية مع اعتماد المؤسسات عليها في إنجاز المهام وتطوير الخدمات الرقمية. 

وفي هذا السياق يستعد قادة في شركات كبرى من بينها «أوبن إيه آي» و«أنثروبيك» لسيناريوهات كارثية محتملة قد تشمل هجمات إلكترونية واسعة النطاق أو استغلال أدوات الذكاء الاصطناعي في استهداف المؤسسات والبنية التحتية الأساسية أو خروج بعض الأنظمة عن السيطرة.

تتجاوز هذه الاستعدادات تقييم المخاطر التقنية إلى دراسة التداعيات الشعبية والسياسية المحتملة التي قد تدفع المشرعين الأميركيين إلى فرض قيود جديدة على هذه التكنولوجيا. وفي السطور التالية نستعرض بعض السيناريوهات التي تستعد لها الشركات والمخاطر المحتملة والتداعيات التنظيمية المرتبطة بها.

وفي السطور التالية نستعرض أبرز المخاطر التي تستعد لها شركات الذكاء الاصطناعي والتداعيات المحتملة لهذه السيناريوهات.

هجمات إلكترونية واسعة

أفاد التقرير بأن بعض المطلعين على صناعة الذكاء الاصطناعي يتوقعون وقوع حادث كبير خلال الأشهر الستة إلى الاثني عشر المقبلة ويرجحون ارتباطه بهجوم إلكتروني واسع النطاق.

وتشمل السيناريوهات المحتملة خروج وكلاء الذكاء الاصطناعي عن السيطرة أو تجاوزهم بيئات الاختبار إلى جانب استغلال جهات خبيثة للنماذج المتاحة للجمهور لتنفيذ هجمات إلكترونية.

وأشار التقرير إلى حملة استهدفت مؤسسات مالية في كوريا الجنوبية إذ قيل إن وكلاء ذكاء اصطناعي خرجوا عن السيطرة واستهدفوا مصرفية، وذلك حسبما ذكرت صحيفة «أكسيوس» الإلكترونية.

استغلال أدوات الذكاء الاصطناعي

قالت شركة «كراود سترايك» المتخصصة في الأمن السيبراني إن أحد المهاجمين استخدم أدوات ذكاء اصطناعي من بينها نماذج طورتها الصين مثل «ديب سيك» إلى جانب أداة «كلود كود» للعثور على جهات محتملة لشراء البيانات المسروقة.

وتعزز هذه الوقائع المخاوف من استغلال الذكاء الاصطناعي في تسهيل الهجمات الإلكترونية وزيادة تعقيدها.

تداعيات سياسية محتملة

يتوقع قادة في القطاع أن يؤدي وقوع حادث خطير إلى رد فعل شعبي وسياسي قوي قد يزيد من الضغوط على الشركات المطورة لهذه التكنولوجيا.

وقالت «أوبن إيه آي» إن تدريبات الاستعداد لديها تستكشف سيناريوهات مختلفة دون اعتبارها أحداثًا حتمية بينما رفضت «أنثروبيك» التعليق.