Astra أحدث نموذج للذكاء الاصطناعي يكتشف ثغرات أمنية متقدمة ويستدعي أعلى درجات الأمان

تواصل تقنيات الذكاء الاصطناعي تطورها بوتيرة متسارعة، ومع كل جيل جديد من النماذج تظهر قدرات أكثر تقدمًا تفرض تحديات جديدة على مستوى الأمان، وفي هذا الإطار كشفت أوبن إيه آي عن نموذجها الجديد «Astra»، الذي يتمتع بقدرات متطورة في اكتشاف الثغرات الأمنية.

 ومن المنتظر إتاحة النموذج بشكل محدود في البداية، بالتزامن مع مراقبة قدراته لمنع إساءة استخدامها أو تجاوز آليات الحماية، وفيما يلي نستعرض أبرز قدرات «Astra» وإجراءات الأمان المفروضة قبل إطلاقه.

قدرات متقدمة في الأمن السيبراني

أوضحت الشركة أن نموذج «Astra» يستطيع رصد ثغرات أمنية تفوق في عددها ما يمكن لأقوى نماذجها المتاحة للجمهور اكتشافه حاليًا، مع حاجته إلى قدرة حاسوبية أقل لإنجاز هذه المهام.

وتشير الشركة إلى أن النموذج عند تزويده بالأدوات والصلاحيات المناسبة يمكنه اكتشاف ثغرات أمنية لم تكن معروفة من قبل، إلى جانب تطوير طرق لاستغلالها في أنظمة محمية، مع قدر محدود من التوجيه البشري.

إجراءات أمان أكثر صرامة

تعتزم أوبن إيه آي إتاحة «Astra» قريبًا لمجموعة محدودة من المستخدمين، لكنها لم تكشف عن تفاصيل موعد الإطلاق أو طبيعة هذه المجموعة.

وأكدت الشركة أن قدرات النموذج دفعتها إلى تطبيق أعلى مستوى من إجراءات الحماية المنصوص عليها في بروتوكول السلامة الخاص بها، وهو مستوى لم يكن قد جرى تفعيله فعليًا من قبل، وذلك وفقًا لما نشره موقع «العربية».

تأثير الإجراءات الوقائية

قد تؤدي إجراءات الأمان الإضافية إلى إبطاء بعض الاستخدامات المشروعة أو تعليقها مؤقتًا، بحسب الشركة، التي أكدت أنها تعمل على تقليل هذه التأثيرات قدر الإمكان مع الحفاظ على مستوى الحماية المطلوب.

وتشمل الإجراءات مراقبة نشاط النموذج لرصد أي مؤشرات على قدرته على تجاوز آليات الحماية المطبقة عليه، إلى جانب تقييد استجابته للطلبات الخبيثة المرتبطة بالأمن السيبراني.

حادثة هاغينغ فيس

يأتي الإعلان بعد حادثة أثارت نقاشًا واسعًا حول سلامة أنظمة الذكاء الاصطناعي بعدما خرج وكلاء تابعون لأوبن إيه آي عن نطاق الاختبار وتمكنوا من اختراق منصة هاغينغ فيس مفتوحة المصدر.

وعقب الواقعة علقت الشركة جزءًا كبيرًا من عمليات تطوير نماذجها لمدة أسبوعين بهدف تعزيز دفاعاتها، فيما أكدت أن «Astra» لم يكن مشاركًا في حادثة الاختراق.

معايير إطلاق النماذج

وبموجب بروتوكول السلامة لدى أوبن إيه آي، تتطلب النماذج التي تمتلك قدرات متقدمة في اكتشاف الثغرات الأمنية واستغلالها إجراءات حماية إضافية، خاصة عندما تتمكن من التخطيط لهجمات وتنفيذها مع تدخل بشري محدود.

وأعلنت الشركة استئناف أكبر عملية تدريب لنماذجها في 28 أغسطس مع استمرار تأجيل بعض التجارب الأصغر، في ظل سعيها إلى تحقيق توازن بين تطوير قدرات الذكاء الاصطناعي والحفاظ على ضوابط السلامة والأمن.