رئيس مجلس الإدارة
رضا سالم
رئيس التحرير
نصر نعيم

«أوبن إيه آي» تحبط سرقة عقول نماذجها.. تراجع محاولات استخراج أسرار التفكير من 54% إلى 0.2%

صورة أرشيفية
صورة أرشيفية

 

في تطور جديد يعكس تصاعد معركة حماية تقنيات الذكاء الاصطناعي، أعلنت شركة «أوبن إيه آي» تعزيز دفاعاتها أمام محاولات استخراج مسارات التفكير الداخلية لنماذجها واستخدامها في تدريب أنظمة منافسة، بعدما كشفت نتائج اختبارات داخلية عن تراجع معدل نجاح هذه المحاولات من 54% إلى 0.2% عند التعامل مع إصدار GPT-6.2 Astra.

وتتعلق الإجراءات الجديدة بما يُعرف باسم «التقطير العدائي» (Adversarial Distillation)، وهي ممارسة تعتمد على استغلال مخرجات نموذج متقدم، بما فيها خطوات الاستدلال والتفكير التي لا تظهر للمستخدم في الإجابة النهائية، لتدريب نموذج آخر على اكتساب قدرات مشابهة، من دون أن يرث بالضرورة ضوابط الأمان والحماية الموجودة في النموذج الأصلي.

وأوضحت الشركة في تقرير نشرته يوم 20 نوفمبر أن هذه الممارسات لا تقتصر على محاولة تقليد المنتجات أو الاستفادة من إجاباتها، بل قد تسمح بنقل قدرات حساسة إلى نماذج أخرى، بما فيها مهارات مرتبطة بالأمن السيبراني أو المجالات البيولوجية، ثم تشغيلها بضوابط أقل صرامة.

ما الذي تحاول الشركات سرقته من داخل النماذج؟

لا تتوقف قيمة نماذج الذكاء الاصطناعي المتقدمة عند الإجابة التي تظهر للمستخدم، إذ تنتج هذه الأنظمة أثناء معالجة الطلب خطوات داخلية تساعدها على الوصول إلى النتيجة، وتُعرف باسم «سلسلة التفكير» أو Chain of Thought.

وتعتبر «أوبن إيه آي» أن هذه البيانات ذات قيمة كبيرة في تدريب النماذج المنافسة، لأنها قد تكشف تفاصيل إضافية عن طريقة معالجة المسائل المعقدة، وكيفية التعامل مع المهام البرمجية والأمنية، وهي معلومات لا تظهر بالضرورة في الرد النهائي.

وتكمن الخطورة في أن النموذج الذي يتعلم من هذه المسارات قد يكتسب قدرات لا يحصل عليها من الإجابات العادية وحدها، خصوصًا إذا جرى تدريبه على كميات ضخمة من البيانات المستخرجة بصورة منسقة.

وبحسب الشركة، فإن نقل هذه القدرات إلى نظام لا يمتلك الحواجز الأمنية نفسها قد يتيح استخدامه في تنفيذ مهام كان النموذج الأصلي سيرفض المساعدة فيها أو يضع قيودًا على تنفيذها.

من 54% إلى 0.2%.. ماذا تقول الاختبارات؟

استندت «أوبن إيه آي» إلى اختبارات هجومية تكيفية، استعانت خلالها بأنظمة آلية متقدمة لمحاولة استخراج مسارات التفكير المحمية من نماذجها.

وأظهرت النتائج انخفاض متوسط معدل نجاح الهجمات التي تستهدف استعادة التفكير المرتبط بطلب سابق من 54% في نموذج GPT-6 Astra بضوابطه الأصلية إلى 0.2% في GPT-6.2 Astra بعد تحديث وسائل الحماية.

كما تراجع معدل نجاح محاولات استخراج التفكير المرتبط بالطلب الحالي من 22.9% إلى 0.9%، بحسب نتائج الشركة.

وتعني هذه الأرقام أن الإجراءات الجديدة جعلت الوصول إلى البيانات الداخلية أكثر صعوبة في الاختبارات التي أجرتها الشركة، لكنها لا تمثل ضمانًا مطلقًا ضد جميع الهجمات، كما أنها نتائج اختبارات داخلية وليست تدقيقًا مستقلًا من جهة خارجية.

كيف تحاول أوبن إيه آي إغلاق منافذ الاختراق؟

تعتمد منظومة الحماية التي أعلنتها الشركة على عدة مستويات، تبدأ بتدريب النماذج على عدم الكشف عن مسارات التفكير المحمية، مرورًا باستخدام أنظمة تصنيف تفحص الطلبات الواردة والإجابات الصادرة لرصد محاولات استخراج هذه البيانات.

كما عززت الشركة الضوابط المرتبطة بواجهات البرمجة، بحيث ترتبط بيانات التفكير المحمية بسجل المحادثة التي أنتجتها، مع فرض قيود على إعادة استخدامها عبر محادثات أو حسابات أو مؤسسات مختلفة.

ولا تتوقف الإجراءات عند حماية كل طلب على حدة، إذ تقول الشركة إنها تراقب أنماط النشاط بين الحسابات لرصد الحملات المنظمة التي تحاول جمع كميات كبيرة من المخرجات لاستخدامها في تدريب نماذج أخرى.

وعند اكتشاف مخالفات، يمكنها تقييد الحسابات أو حظرها، إلى جانب التنسيق مع مزودي خدمات آخرين لمواجهة الشبكات التي تقف وراء محاولات الاستخراج.

معركة تتجاوز حقوق الملكية الفكرية

تتجاوز القضية مسألة حماية الأسرار التجارية أو منع المنافسين من تقليد النماذج، لتصل إلى مخاوف تتعلق بانتقال القدرات التقنية الحساسة من نظام يمتلك ضوابط صارمة إلى آخر قد لا يخضع للمستوى نفسه من الرقابة.

وتشير «أوبن إيه آي» إلى أن حماية مسارات التفكير أصبحت جزءًا من منظومة الأمان، خصوصًا مع توسع استخدام النماذج في البرمجة والأمن السيبراني والبحث العلمي.

وفي الوقت نفسه، أكدت الشركة أن محاولات التقطير العدائي تتطور باستمرار، وأنها تتطلب تحديثًا متواصلًا لوسائل الرصد والحماية، بدل الاعتماد على إجراء تقني واحد.

تم نسخ الرابط