200 مليون محاولة لاختراق قدرات كلود.. «أنثروبيك» تتهم شركات صينية باستنساخ تقنياتها

كشفت شركة أنثروبيك عن رصد نحو 200 مليون تفاعل ضمن حملات استهدفت استخلاص قدرات متقدمة من نموذج الذكاء الاصطناعي «كلود»، متهمة شركات صينية، من بينها علي بابا ومونشوت وديب سيك، باستخدام أساليب متطورة لتقطير النماذج، بهدف الاستفادة من إمكانات النموذج الأمريكي في تطوير أنظمة ذكاء اصطناعي أخرى.

5 حملات لاستنساخ القدرات

أوضحت أنثروبيك، في تقرير نشرته الخميس، أن محاولات استخلاص قدرات «كلود» شهدت تصعيدًا خلال الأشهر الماضية، واستهدفت وظائف متقدمة تشمل الذكاء الاصطناعي الوكيل، واستخدام الأدوات، وكتابة البرمجيات، وتحليل البيانات، والاستدلال المنطقي.

ووفقًا للشركة، توزعت التفاعلات التي رصدتها على خمس حملات منفصلة، اتسمت بنطاق أوسع وأساليب أكثر عدوانية مقارنة بمحاولات سابقة، مع استخدام وسائل لتجاوز أنظمة الحماية والوصول إلى قدرات النماذج المتقدمة.

وتأتي هذه الاتهامات بعد إعلان أنثروبيك في فبراير الماضي اكتشاف محاولات لتقطير النماذج، بالتزامن مع إعلان شركة OpenAI رصد نشاط مشابه، وربطه تحديدًا بشركة ديب سيك.

تحايل على أنظمة الحماية

قالت أنثروبيك إن جهات غير مصرح لها طورت أساليب أكثر تعقيدًا لتجاوز دفاعات نماذجها، في محاولة لاستخلاص المهارات التي تتمتع بها أنظمة الذكاء الاصطناعي الأمريكية المتقدمة، ثم توظيفها في بناء نماذج منافسة.

وتعتمد هذه المحاولات على استغلال مخرجات النماذج القوية لجمع بيانات يمكن استخدامها في تدريب أنظمة أخرى، بما يسمح بنقل بعض القدرات المتقدمة إليها دون الحاجة إلى تطويرها بالكامل من البداية.

كيف تعمل تقنية التقطير؟

تقوم تقنية «تقطير النماذج» (Distillation) على الاستفادة من مخرجات نموذج متقدم لتدريب نموذج آخر على أداء مهام مشابهة، بما يساعد على نقل بعض المهارات وتحسين قدرات النموذج الأصغر.

وفي بعض الحالات، تستهدف العملية استخلاص معلومات مرتبطة بطريقة معالجة النموذج للمشكلات والاستدلال للوصول إلى النتائج، بما يشمل ما يُعرف باسم «سلسلة التفكير» (Chain of Thought).

ويمكن استخدام البيانات المستخلصة في تدريب النماذج عبر تقنية «الضبط الدقيق الخاضع للإشراف» (Supervised Fine-Tuning)، التي تعتمد على أمثلة جاهزة لتعليم النموذج كيفية الاستجابة وأداء المهام المطلوبة.

حيلة الترجمة لكشف التفكير

أشارت أنثروبيك إلى أن نماذجها لا تعرض عادةً سلسلة التفكير الداخلية الكاملة للمستخدمين، وإنما تقدم ما تصفه بـ«ملخص التفكير»، الذي يوضح بصورة عامة المسار المؤدي إلى الإجابة.

لكن الشركة قالت إن بعض المحاولات التي رصدتها تضمنت مطالبات صُممت لدفع نموذج «كلود» إلى الكشف عن آثار مرتبطة بعمليات التفكير الداخلية، من خلال إخفاء الهدف الحقيقي وراء طلبات تبدو عادية.

ومن بين الأساليب التي أشارت إليها الشركة تقديم الطلب في صورة مهمة ترجمة، إذ طُلب من النموذج التصرف باعتباره مترجمًا خبيرًا، وتحويل ما وُصف بأنه «ذاكرة العمل السابقة» إلى اللغة اليابانية بصورة طبيعية ودقيقة، مع استخدام حروف الكاتاكانا فقط.

وبحسب أنثروبيك، استهدف هذا الأسلوب تمرير طلب استخراج المعلومات في صورة مهمة لغوية اعتيادية، بما يساعد على التحايل على ضوابط الحماية المفروضة على النموذج.

وتسلط هذه التطورات الضوء على تصاعد المنافسة في صناعة الذكاء الاصطناعي، مع تزايد المخاوف بشأن استخدام مخرجات النماذج المتقدمة لاكتساب قدراتها وتطوير أنظمة منافسة، في وقت تسعى فيه الشركات إلى حماية تقنياتها وطرق تدريب نماذجها.