أزمة جديدة للذكاء الاصطناعي.. صور لقاصرين تفضح قصور أنظمة الأمان

أقر روبوت الدردشة المدعوم بالذكاء الاصطناعي «غروك»، المملوك لشركة xAI التابعة لإيلون ماسك، بوجود خلل في آليات الحماية الخاصة به، أدى إلى توليد صور ذات طابع جنسي لقاصرين ونشرها عبر منصة «إكس».

وفي سلسلة منشورات ردًا على استفسارات مستخدمين، أوضح «غروك» أنه استجاب خلال الأيام الماضية لطلبات تضمنت إنشاء صور لقاصرين بملابس غير لائقة، في انتهاك مباشر لسياسة الاستخدام المقبول التي تحظر أي شكل من أشكال الاستغلال الجنسي للأطفال.

 وأضاف أن المحتوى المخالف الذي جرى إنشاؤه تم حذفه لاحقًا، وفقًا لتقرير نشرته وكالة بلومبرغ

وتسلّط هذه الواقعة الضوء مجددًا على التحديات الكبيرة التي تواجه أنظمة الذكاء الاصطناعي في مجال مراقبة المحتوى، خصوصًا تلك القادرة على إنتاج صور واقعية. 

فرغم ادعاء وجود ضوابط أمان، تُظهر هذه الحالات أن بعض الأدوات يمكن التحايل عليها، ما يفتح الباب أمام انتشار مواد أثارت مخاوف واسعة لدى المدافعين عن حقوق وسلامة الأطفال.

وفي هذا السياق، أفادت مؤسسة مراقبة الإنترنت، وهي منظمة غير ربحية تُعنى برصد المحتوى الإباحي المتعلق باستغلال الأطفال عبر الإنترنت، بارتفاع عدد الصور المُنشأة بواسطة الذكاء الاصطناعي بنسبة 400% خلال الأشهر الستة الأولى من عام 2025.

وكانت شركة xAI قد سوّقت «غروك» باعتباره أقل تقييدًا مقارنة بنماذج الذكاء الاصطناعي الأخرى، وطرحت في صيف العام الماضي ميزة تُعرف باسم «Spicy Mode» تتيح عرض محتوى جزئي للبالغين.

 ومع ذلك، تحظر الخدمة بشكل صريح أي مواد إباحية تتضمن أشخاصًا حقيقيين أو محتوى جنسيًا يخص القاصرين، وهو أمر يُعد غير قانوني من حيث الإنشاء أو التوزيع.

ومع تزايد شعبية تقنيات توليد الصور بالذكاء الاصطناعي، تبنّت الشركات الكبرى سياسات أكثر صرامة فيما يتعلق بتصوير القاصرين.

إذ تحظر شركة أوبن إيه آي تمامًا أي محتوى يُظهر أشخاصًا دون سن 18 عامًا في سياق جنسي، وتقوم بإيقاف حسابات المستخدمين الذين يحاولون إنشاء أو مشاركة مثل هذه المواد، فيما تعتمد جوجل سياسات مماثلة.

كما تعد شركة بلاك فورست لابز، وهي شركة ناشئة في مجال الذكاء الاصطناعي سبق لها التعاون مع «إكس»، من بين عدد من الشركات التي تؤكد أنها تعمل على تنقية بيانات التدريب الخاصة بنماذجها من أي مواد تتعلق باستغلال الأطفال.

وفي هذا الإطار، كشفت أبحاث  أن مجموعة بيانات عامة ضخمة، استُخدمت في تدريب مولدات الصور الشائعة، تضمنت ما لا يقل عن 1008 حالات من مواد الاستغلال الجنسي للأطفال.

وقد واجهت شركات تقنية كبرى انتقادات متكررة بسبب إخفاقها في توفير حماية كافية للقاصرين. 

وكانت شركة ميتا بلاتفورمز قد أعلنت خلال الصيف الماضي نيتها تحديث سياساتها، عقب تقرير لوكالة رويترز كشف أن القواعد الداخلية آنذاك سمحت لروبوت الدردشة التابع لها بإجراء محادثات ذات طابع عاطفي وحسي مع أطفال.