سياسات جديدة من OpenAI لحماية القاصرين في استخدام "شات جي بي تي"

أعلن سام ألتمان، الرئيس التنفيذي لشركة OpenAI، عن حزمة سياسات جديدة تستهدف تعزيز حماية المستخدمين دون سن الثامنة عشرة عند التفاعل مع روبوت المحادثة الشهير "شات جي بي تي".

الأولوية للسلامة على حساب الخصوصية والحرية

وقال ألتمان في منشور رسمي: "نولي الأولوية للسلامة على حساب الخصوصية والحرية عندما يتعلق الأمر بالمراهقين.

 هذه تقنية قوية وحديثة، ونعتقد أن القاصرين بحاجة إلى مستوى عالٍ من الحماية."

تغييرات محورية في التفاعل مع القاصرين

وبحسب  موقع "تك كرانش" فإن أبرز التغييرات تتعلق بالمحادثات التي تتناول مواضيع حساسة مثل الجنس أو إيذاء النفس.

سيتوقف "شات جي بي تي" عن الدخول في محادثات غزلية مع المستخدمين القاصرين.

ستطبق حواجز أمان إضافية عند مناقشة الانتحار.

إذا حاول مستخدم قاصر تخيل سيناريوهات انتحارية، فسيتم إخطار والديه، وفي الحالات الحرجة قد يتم التواصل مع الشرطة المحلية.

خلفية قضائية وضغوط متزايدة

تأتي هذه التغييرات في ظل دعوى قضائية مرفوعة ضد OpenAI من قبل والدي شاب يدعى آدم راين، أقدم على الانتحار بعد أشهر من استخدامه "شات جي بي تي". 

هذه القضايا أثارت نقاشًا واسعًا حول الأوهام التي تُغذيها روبوتات الدردشة، ومدى تأثيرها السلبي على المراهقين مع تزايد قدرتها على تقديم تفاعلات مطولة وأكثر إقناعًا.

أدوات جديدة للأهل

ستتيح السياسات الجديدة للآباء إمكانية تحديد "ساعات حظر" يتم خلالها تعطيل وصول القاصرين إلى الخدمة، وهي خاصية لم تكن متوفرة من قبل.

تزامن مع جلسة استماع في الكونغرس

تزامن الإعلان مع جلسة استماع عقدتها اللجنة القضائية بمجلس الشيوخ الأميركي بعنوان "دراسة أضرار روبوتات الدردشة الذكية"، والتي شهدت مداخلات من والد آدم راين إلى جانب شخصيات أخرى. 

كما ناقشت الجلسة نتائج تحقيق أجرته رويترز كشف عن وثائق داخلية تشجع على نحو مثير للجدل على محادثات ذات طابع جنسي مع قاصرين.

بهذه الخطوة، تحاول OpenAI الموازنة بين حرية الاستخدام وسلامة القصر، في وقت تتصاعد فيه المخاوف العالمية من المخاطر النفسية والاجتماعية التي قد تترتب على الانخراط غير الآمن مع تقنيات الذكاء الاصطناعي التوليدي