أعلن الرئيس التنفيذي لشركة OpenAI سام ألتمان عن مجموعة من سياسات المستخدم الجديدة، بما في ذلك التعهد بتغيير كبير في كيفية تفاعل ChatGPT مع المستخدمين الذين تقل أعمارهم عن 18 عامًا.
وقال ألتمان: "نعطي الأولوية للسلامة على الخصوصية والحرية للمراهقين، وهذه تقنية جديدة وفعالة، ونعتقد أن القُصّر بحاجة إلى حماية كبيرة".
تغييرات جديدة في ChatGPT لمنع المحادثات الخادشة للأطفال
وتتعلق التغييرات المُخصصة للمستخدمين القاصرين تحديدًا بالمحادثات التي تتضمن مواضيع غير لائقة للأطفال أو إيذاء النفس، بموجب السياسة الجديدة، سيتم تدريب ChatGPT على التوقف عن الانخراط في "أحاديث غزلية" مع المستخدمين القاصرين، وسيتم وضع حواجز أمان إضافية حول نقاشات الانتحار، إذا استخدم مستخدم قاصر ChatGPT لتخيل سيناريوهات انتحارية، فستحاول الخدمة الاتصال بوالديه، أو في الحالات الأكثر خطورة، بالشرطة المحلية.
مواجهة الشركة لدعوى قضائية بسبب انتحار طفل
وللأسف، هذه السيناريوهات ليست افتراضية، حيث تواجه OpenAI حاليًا دعوى قضائية بتهمة القتل الخطأ من والدي آدم راين، الذي انتحر بعد أشهر من التفاعل.
وبالإضافة إلى القيود القائمة على المحتوى، سيكون لدى الآباء الذين يقومون بتسجيل حساب مستخدم قاصر القدرة على تحديد "ساعات حظر" لا يتوفر فيها ChatGPT، وهي ميزة لم تكن متاحة من قبل.
تأتي سياسات ChatGPT الجديدة في نفس يوم جلسة استماع للجنة القضائية بمجلس الشيوخ الأمريكي بعنوان "دراسة أضرار روبوتات الدردشة الذكية"، والتي أعلن عنها السيناتور جوش هاولي (جمهوري عن ولاية ميسوري) في أغسطس الماضي، ومن المقرر أن يلقي والد آدم راين كلمة في الجلسة، إلى جانب ضيوف آخرين.
