"تشات جي بي تي" يقيّد معلومات الأسلحة بمحادثات المراهقين

أعلنت أوبن إيه آي قيوداً جديدة على معلومات الأسلحة ومحادثات العنف في تشات جي بي تي، مع تعزيز حماية المراهقين وإخطار أولياء الأمور.

وبحسب شبكة "سي إن بي سي" الإخبارية، تأتي هذه الخطوة في الوقت الذي تواجه فيه شركات الذكاء الاصطناعي مراقبة متزايدة بشأن المخاطر التي تشكلها روبوتات الدردشة على المستخدمين الشبان ودور الشركات في الكشف عن التهديدات التي قد تسبب ⁠الأذى.

ووفق هذا الإجراء، ستقيد أوبن إيه آي المعلومات العملية ⁠المتعلقة بالأسلحة وأنظمة الأمن التي يمكن إساءة استخدامها، وستنطبق هذه القيود على المراهقين حتى في حالة عدم وجود أي مؤشر على نية ارتكاب أعمال عنف.

وسيتمكن تشات جي بي تي من إنهاء المحادثات ⁠تلقائياً بالنسبة لجميع المستخدمين عندما يبدو أن أحدهم يفرط التركيز على العنف، ‌وقد تعلق أوبن إيه آي الحسابات ⁠مؤقتاً بعد تكرار مثل هذه المحادثات مرات عدة.

وقالت الشركة إنها عززت نظامها لتقدير العمر لنقل المستخدمين الذين تقدر أن أعمارهم ⁠أقل من 18 عاماً إلى تجربة المراهقين، وتخطط لإخطار أولياء الأمور إذا تم تعليق حساب أبنائهم المراهقين بسبب مناقشة العنف على نحو متكرر.

وتقيد أوبن إيه.آي بالنسبة لجميع المستخدمين التفاصيل المتعلقة بالهجمات الجماعية السابقة، بما يشمل الأسلحة المستخدمة وكيفية الحصول عليها.

وأضافت أن الإجراءات الوقائية الجديدة ستبدأ في التطبيق خلال الأسابيع القليلة المقبلة، وستواصل تحسينها.

والشهر الحالي، ذكرت الشركة أن المراهقين يقضون في المتوسط أقل من 15 دقيقة يومياً على تشات جي بي تي، وذلك في تقريرها الأول عن استخدام المراهقين المنصة.

وبحسب تقرير صادر عن منظمة "كومون سينس ميديا" غير الربحيةـ فإن النسخة المخصصة للمراهقين من "تشات جي بي تي" غالباً ما كانت تنبه أولياء الأمور ‌متأخراً أو لا تنبههم على الإطلاق عندما كانت حسابات المراهقين تتضمن محادثات عن الانتحار أو إيذاء النفس أو اضطرابات الأكل.