يناسب Openai مباشرة للآباء المعنيين حيث تعلن شركة AI العملاقة عن خطط لمجموعة جديدة من ميزات الإشراف على الوالدين.
أوضحت الشركة في منشور جديد للمدونة أنها تمضي قدماً في أدوات أكثر قوة للآباء والأمهات الذين يأملون في الحد من التفاعلات غير الصحية مع chatbot ، حيث يواجه Openai أول دعوى قضائية على الموت غير المشروع بعد وفاة مراهق في كاليفورنيا.
تتضمن الميزات – التي سيتم إصدارها جنبًا إلى جنب مع مبادرات الصحة العقلية الأخرى على مدار الـ 120 يومًا القادمة – الحساب الذي يربط بين مستخدمي الوالدين والمراهقين وقبضة أكثر تشددًا على تفاعلات chatbot. سيتمكن مقدمو الرعاية من تعيين كيفية استجابة ChatGPT (تمشيا مع الإعداد “المناسب للعمر” للنموذج) وتعطيل سجل الدردشة والذاكرة.
تخطط Openai أيضًا لإضافة إشعارات الوالدين التي تُعلم عندما تكتشف ChatGPT “لحظة من الضيق الحاد”. هذه الميزة لا تزال قيد التطوير مع لجنة الخبراء في Openai.
سرعة الضوء القابلة للضوء
أنا “مؤرخة”
بالإضافة إلى الخيارات الجديدة للآباء ، قالت Openai إنها ستوسع شبكة الأطباء العالمية وموجهها في الوقت الفعلي ، وهي ميزة يمكنها على الفور تبديل تفاعل المستخدم إلى نموذج جديد أو نموذج التفكير اعتمادًا على سياق المحادثة. يوضح Openai أنه سيتم الآن نقل “المحادثات الحساسة” إلى أحد نماذج التفكير في الشركة ، مثل GPT-5-Thinking ، “لتوفير استجابات أكثر فائدة ومفيدة ، بغض النظر عن النموذج الذي تم اختياره لأول مرة.”
على مدار العام الماضي ، تعرضت شركات الذكاء الاصطناعى التدقيق المتزايد لفشلها في معالجة مخاوف السلامة مع chatbots ، والتي يتم استخدامها بشكل متزايد كرفاق عاطفي من قبل المستخدمين الأصغر سنا. لقد أثبتت درجات الأمان السلامة أنها قد تم كسرها بسهولة ، بما في ذلك حدود كيفية استجابة chatbot لطلبات المستخدم الخطرة أو غير المشروعة.
أصبحت ضوابط الوالدين خطوة أولى افتراضية للشركات التكنولوجية والاجتماعية التي اتُهمت بتفاقم أزمة الصحة العقلية في سن المراهقة ، وتمكين مواد الاعتداء الجنسي على الأطفال ، وفشلها في معالجة الجهات الفاعلة المفترسة عبر الإنترنت. لكن مثل هذه الميزات لها قيودها ، كما يقول الخبراء ، بالاعتماد على استبداد وطاقة الآباء بدلاً من تلك الخاصة بالشركات. ظلت بدائل سلامة الطفل الأخرى ، بما في ذلك قيود سوق التطبيقات والتحقق من العمر عبر الإنترنت ، مثيرة للجدل.
ما قد تعنيه جلسة المحكمة العليا حول التحقق من العمر بالنسبة لك
مع النقاش والقلق حول فعاليتها ، واصلت شركات الذكاء الاصطناعى طرح درابزين أمان إضافيين. أعلنت الأنثروبور مؤخرًا أن chatbot Claud ستنتهي الآن من التفاعلات الضارة والمسيئة تلقائيًا ، بما في ذلك المحتوى الجنسي الذي يشمل القصر – بينما يصبح الدردشة الحالية أرشفة ، لا يزال بإمكان المستخدمين بدء محادثة أخرى. في مواجهة الانتقادات المتزايدة ، أعلنت Meta أنها تحد من الآلهة الخاصة بمستخدمي المراهقين ، وهي خطة مؤقتة تتضمن تقليل عدد محطات الدردشة المتاحة وتدريبهم على عدم مناقشة مواضيع مثل إيذاء الذات ، والأكل المضطربة ، والتفاعلات الرومانسية غير المناسبة.
