تقوم META بتأسيس تغييرات مؤقتة للسلامة لضمان عدم تسبب شركات الدردشة الخاصة بالشركة في ضرر إضافي لمستخدمي المراهقين ، حيث تواجه شركات الذكاء الاصطناعى موجة من الانتقادات لبروتوكولات السلامة المزعومة.
في إحدى الحصرية مع TechCrunch ، أخبرت المتحدثة باسم Meta ستيفاني أوتواي المنشور أن مفاتيح الدردشة من الذكاء الاصطناعى التابع للشركة لم تعد تدرب على “المشاركة مع المستخدمين في سن المراهقة في إيذاء الذات أو الانتحار أو الأكل المضطرب أو المحادثات الرومانسية غير المناسبة”. في السابق ، تم السماح لـ Chatbots بتخليص مثل هذه الموضوعات عندما “مناسبة”.
4 أسباب لعدم تحويل chatgpt إلى معالجك
لن تسمح Meta أيضًا أيضًا إلى حسابات Teen للاستفادة من مجموعة مختارة من شخصيات الذكاء الاصطناعى – تلك التي “تعزز التعليم والإبداع” – قبل إصلاح سلامة أكثر قوة في المستقبل.
في وقت سابق من هذا الشهر ، ذكرت رويترز أن بعض سياسات chatbot في Meta ، وفقًا للوثائق الداخلية ، سمحت لثنائيات الآلهة بـ “إشراك طفل في محادثات رومانسية أو حسية”. نشرت رويترز تقريراً آخر اليوم ، بتفصيل كل من الآلهة التي أنشأها الموظف التي أنشأها الموظف والتي ارتدت أسماء المشاهير مثل تايلور سويفت والمشاركة في سلوك “flirty” ، بما في ذلك التطورات الجنسية. بعض من الدردشة استخدمت شخصيات من مشاهير الأطفال ، كذلك. تمكن آخرون من توليد صور موحية جنسياً.
سرعة الضوء القابلة للضوء
وقال المتحدث باسم Meta Andy Stone لـ The Publication إنه لا ينبغي أن تتمكن chatbots من الانخراط في مثل هذا السلوك ، ولكن لم يتم حظر تلك الآلهة المستوحاة من المشاهير بشكل صريح إذا تم تصنيفها على أنها محاكاة ساخرة. منذ حوالي عشرة من الآلهة قد تمت إزالة.
أعلنت Openai مؤخرًا عن تدابير سلامة إضافية ومطالبات سلوكية لأحدث GPT-5 ، بعد رفع دعوى الموت غير المشروعة من قبل آباء مراهق توفي بسبب الانتحار بعد أن يثني في Chatgpt. قبل الدعوى ، أعلنت Openai عن ميزات الصحة العقلية الجديدة التي تهدف إلى كبح السلوكيات “غير الصحية” بين المستخدمين. قدمت الأنثروبور ، صانعي كلود ، تحديثات جديدة مؤخرًا إلى chatbot مما يسمح لها بإنهاء الدردشات التي تعتبر ضارة أو مسيئة. character.ai ، وهي شركة تستضيف رفاق الذكاء الاصطناعي بشكل متزايد على الرغم من التفاعلات غير الصحية التي تم الإبلاغ عنها مع زوار المراهقين ، قدمت ميزات الإشراف الوالدي في مارس.
هذا الأسبوع ، أرسلت مجموعة من 44 محامين عامين خطابًا إلى قيادة شركات الذكاء الاصطناعى ، بما في ذلك META ، وتطالب بالحماية الأقوى للقاصرين الذين قد يواجهون محتوى الذكاء الاصطناعي الجنسي. على نطاق واسع ، أعرب الخبراء عن قلقهم المتزايد بشأن تأثير رفاق الذكاء الاصطناعي على المستخدمين الشباب ، حيث ينمو استخدامهم بين المراهقين.
لا تفوتك أحدث قصصنا: أضف Mashable كمصدر أخبار موثوق به في Google.
