ستقوم Openai و Meta بضبط ميزات chatbot للاستجابة بشكل أفضل للمراهقين في أزمات بعد تقارير متعددة عن الروبوتات التي توجه المستخدمين الشباب إلى إيذاء أنفسهم أو الآخرين ، وفقًا للشركات.
كتب Openai في منشور يوم الثلاثاء: “لقد قدمنا مؤخرًا جهاز توجيه في الوقت الفعلي يمكنه الاختيار بين نماذج الدردشة الفعالة ونماذج التفكير بناءً على سياق المحادثة”.
“سنبدأ قريبًا في توجيه بعض المحادثات الحساسة-كما هو الحال عندما يكتشف نظامنا علامات على الضيق الحاد-إلى نموذج التفكير ، مثل GPT-5-Thinking ، بحيث يمكن أن يوفر استجابات مفيدة ومفيدة ، بغض النظر عن النموذج الذي تم اختياره لأول مرة” ، أضافت الشركة.
في وقت سابق من هذا العام ، شكل Openai مجلس الخبراء للرفاهية و AI وشبكة الأطباء العالمية لدينا لتعزيز التفاعل الصحي مع نماذج اللغة الكبيرة وقال إن 250 طبيبًا من جميع أنحاء 60 دولة شاركوا مدخلاتهم في وظائف الأداء الحالية.
تأتي التدابير الجديدة بعد وفاة شاب يبلغ من العمر 16 عامًا في كاليفورنيا بالانتحار بعد أن تحدثت مع تشابيبت من Openai. والديه يزعم أن المنصة شجعه على أخذ حياته.
وصفت محامي الأسرة ، يوم الثلاثاء إعلان Openai بأنه “وعود غامضة بعمل أفضل” و “لا شيء أكثر من فريق إدارة الأزمات في Openai الذي يحاول تغيير الموضوع”.
وحثوا الرئيس التنفيذي سام التمان على “القول بشكل لا لبس فيه إنه يعتقد أن تشاتغبت آمن أو سحبه على الفور من السوق”.
تم الإبلاغ عن حالات مماثلة من الميول العنيفة التي يتم تشجيعها من قبل chatbots منفصلة في فلوريدا وتكساس.
أخبرت Meta TechCrunch أنها ستقوم بتحديث سياساتها لتعكس المشاركة الأكثر ملاءمة مع المراهقين بعد سلسلة من المشكلات. قالت الشركة إنها لن تسمح لمستخدمي المراهقين بعد الآن بمناقشة إيذاء الذات أو الانتحار أو الأكل المضطرب ، أو محادثات رومانسية غير لائقة مع chatbots.
وقال ستيفاني أوتواي المتحدث باسم Meta لـ The Outlet: “مع نمو مجتمعنا وتطور التكنولوجيا ، فإننا نتعرف باستمرار على كيفية تفاعل الشباب مع هذه الأدوات وتعزيز حمايةنا وفقًا لذلك”.
“مع استمرارنا في تحسين أنظمتنا ، نضيف المزيد من الدرابزين كإجراء احترازي إضافي-بما في ذلك تدريب الذكاء الاصطناعي على عدم التعامل مع المراهقين في هذه الموضوعات ، ولكن لإرشادهم إلى موارد الخبراء ، والحد من وصول المراهقين إلى مجموعة مختارة من شخصيات الذكاء الاصطناعى في الوقت الحالي ،” تابعت هذه التحديثات بالفعل ، وسنستمر في تكييف مقاربتنا للمساعدة في الحصول على سندات آمنة مع تقدم العمر.
