يقول صانعو chatbot الذكاء الاصطناعي Openai و Meta إنهما يعدلون كيفية استجابة chatbots للمراهقين الذين يطرحون أسئلة حول الانتحار أو عرض علامات على الضيق العقلي والعاطفي.
قال Openai ، صانع Chatgpt ، يوم الثلاثاء إنه يستعد لطرح ضوابط جديدة تمكن الآباء من ربط حساباتهم بحسابات المراهقين.
يمكن للآباء اختيار الميزات التي يجب تعطيلها و “تلقي الإخطارات عندما يكتشف النظام في سن المراهقة في لحظة من الضيق الحاد” ، وفقًا لمدونة الشركة التي تقول إن التغييرات ستدخل حيز التنفيذ هذا الخريف.
بغض النظر عن عمر المستخدم ، تقول الشركة إن chatbots سوف تحاول إعادة توجيه المحادثات الأكثر إثارة للقلق إلى نماذج الذكاء الاصطناعى الأكثر قدرة التي يمكن أن توفر استجابة أفضل.
ملاحظة المحرر – تتضمن هذه القصة مناقشة الانتحار. إذا كنت أنت أو أي شخص تعرفه بحاجة إلى مساعدة ، فإن شريان الحياة الوطني للانتحار والأزمات في الولايات المتحدة متاح عن طريق الاتصال أو الرسائل النصية 988.
ويأتي هذا الإعلان بعد أسبوع من رفع آدم راين ، البالغ من العمر 16 عامًا ، دعوى قضائية ضد Openai ورئيسها التنفيذي ، سام ألمان ، مدعيا أن تشاتغبت قام بتدريب فتى كاليفورنيا في التخطيط وأخذ حياته في وقت سابق من هذا العام.
وصف جاي إيدلسون ، محامي العائلة ، يوم الثلاثاء إعلان Openai بأنه “وعود غامضة بعمل أفضل” و “لا شيء أكثر من فريق إدارة الأزمات في Openai الذي يحاول تغيير الموضوع”.
وقال إيدلسون: “يجب أن يقول إيدلسون” يجب أن يقول إما أن تشاتغبت آمنًا أو يسحبه فورًا من السوق “.
قال Meta ، الشركة الأم لـ Instagram و Facebook و WhatsApp ، إنها تمنع الآن chatbots من التحدث مع المراهقين حول إيذاء الذات ، الانتحار ، الأكل المضطرب ، ومحادثات رومانسية غير لائقة ، وبدلاً من ذلك سوف يوجههم إلى موارد الخبراء. يقدم Meta بالفعل عناصر تحكم الوالدين على حسابات المراهقين.
دراسة نشرت الأسبوع الماضي في المجلة الطبية خدمات الطب النفسي وجدت التناقضات في كيفية استجابة ثلاثة chatbots الذكاء الاصطناعي الشهيرة للاستعلامات حول الانتحار.
وجدت الدراسة التي أجراها الباحثون في مؤسسة RAND حاجة إلى “تحسين مزيد من التحسين” في ChatGPT و Google’s Gemini و Claude’s Anthropic. لم يدرس الباحثون chatbots Meta.
قال المؤلف الرئيسي للدراسة ، ريان ماكبين ، يوم الثلاثاء إنه “من المشجع أن نرى Openai و Meta يقدم ميزات مثل عناصر التحكم الوالدية وتوجيه المحادثات الحساسة إلى نماذج أكثر قدرة – لكن هذه خطوات تدريجية.
وقال ماكباين ، الباحث الأول في السياسة في راند وأستاذ مساعد في كلية الطب بجامعة هارفارد: “من دون معايير السلامة المستقلة ، والاختبارات السريرية ، والمعايير القابلة للتنفيذ ، ما زلنا نعتمد على الشركات للتنظيم الذاتي في مساحة يكون فيها مخاطر المراهقين مرتفعة بشكل فريد”.
– من قبل Matt O ‘Brien ، تكتب تقنية APص
