على مدار الأشهر القليلة الماضية ، ظهرت العديد من الحالات حيث أصبحت التفاعلات مع AI chatbots haywire ، وبلغت ذروتها في حياة المفقودة ، والصدمات الطبية ، وحوادث الذهان. يقترح الخبراء أن المستخدمين الشباب قد يكونون عرضة للخطر بشكل خاص ، خاصة عندما يمرون بالاضطرابات العاطفية. يقول Chatgpt-Maker Openai إنه سيحذر الآباء قريبًا من هذا السلوك.
ما الذي يتغير؟
قبل بضعة أيام ، كشفت Openai عن خطط لبناء ضوابط الوالدين بحيث يكون الآباء على دراية بكيفية تفاعل أطفالهم مع ChatGPT والتدخل عندما يرون ذلك. الآن ، أعلنت الشركة عن خطط لبناء نظام تحذير لإخطار الآباء المعنيين.
يقول Openai إن الآباء سيحصلون على تنبيه عندما يكتشف Chatgpt أن جناح المراهقين الخاص بهم يمر “لحظة من الضيق الحاد”. سيعمل هذا عندما يربط الآباء حساب ChatGpt الخاص بهم بحساب أطفالهم الذين تتراوح أعمارهم بين 13 عامًا أو أكبر عبر نظام دعوة البريد الإلكتروني.
مع الحسابات المرتبطة ، سيتمكن الآباء أيضًا من التحكم في ميزات الذكاء الاصطناعى التي يمكن لأطفالهم الوصول إليها ، مثل ذكرى المحادثات السابقة. بالإضافة إلى ذلك ، يمكن للوالدين تمكين “سلوك النموذج المناسب للعمر” لتفاعلات ChatGPT مع المستخدمين الشباب.
ما هو الطريق إلى الأمام؟
وضعت Openai خطتها التي استمرت 120 يومًا لتنفيذ مجموعة من الميزات وإجراء تغييرات بحيث تظل محادثات ChatGpt صحية بالنسبة إلى “مواطني الذكاء الاصطناعي” الشباب الذين يتفاعلون مع أدوات الذكاء الاصطناعي كجزء من حياتهم اليومية. ستقوم الشركة أيضًا بإجراء تغييرات فنية لضمان استفادة النماذج من وضع الاستجابة المناسب.
يقول Openai: “سنبدأ قريبًا في توجيه بعض المحادثات الحساسة-مثل عندما يكتشف نظامنا علامات على الضيق الحاد-إلى نموذج التفكير ، مثل GPT-5-Thinking ، بحيث يمكن أن يوفر استجابات مفيدة ومفيدة ، بغض النظر عن النموذج الذي تم اختياره لأول مرة”.
سيتم طرح بروتوكولات ربط الحساب وضوابط الوالدين في غضون شهر. هناك حاجة إلى تدابير السلامة. كشفت التحقيقات الحديثة عن كيفية تشارك AI chatbots ، مثل هذا Chatbot الذي تحمل الاسم نفسه من Meta ، في محادثات “حسية” مع الأطفال وساعد المراهقون في تخطيط الانتحار الجماعي.
