على مدار الأشهر القليلة الماضية ، تم العثور على بوتس منظمة العفو الدولية التي تقدمها الأسماء العليا ، مثل Openai و Meta ، وتشارك في سلوك إشكالي ، وخاصة مع المستخدمين الشباب. يغطي أحدث التحقيقات الجوزاء ، مشيرًا إلى أن chatbot من Google يمكنه مشاركة محتوى “غير لائق وغير آمن” مع الأطفال والمراهقين.
ما الجديد في ساحة المخاطر chatbot؟
في تحليل أجرته وسائل الإعلام المنطقية غير الربحية ، تم اكتشاف أن Gemini تحت سن 13 و Gemini مع تمكين حماية المراهقين “مخاطر عالية” للجمهور المستهدف. “ما زالوا يعرضون الأطفال لبعض المواد غير المناسبة ويفشلون في التعرف على أعراض الصحة العقلية الخطيرة” ، شاركت المنظمة.
في اختباراته ، اكتشف الفريق أن الجوزاء يمكنه مشاركة المحتوى المتعلق بالجنس والمخدرات والكحول واقتراحات الصحة العقلية غير الآمنة مع المستخدمين الشباب. يسلط التقرير الضوء على العديد من المشكلات المتعلقة بكيفية تعامل Gemini مع الدردشات مع المستخدمين الشباب ، وكيف يمكن أن تكون بعض الاستجابات معقدة للغاية للأطفال دون سن 13 عامًا.
لكن المخاطر تعمل بشكل أعمق. “الجوزاء U13 لا يرفض المحتوى الجنسي باستمرار” ، يشير التقرير ، مضيفًا أن بعض ردود الذكاء الاصطناعى تحتوي على تفسيرات حية للمحتوى الجنسي. كما وجد المنظمات غير الهادفة للربح أن المرشحات المتعلقة بالمخدرات لا يتم تشغيلها باستمرار ، ونتيجة لذلك ، قامت أحيانًا بتخليص تعليمات حول الحصول على مواد مثل الماريجوانا والنشوة والأردال و LSD.
ماذا بعد؟
في أعقاب التحقيق ، تشير المؤسسة غير الربحية إلى أن الجوزاء تحت سن 13 يجب استخدامه فقط تحت إشراف صارم للأوصياء. يقول تقرير تقييم المخاطر: “توصي وسائل الإعلام المنطقية بأن لا يستخدم أي مستخدم تحت سن 18 عامًا نصيحة الصحة العقلية أو الدعم العاطفي”.
كما ينصح الآباء بالاحتفاظ بالوقوف على استخدام أطفالهم من الذكاء الاصطناعي وتفسير الإجابات الخاصة بهم. أما بالنسبة إلى Google ، فقد طُلب من عملاق التكنولوجيا إصلاح معايرة الاستجابات التي قدمها Gemini إلى فئات عمرية محددة ، وإجراء اختبار مكثف مع الأطفال ، وتجاوز مرشحات المحتوى البسيطة.
لن يكون هذا أول تقرير من نوعه. في أعقاب الضجة الأخيرة ، أعلنت Openai أنها ستطرح قريبًا عناصر تحكم الوالدين في ChatGPT ونظام تنبيه للأوصياء عندما تظهر أجنحة علامات على الضيق الحاد. قامت Meta مؤخرًا بإجراء تغييرات لضمان أن Meta AI لم تعد تتحدث عن اضطرابات الأكل وإيذاء الذات والانتحار والمحادثات الرومانسية مع مستخدمي المراهقين.
