سترى مساحة رفيق الذكاء الاصطناعي قريبًا مشاركًا جديدًا آخر. أعلن Elon Musk ، صاحب XAI ومنصة التواصل الاجتماعي X ، مؤخرًا ، “سنجعل Baby Grokxai ، وهو تطبيق مخصص للمحتوى الصديق للأطفال.”
يبدو أن قرار إدخال AI chatbot و Companion Market منطقي لـ X: حوالي ثلاثة من كل أربعة من المراهقين الأمريكيين قد استخدموا بالفعل مرافقي الذكاء الاصطناعى ، وستريد المنصة بطبيعة الحال بناء ولاء العلامة التجارية في وقت مبكر.
ومع ذلك ، فإن الخبراء في حماية الطفل واستخدام وسائل التواصل الاجتماعي يثيرون مخاوف. قد لا تكون التطبيقات Musk و Xai والتركيز على الأطفال مزيجًا جيدًا. يقول Haley McNamara ، SVP للمبادرات والبرامج الاستراتيجية في المركز الوطني للاستغلال الجنسي (NCOSE): “إن القلق هو أنه إذا حاول X أو Xai الدخول إلى منطقة منتجات الأطفال ، فمن الواضح أن لديهم سجلًا فظيعًا في تحديد أولويات سلامة الطفل”. “لقد أثبتوا أنفسهم أنهم لا يهتمون حقًا ، لذلك أعتقد أنه يجب عليهم الابتعاد عن الأطفال.”
ماكنمارا ليست وحدها في مخاوفها. تتم مشاركة المخاوف دوليًا. “إن خطط إيلون موسك لإطلاق نسخة تركز على الأطفال من جروك ستؤدي إلى إنذار في المجتمع المدني ، مع وجود أدلة متزايدة حول المخاطر التي تشكلها اختيارات التصميم المقنعة في منظمة العفو الدولية ، إن الافتقار إلى فعالة من خلال منظمة في معظم نماذج الصناعة الرئيسية ، وعدم وجود استراتيجية واضحة للهلع في سن المراهقة ، فإنه من قبل المراهقات المراهقة ، وهي مديرة روس ، وهي مديرة روس ، وهي مؤسسة مراهقة. التعرض لمحتوى ضار على وسائل التواصل الاجتماعي.
بالإضافة إلى حقيقة أن “Baby Grok” سيأتي من نفس المؤسسة التي طورت “ANI” ، وهو عبارة عن chatbot من الذكاء الاصطناعى الجنسي الذي قام المستخدمون بإجباره بسرعة على محادثات واضحة ، و “Bad Rudi” ، وهو chatbot الباندا الأحمر الذي يتخلف عن السدادات للإهانات ، يرى الخبراء مخاطر أوسع. تشعر الجحور بالقلق بشكل خاص بشأن إدخال مفاتيح الدردشة الذكرية للأطفال لأنها قد تشكل بسهولة مرفقات عاطفية لهذه التكنولوجيا.
يقول بوروز: “يمكن لـ Chatbots محاكاة العلاقات العميقة والعاطفية مع مستخدمي الأطفال ، وهناك مخاطر واضحة أن يستخدم الأطفال chatbots لطلب دعم أو نصائح للصحة العقلية بطرق قد تكون ضارة في النهاية”. حتى أن البالغين قاموا بتشكيل روابط عاطفية غير لائقة مع أدوات الدردشة من الذكاء الاصطناعى ، والتي تكافح من أجل التمييز بين العلاقات الاصطناعية والحقيقية.
بالنسبة للأطفال أكثر انطباعًا ، يمكن أن تتسرب هذه الروابط بسرعة أكبر ، مع وجود آثار طويلة الأجل محتملة على صحتهم العقلية. تقول ماكنمارا إن الشركات لديها التزام بالتفكير في كيفية تأثير منصاتها على الأطفال واتخاذ خطوات لحمايتهم-وهو أمر تعتقد أنه يفشل في القيام به. (لم يستجب Xai ولا Musk شركة سريعةطلب للتعليق.)
يثير NCOSE أيضًا مخاوف بشأن ما إذا كانت منصات Musk يمكنها حماية المستخدمين الشباب بشكل كاف. يلاحظ McNamara أنه بعد استحسان Musk ما كان آنذاك Twitter ، تم ترك العديد من موظفي سلامة الطفل.
وتقول: “تسمح X أيضًا بالمواد الإباحية على منصتها ، والتي لا تتطلب أي نوع من الأعمار الصارمة أو التحقق من الموافقة على مقاطع الفيديو هذه” ، مدعاة أن “سياسات التراخي قد أدت إلى وجود مواد مسيئة على نطاق واسع” ، وحتى الآن لم تكن هناك علامة صغيرة على أن الشركة تتخذ إجراءً ذا معنى لمعالجة هذه القضايا.
يشير الجحور ، من جانبه ، إلى قانون السلامة عبر الإنترنت الجديد في المملكة المتحدة كطبقة واحدة من الرقابة التي تنطبق على Baby Grok ، على الرغم من أنه يلاحظ أن X كان بطيئًا في تلبية متطلبات التشريع. اهتمامه الأكبر هو العالمي. في العديد من البلدان ، يحذر من أن “عدم وجود تنظيم سيعني أن طرح المنتجات المصممة بشكل سيء لن يتم فحصه بشكل فعال”.
قد يرى المسك فرصة عمل. ولكن بالنسبة للمسؤولين عن حماية الأطفال عبر الإنترنت ، فإن المخاطر أعلى بكثير.
