تستعرض المنتجات المزيفة التي تضيع وقت وأموال الناس. كما أنه يخفف ويشوه المنافسة بين البائعين.
يتخذ المنظمون في جميع أنحاء العالم أخيرًا إجراءات بعد سنوات من سوء التصرف والاحتيال. في الولايات المتحدة ، أصبحت المراجعات المزيفة الآن غير قانونية بموجب القانون الفيدرالي ويمكن لجنة التجارة الفيدرالية (FTC) طلب عقوبات مدنية ضد المخالفين.
في المملكة المتحدة ، تحاول هيئة المنافسة والأسواق (CMA) أيضًا تحديد الممارسة ، ودعا المنصات – بما في ذلك Amazon – إلى بذل المزيد من الجهد وحظر المراجعات المزيفة بموجب الأسواق الرقمية والمنافسة وقانون المستهلكين 2024.
رداً على ذلك ، وعدت Amazon مؤخرًا بأنها ستعزز أنظمتها الحالية من اكتشاف المراجعات المزيفة وإنزالها ، بما في ذلك حظر المستخدمين الذين ينشرون مراجعات وهمية ومعاقبة البائعين الذين يخدعون النظام.
قد يبدو أن كلا البلدين يتخذان مقاربة مماثلة ، ولكن هناك اختلاف مهم للغاية. FTC واضح أن المراجعات التي تم إنشاؤها من الذكاء الاصطناعى تأتي تحت تعريفها لـ “المراجعات المزيفة”. من ناحية أخرى ، لا تحدد CMA أو حتى ذكر كلمات “AI” أو “الذكاء الاصطناعي” أو “LLMS” في مسودة 109 صفحة. لا قانون DMCC الذي يهدف إلى حماية حقوق المستهلك والمنافسة في الأسواق الرقمية.
هل يحدد المنظمون في المملكة المتحدة المراجعات التي تسجل درجة احتمالية عالية لكونها مكتوبًا على أنها مزيفة؟ من الصعب معرفة. إذا لم يفعلوا ذلك ، فقد تكون هذه فرصة كبيرة ضائعة لمعالجة ما أعتقد أنه سيكون مشكلة ضخمة ، قريبًا جدًا. إذا فعلوا ذلك ، هناك حاجة مزيد من التوضيح بشكل عاجل.
المؤسس المشارك والرئيس التنفيذي لشركة Pangram Labs.
قد يكسر الذكاء الاصطناعي ثقة العملاء
إن انتشار المراجعات التي تم إنشاؤها من الذكاء الاصطناعي لديها القدرة على كسر الثقة في نظام مراجعة العملاء مرة واحدة وإلى الأبد. كانت Amazon أول متاجر تجزئة عبر الإنترنت تقدم ميزة مراجعة ، لكن النظام مهدد الآن من قبل نماذج اللغة الكبيرة (LLMS) مثل ChatGpt و Claude و Gemini. وهذا يمكن أن يكون ضارًا بعمق لعملاق التجارة الإلكترونية والصناعة الأوسع.
تتمثل مهمتنا في Pangram Labs في التخفيف من قضايا جديدة ناتجة عن الموجة القادمة من نماذج الذكاء الاصطناعي القادمة والتأكد من أنها ستكون إيجابية في العالم. لذلك ، كلفنا باحثينا بالتحقيق في المقياس الذي تظهر به المراجعات التي تم إنشاؤها من الذكاء الاصطناعي على Amazon.com والنتائج التي فاجأتنا.
قمنا بتحليل ما يقرب من 30،000 مراجعة للعملاء لـ 500 منتج مبيعًا عبر 10 فئات بما في ذلك الجمال والصحة والصحة والأجهزة والأثاث. ووجدنا أدلة واسعة النطاق على مراجعات العملاء التي أنشأتها الذكاء الاصطناعى.
منتجات الأطفال هي الأكثر احتمالًا للمراجعات التي تم إنشاؤها من الذكاء الاصطناعى-5.2 ٪ من المراجعات التي تم تحليلها البالغ عددها 3،037 تم تحليلها بواسطة LLMs. هذا له آثار على الآباء الذين يستخدمون “قائمة أمنيات الأطفال الأكبر” ، حيث يعتمد الكثيرون على الخدمة الأولية للمنصة للتسليم السريع من الإمدادات الحيوية مثل الحفاضات والمناديل والصيغة.
تتبع فئات “الجمال” و “العافية والاسترخاء” عن كثب في المركز الثاني والثالث – 5 ٪ و 4.4 ٪ على التوالي. في هذه الفئة ، تكون قوة التأثير قوية ، حيث تتنافس العلامات التجارية المنشأة والمتنافسة على اهتمام المشترين في سوق مشبع للغاية.
إذا كنت تتسوق للحديقة ، فمن المحتمل أن تواجه مراجعة تم إنشاؤها من الذكاء الاصطناعي على أفضل 50 منتجًا مبيعًا-1.7 ٪ فقط.
من المحتمل أن تزيد المراجعات التي تم إنشاؤها من الذكاء الاصطناعي
في حين أن النسبة المئوية الإجمالية للمراجعات التي تم كتابتها البشرية كانت منخفضة للغاية (لكننا نناقش ما زالوا يتقاضون ذلك) بنسبة تزيد قليلاً عن 5 ٪ في بعض فئات المنتجات ، فقد اكتشفنا أن المراجعات الإيجابية هي الأكثر احتمالًا التي يتم كتابتها باستخدام الذكاء الاصطناعي ، ومن المرجح أن تكون المراجعات السلبية مكتوبة بشري. 74 ٪ من المراجعات التي تم إنشاؤها من الذكاء الاصطناعى المحددة في الدراسة كانت 5 نجوم ، مقارنة بـ 56 ٪ من المراجعات غير AAI. 10 ٪ فقط من المراجعات التي تم إنشاؤها من الذكاء الاصطناعى كانت 1 نجمة مقابل 21 ٪ من المراجعات غير AAI.
والأكثر من ذلك ، أن 93 ٪ من المراجعات المشتبه في كونها “تم التحقق من المشتريات” التي تم إنشاؤها بالكامل أو جزئيًا. هذا يعني أن لديهم طابعًا للموافقة من Amazon على أنهم ينشرون من قبل المشترين الشرعيين ، مما يزيد من شعورهم بالأصالة والجدارة بالثقة.
نظرًا لأن LLMS أصبحت متاحة على نطاق أوسع وأرخص للاستخدام ، فإن مسألة المراجعات التي تم إنشاؤها من الذكاء الاصطناعى ستصبح أكبر فقط ، لذلك من المهم أن يعالج المنظمون هذا مبكرًا ، ويبدأ تجار التجزئة في اتخاذ إجراء الآن.
تقوم أدوات AI بتحليل بيانات المراجعة الحالية لإنتاج محتوى جديد يشبه الإنسان والذي يحاكي ملاحظات العملاء الحقيقية في ثوانٍ. في بعض الحالات ، تتمثل القصد من البائعين في تعزيز تصنيف النجوم من منتجاتهم والتأثير على قرارات شراء المشترين ، خاصة إذا كانت ملاحظات العملاء الأصلية متفقة ، أو سلبية بشكل مفرط. يمكنهم استخدام التعليقات الإيجابية الموجودة كمثال على ما يجب أن يكرره LLM أو يطالب به LLM لإنشاء مراجعة بناءً على المعلومات التي توفرها ، مثل فوائد المنتج والميزات الفريدة.
في حالات أخرى ، يجوز للعملاء استخدام LLMs لكتابة مراجعات لهم إذا كانوا أقل من الوقت أو غير متأكدين مما يجب قوله. ولكن هذا يمكن أن يشوه تجربتهم الحقيقية للمنتج وتضليل الآخرين. على الرغم من أن هذه الممارسة لا تحتوي على نوايا خبيثة ، إلا أنه لا ينبغي تشجيعها أيضًا.
حماية تجربة الشراء عبر الإنترنت
تشكك نتائج دراستنا أيضًا في فائدة نقاط مراجعة العملاء التي تم إنشاؤها من قبل الذكاء الاصطناعى من Amazon ، والتي تم تقديمها في عام 2023. يوفر هذا الابتكار الأخير فقرة قصيرة على صفحة تفاصيل المنتج حتى يفهم العملاء المواضيع المشتركة عبر المئات أو حتى الآلاف من المراجعات المنشورة ، بما في ذلك ميزات المنتج ومشاعر المشتري. إذا زادت النسبة المئوية لمراجعات الذكاء الاصطناعى المزيفة على صفحات المنتج ، فإن نظرة عامة على الذكاء الاصطناعي تصبح غير مجدية بشكل أساسي.
للمساعدة في حماية تجربة الشراء عبر الإنترنت والإنترنت الأوسع من المعلومات غير الدقيقة وغير الدقيقة ، أحث المنظمين والمنصات بما في ذلك Amazon على اتخاذ إجراءات جريئة في إيقاف المحتوى الذي تم إنشاؤه في الذكاء الاصطناعى على نظامه الأساسي. الخطوة الأولى هي الاعتراف بأن هذه مشكلة ستصبح أكبر فقط. والثاني هو التأكد من أن تعريف المراجعة المزيفة يشمل تلك التي يتم إنشاؤها من الذكاء الاصطناعى. وإذا كنت عميلًا من عميل Amazon يترك مراجعة للمنتج ، فيرجى عدم الاستعانة بمصادر خارجية للمهمة إلى LLM.
لقد عرضنا أفضل CRM للأعمال التجارية الصغيرة.
تم إنتاج هذه المقالة كجزء من قناة TechRadarpro Expert Insights حيث نعرض أفضل وألمع عقول في صناعة التكنولوجيا اليوم. الآراء المعبر عنها هنا هي آراء المؤلف وليست بالضرورة آراء TechRadarpro أو Future PLC. إذا كنت مهتمًا بالمساهمة ، اكتشف المزيد هنا: https://www.techradar.com/news/submit-your-story-techradar-pro
