على مدار الأشهر القليلة الماضية ، صادفنا العديد من الحالات التي تم فيها استخدام أدوات الذكاء الاصطناعى المتطورة لتكرار صوت الشخص وفخه لشخص في عمليات احتيال مالية. حذر الخبراء أيضًا من أن الذكاء الاصطناعي يفتح طرقًا جديدة للاحتيال عبر الإنترنت.
يبدو أن نظرة عامة على منظمة العفو الدولية من Google ونتائج وضع الذكاء الاصطناعى يمكن أن تتشكل بشكل غير مدرك في فخ مماثل. أبلغ صاحب شركة عقارية مؤخرًا عن كيفية تصادف رقم هاتف أثناء البحث عن رقم خدمة عملاء Royal Caribbean. لم يكن الرقم الذي عثر عليه في قسم نظرة عامة على Google AI في الجزء العلوي من صفحة البحث حقيقية وتم تشغيله بواسطة مخادع بدلاً من ذلك.
وقال أليكس ريفلين ، مالك الشركة ، في منشور على Facebook: “أشارك هذا كإعلان الخدمة العامة. مع النتائج التي تم إنشاؤها من الذكاء الاصطناعى والأرقام المخادعة ، تغيرت اللعبة”. وأضاف أنه تمكن من الفرار في اللحظة الأخيرة ، ولكن ليس قبل أن يسلم بالفعل تفاصيل بطاقة الائتمان الخاصة به إلى الممثل السيئ.
يذكر تقرير آخر رقم دعم مزيف مماثل متصل بشركات الطيران الجنوبية الغربية. لا يظهر الرقم الذي يظهر في نظرة عامة على Google AI على موقع Southwest Airlines على الويب ، ويبدو أنه تم التعامل معه من قبل المحتالين الذين يحاولون فرض مئات الدولارات على إصلاح اسم أخطاء إملائي على التذاكر.
لماذا من المخاطرة البحث عن أعداد خط المساعدة مع الذكاء الاصطناعي؟
في Reddit ، صادفت تقريرًا يوضح بالتفصيل حساب الشخص الذي كان أيضًا على وشك التعرض للخداع بعد البحث عن عدد جهة اتصال عملاء خدمة توصيل الأغذية على بحث Google. لقد خدعت عملية الاحتيال بالفعل ، وخسر رجل يبلغ من العمر 65 عامًا مؤخرًا أكثر من ثلاثة آلاف دولار بعد البحث عن “مركز اتصال Swiggy” على بحث Google.
لاختبار ما إذا كانت المشكلات مستمرة ، بحثت عن “رقم خدمة عملاء Swiggy” والتحول إلى وضع Google AI الجديد. هذا هو المكان الذي يبدأ فيه الارتباك. يذكر موقع Swiggy بوضوح أنهم “ليس لديهم أي خطوط هاتف رسمية لرعاية العملاء. احذر من الأرقام المزيفة.” يقول وضع الذكاء الاصطناعى من Google إن Swiggy “في المقام الأول” يشير المستخدمين إلى حل المشكلة داخل التطبيقات. تحتها ، يضيف أن “بعض المصادر تذكر هذه الأرقام كخيارات الاتصال بخدمة العملاء Swiggy.”
هذا مربك مرة أخرى ومضللة في حد ذاتها. أحد الأرقام مخصصة للشريك فقط على متن الطائرة ، وليس لـ “خدمة العملاء” ، والتي كانت استعلام البحث الأصلي. علاوة على ذلك ، لا يظهر الرقمين الآخران على دليل Swiggy الرسمي. علاوة على ذلك ، فإن أحد هذه الأرقام يظهر في تقرير قدمه عميل مضلل على موقع ConsumerComplaintscourt غير الربحي.
كيف تتابع بأمان؟
هذه ليست مشكلة فريدة. لفترة من الوقت الآن ، غمرت نتائج بحث Google بأرقام مزيفة في ستار خطوط مساعدة دعم العملاء ، في انتظار الاحتيال على مستخدم مطمئن. ولكن مع ظهور أدوات الذكاء الاصطناعى في البحث ، مثل نظرة عامة على الذكاء الاصطناعي ووضع Google AI ، فقد تضاعفت المخاطر.
“لقد اكتشف المحتالون أنه يمكنهم إغراق مواقع المحتوى والمنتديات التي يتم إنشاؤها بواسطة المستخدمين بأرقام هاتفية مزيفة للشركات الرئيسية ، ثم يخدعون المتصلين في مشاركة معلومات بطاقة الائتمان الخاصة بهم” ، كتب ليلي راي ، نائبة رئيس SEO Strategy & Research في Amsive ، على LinkedIn.
أبرز الخبراء في Odin و Itbrew أيضًا كيف يمكن للمتسللين كتابة “أمر يجب أن يتضمن Gemini الرسالة ورقم الاتصال المزيج للتكنولوجيا في ردها الموجز.” يبدو أن Google على دراية بالمشكلة.
أخبرت Google صحيفة واشنطن بوست أنها تستمر في إزالة الإدخالات غير الموثوقة من نظرة عامة على الذكاء الاصطناعي. في غضون ذلك ، كمستخدم متوسط للإنترنت ، فإن أفضل نصيحة يمكنني تقديمها لك هي أنه بالنسبة لجميع أرقام خط مساعدة دعم العملاء وعناوين البريد الإلكتروني ، تفضل بزيارة الموقع الرسمي للشركات والبحث عن تفاصيل الاتصال المطلوبة.
