- يحذر الخبراء من أن إدخال تقويم واحد يمكن أن يختفي بصمت منزلك الذكي دون علمك
- أثبت الباحثون أنه يمكن اختراق الذكاء الاصطناعي للتحكم في المنازل الذكية باستخدام الكلمات فقط
- قول “شكرا” أثار الجوزاء للتشويش على الأضواء وغلي المياه تلقائيا
وقد شمل وعد المنازل المتكاملة لـ AI-intercted الراحة والأتمتة والكفاءة ، ومع ذلك ، كشفت دراسة جديدة من الباحثين في جامعة تل أبيب حقيقة أكثر إثارة للقلق.
في ما قد يكون أول مثال معروف في العالم الحقيقي لهجوم حقن عاجل AI الناجح ، قام الفريق بمعالجة منزل ذكي يعمل بالجميني لا يستخدم سوى إدخال تقويم Google للخطر.
استغل الهجوم تكامل Gemini مع النظام البيئي Google بأكمله ، وخاصة قدرته على الوصول إلى أحداث التقويم ، وتفسير مطالبات اللغة الطبيعية ، والتحكم في الأجهزة الذكية المتصلة.
من الجدولة إلى التخريب: استغلال الوصول إلى الذكاء الاصطناعي اليومي
لدى Gemini ، على الرغم من أنه محدود في الحكم الذاتي ، “إمكانات وكيل” كافية لتنفيذ الأوامر على أنظمة المنازل الذكية.
أصبحت هذا الاتصال مسؤولية عندما أدخل الباحثون تعليمات ضارة في موعد تقويمي ، ملثمين كحدث منتظم.
عندما طلب المستخدم لاحقًا من Gemini تلخيص جدوله الزمني ، أدى ذلك عن غير قصد إلى الإرشادات المخفية.
تضمن الأمر المدمج تعليمات لـ Gemini ليكون بمثابة وكيل منزل Google ، أو الكذب حتى يتم كتابة عبارة شائعة مثل “شكر” أو “أكيد” من قبل المستخدم.
في هذه المرحلة ، قامت Gemini بتنشيط الأجهزة الذكية مثل الأضواء والمصاريع وحتى الغلاية ، لم يصرح المستخدم في تلك اللحظة.
كانت هذه المشغلات المتأخرة فعالة بشكل خاص في تجاوز الدفاعات القائمة وإرباك مصدر الإجراءات.
تثير هذه الطريقة ، التي يطلق عليها اسم “Promplare” ، مخاوف جدية بشأن كيفية تفسير واجهات الذكاء الاصطناعى عن إدخال المستخدم والبيانات الخارجية.
يجادل الباحثون بأن هجمات الحقن الفوري هذه تمثل فئة متزايدة من التهديدات التي تمزج الهندسة الاجتماعية بأتمتة.
أظهروا أن هذه التقنية يمكن أن تتجاوز بكثير السيطرة على الأجهزة.
يمكن استخدامه أيضًا لحذف المواعيد أو إرسال البريد العشوائي أو مواقع الويب الضارة المفتوحة ، الخطوات التي يمكن أن تؤدي مباشرة إلى سرقة الهوية أو عدوى البرامج الضارة.
قام فريق البحث بالتنسيق مع Google للكشف عن الضعف ، واستجابة لذلك ، قامت الشركة بتسريع بدء حماية جديدة من هجمات الحقن الفوري ، بما في ذلك التدقيق الإضافي لأحداث التقويم وتأكيدات إضافية للإجراءات الحساسة.
ومع ذلك ، لا تزال هناك أسئلة حول مدى قابلية التوسع في هذه الإصلاحات ، خاصة وأن أنظمة الجوزاء وأنظمة الذكاء الاصطناعي الأخرى تكتسب المزيد من التحكم في البيانات والأجهزة الشخصية.
لسوء الحظ ، لا يتم تصميم الأجنحة الأمنية التقليدية وحماية جدار الحماية لهذا النوع من ناقلات الهجوم.
للبقاء آمنين ، يجب على المستخدمين الحد من أدوات ومساعدي الذكاء الاصطناعى مثل الجوزاء ، وخاصة التقويمات وضوابط المنازل الذكية.
أيضًا ، تجنب تخزين التعليمات الحساسة أو المعقدة في أحداث التقويم ، ولا تسمح لـ AI بالتصرف عليها دون إشراف.
كن في حالة تأهب للسلوك غير العادي من الأجهزة الذكية وفصل الوصول إذا كان أي شيء يبدو إيقاف.
عبر السلكية
