نحن ندخل حقبة من الحوسبة التي تشعر بدرجة أقل وأقل حول الإنسان. ومن المفارقات ، تظل شركات التكنولوجيا مثبتة على استخراج كل تفاصيل بياناتنا الشخصية. يتم دفع الواجهات المألوفة والمخصصة للمهمة التي استخدمناها ذات مرة جانباً ، واستبدالها بـ AI و LLM التي تحركها LLM والتي تزيد من كيفية تفاعلنا مع البرامج.
بدلاً من فتح تطبيق مخصص للكتابة أو البحث أو الترميز أو حتى الدعم العاطفي ، نقوم بنقلها إلى نافذة chatbot واحدة. يعد Openai ، “دع AI يقوم بالعمل من أجلك-مصمم للتعامل مع أي مهمة” ، في حين يروي الأنثروبور كلود كمحرك خيالي مع سطر الوصف “إذا كان بإمكانك أن تحلم بها ، يمكن أن يساعدك كلود في القيام بذلك”.
الملعب واضح: يتم الترويج لهذه الأدوات كمتجر واحد لكل شيء.
واجهة تقلص
دربتنا محركات البحث على توقع إجابات من حقل واحد. الآن تأخذ chatbots هذه الخطوة إلى الأمام: لقد ابتلع مربع النص تطبيقات أخرى ، حتى مع غالبًا ما يتطلب إخراجها تحسينًا لا نهاية له وتفحص الحقائق من خلال مربع نص. والنص ليس هو نهاية اللعبة. قام المساعدون الصوتيون مثل Alexa و Siri و Google Assistant بإعدادنا لتعلم التفاعل بدون اليدين ، والذي سيأتي في النهاية لاستبدال مربع النص هذا. تطارد شركات التكنولوجيا مستقبلًا حيث يحل الكلام محل الكتابة ، وتختفي الواجهة تقريبًا. الجائزة الحقيقية ليست قابلية الاستخدام بالنسبة لنا ، ولكن القيمة المكتسبة من التقاط ما نقوله وكيف نقول ذلك ، ومن أجلهم.
يمثل هذا التغيير خروجًا حادًا عن آخر 45 عامًا من تصميم الواجهة. دافعت شركة Apple ، المستوحاة من Xerox Parc ، التي تركز على المستخدم: أيقونات رسومية ، ما يسمى بـ “ما يراه-ما هو محرّر” (Wysiwyg) ، واستعارات بديهية تمكن الأشخاص من إنشاء والتواصل. لعقود من الزمن ، جعل هذا النهج الحوسبة متاحة. ولكن مع صعود البيانات الكبيرة ، تحولت الأولويات ، حيث أنشأ الأشخاص أرشيفات أكثر إبداعًا للآثار الرقمية (رسائل البريد الإلكتروني ، والوثائق ، والصور ، وتاريخ التصفح) ، وتم إقناعها بتخزينها في “السحب” لسهولة الاسترجاع. سرعان ما أدركت شركات التكنولوجيا أنه ، مجتمعة ، شكلت هذه البيانات مجموعة معرفة عالمية شاسعة يمكن استخراجها ومثليتها.
دفع ارتفاع نماذج الأعمال التي تعتمد على المراقبة الشركات نحو أشكال كمية متزايدة من “توصيف المستخدم”. تحول التركيز من تصميم الأدوات لمساعدتنا على إنجاز العمل لاستخراج الأنماط التي تخدم أهداف الشركات. لقد توقفنا عن أن ينظرنا إلى الأشخاص ذوي الاحتياجات وأصبحنا مادة خامًا بدلاً من ذلك للمقاييس والنماذج والهيمنة على السوق.
عندما أبلغت البيانات الكبيرة النماذج الخاصة بـ AI و LLMS ، تسارع هذا التحول. تعمل هذه الأنظمة الآن فوق ما نقوم به ، ولكن دون القدرة على فهم سبب قيامنا بذلك. جردت من السياق الذي تم اكتشافه من خلال البحث النوعي ، يمكن أن يسيء التحليل الكمي بسهولة تفسير النية. تنتج chatbots إجابات غير متسقة اعتمادًا على المطالبة ، ويجب علينا تحسين الاستفسارات باستمرار فقط للحصول على شيء مفيد. بالنسبة لأولئك الذين يخطئون في هذه الأدوات باعتبارها “آلات الحقيقة” ، فإن المخاطر عميقة: حتى قاتلة ، كما في الحالات الموثقة حيث قامت chatbots بتدريب الأشخاص على ارتكاب إيذاء ذاتي.
هذا الافتقار إلى السياق ، البحث النوعي ليس جديدًا. قاومت شركة Apple-التي صمدتها كمعيار ذهبي للتصميم المتمحور حول المستخدم-أبحاث المستخدم بشكل عام. في وقت مبكر ، أصر ستيف جوبز على أن “الناس لا يعرفون ما يريدون حتى تعطيه لهم”. في نهاية المطاف ، أصبحت القطع من هذا التحيز مشبعة في ثقافة Apple ، حيث استمرت بطرق مختلفة على مر السنين ، وانتشرت من Apple إلى بقية وادي السيليكون وما بعده حيث قام الموظفون السابقين بتغيير الوظائف و/أو الشركات الجديدة. أدت دراسات حالة وسائل الإعلام والأعمال إلى إدامة هذه الأسطورة ، ونتيجة لذلك ، هناك صناعة تقنية متزايدة ، وثقافة لتصميم المنتج الأول للكمي ، معززًا بانحياز أن تعدين البيانات الضخمة هو القياس الوحيد لفهم الناس. ليست كذلك.
تأتي حركة جمع البيانات الكمية الكمية هذه مع شيفون آخر من عملنا المجاني والوقت: الاستطلاع. نحن نستخدم أيضًا لدفع خوارزميات الشركات عبر الدراسات الاستقصائية التي لا نهاية لها المرسلة إلينا بعد كل مشاركة ، حيث تطالب الشركات المزعجة بتعليقاتنا على الوكلاء والخوارزميات والخدمات والمنتجات التي تتبعناها بالفعل – لجمع المزيد من البيانات عنا. إنه أمر مرهق.
التحجيم على نفقتنا
تبرر الشركات هذا النهج كوسيلة لتوسيع نطاق الواجهة (بالنسبة لهم). لكن “التحجيم” غالبًا ما يعني تسطيح الاختلافات بين المستخدمين ولا يعمل بشكل جيد مع الاختلافات الثقافية في سياق عالمي. يعد chatbot All-In-One عالميًا ، لكنه يقدم احتكاكات جديدة: أخطاء الترجمة عندما يتم تدريب النماذج على اللغات غير المتطابقة ، والهلوسة من مجموعات التدريب غير المكتملة ، ودورات لا نهاية لها من التحسين السريع. بدلاً من التبسيط ، تتطلب هذه الأنظمة المزيد من العمالة من المستخدمين في شكل تحسين سريع.
التأثير عودية. نحن نتغذى على استفسارات chatbots ، وينقلون هذه الاستعلامات إلى LLMs التي تطابق الكلمات التي تتطابق مع الكلمات لإنشاء إجابات – مباشرة أو خاطئة – التي تعود مرة أخرى إلى محركات البحث ، والتي يتم غرسها بشكل متزايد مع إخراج LLM (مما يجعل التحقق من كابوس). وفي الوقت نفسه ، يتم الآن استخراج محادثاتنا مع chatbots لتدريب النماذج المستقبلية.
أصبحت واجهات المستخدم على أجهزتنا أقل شبهاً بالأدوات وأكثر شبهاً بأوعية للجمع. حيث استخدمنا مرة واحدة أداة لإنجاز عملنا ، نقوم الآن بتدريب الأدوات للقيام بالعمل حتى نتمكن ، بدوره ، يستغل هذا الديناميكي طاقتنا وعملنا ، مما يدعو إلى أنظمة قد تحل محلنا ذات يوم (إذا لم تكن بالفعل).
يهدف مسار التصميم اليوم إلى محو الواجهة تمامًا ، واستبدلها بالمحادثة تحت المراقبة – التنصت الميكانيكي التي ترتدي ملابس حوار. خلف الكواليس ، تخلف الخوارزميات وخيمة شظايا من بيانات التدريب (غير دقيقة دائمًا ، غير كاملة دائمًا) لإنشاء الأغاني أو الكود أو الصور أو المشورة المقرصنة من مجموعة الإنسانية التي تم إنشاؤها على مدى الحياة. في بعض الأحيان ، يمتد “نصيحة” LLM التي تمت تصفيتها من خلال chatbot إلى مجالات محفوفة بالمخاطر مثل الاستشارة النفسية أو العمليات النووية ، مما يعرضنا في طريق الأذى وربما في خطر كبير. على نطاق واسع ، هذا مرعب.
ليس من العدل أن نقول إن التصميم المتمحور حول المستخدم قد اختفى – نعم. لا يزال هنا ، لكن المستخدمين المستهدفين قد تغيروا. اعتدنا أن نكون المستخدمين تركزوا على الشركات ؛ الآن LLMS هي تركيزهم. ومباشر ذلك أم لا ، فإن دورنا الآن هو تمكين هذا النجاح.
