على الرغم من مليارات الدولارات من استثمار الذكاء الاصطناعى ، فإن Gemini من Google قد ناضلت دائمًا مع توليد الصور. لطالما شعرت طراز Flash 2.5 للشركة بأنه جانب جانبي مقارنة بالمولدات الأفضل بكثير من أمثال Openai و Midjourney و Ideogram.
لقد تغير كل هذا الأسبوع الماضي مع إصدار صورة Nano Banana الجديدة من Google. إن نظام New System New System Live Most لمعظم مستخدمي Gemini ، وقدراته مجنونة.
لكي نكون واضحين ، لا يزال موز نانو تمتص في توليد صور جديدة لمنظمة العفو الدولية.
لكنه يتفوق على شيء أكثر قوة ، وربما شريرة – تحرير الصور الحالية لإضافة عناصر لم تكن موجودة أبدًا ، بطريقة سلسة ومقنعة لدرجة أنه حتى الخبراء مثلي لا يستطيعون اكتشاف التغييرات.
وهذا يجعل موز نانو (والنسخات الحتمية) أدوات إبداعية لا تقدر بثمن وتهديد وجودي لجدارة الصور – جديدة وتاريخية.
باختصار ، مع أدوات مثل هذه في العالم ، لا يمكنك أبدًا الوثوق في صورة تراها عبر الإنترنت مرة أخرى.
تعال
بمجرد أن أصدرت Google Nano Banana ، بدأت في وضعه في خطواته. الكثير من الأمثلة على الإنترنت-بما في ذلك-بما في ذلك-التركيز على استخدامات Cutesy والممتعة لقدرات تحرير الصور القوية ل Nano Banana.
في اختباري المبكر ، وضعت كلبي ، لانس ، في مشهد شارع باريسي مليء بأكوام من الموز وأظهرت كيف سأبدو أرتدي قبعة تيلفي إيرفلو. (الجواب: جيد جدا.)
على الفور ، على الرغم من ذلك ، رأيت إمكانات النظام لتوليد المعلومات الخاطئة. لإظهار ذلك على المستوى الأساسي ، حاولت تحرير رأس بلدي المحترف القياسي لوضع نفسي في مجموعة متنوعة من المشاهد في جميع أنحاء العالم.
إليكم عرض Nano Banana على شاطئ في ماوي.
إذا قمت بزيارة Wailea Beach ، فسوف تتعرف على الشكل الواقعي للغاية لجبال West Maui في تركيز ناعم في الخلفية.
كما وضعت نفسي على قمة جبل إفرست. تبدو حديدي مقنعة – حقيقة أنني ما زلت أرتدي Travis Matthew Polo ، أقل من ذلك.
200 حشد
هذه الأمثلة الشخصية ممتعة. أنا متأكد من أنه يمكنني نشر صورة Maui Beach على وسائل التواصل الاجتماعي وأتوقع على الفور مجموعة من التعليقات من الأصدقاء يسألون كيف استمتعت برحلتي.
لكنني كنت بعد شيء أكبر. أردت أن أرى كيف سيفعل موز نانو في إنتاج معلومات مضللة مع إمكانية التأثير الحقيقي.
خلال الانتخابات الرئاسية في العام الماضي هنا في أمريكا ، حلقت اتهامات من الذكاء الاصطناعي بين المرشحين. في مثال سيئ السمعة بشكل خاص ، اتهم الرئيس الآن دونالد ترامب حملة كامالا هاريس لاستخدام الذكاء الاصطناعى لتزوير حجم الحشد خلال تجمع حملة.
تدعم جميع الروايات ذات السمعة الطيبة للحدث حقيقة أن صور رالي هاريس كانت حقيقية. لكنني تساءلت عما إذا كان بإمكان Nano Banana إنشاء بصرية مزيفة لحشد أصغر بكثير ، وذلك باستخدام صورة Rally الحقيقية كمدخلات.
ها هي النتيجة:
تبدو النسخة المعدلة واقعية للغاية ، جزئياً لأنها تحتفظ بتفاصيل محددة من الصورة الفعلية ، مثل الأشخاص الموجودين في المقدمة التي تحمل علامات وهواتف هاريس والز.
لكن الصورة المزيفة تعطي المظهر أن حوالي 200 شخص حضر الحدث فقط وتركزوا بكثافة في مساحة صغيرة بعيدًا عن الطائرة ، تمامًا كما ادعت حملة ترامب.
إذا كان نانو موز موجودًا في وقت الجدل ، فيمكنني بسهولة رؤية صورة مصنوعة من الذكاء الاصطناعي مثل هذا الانتشار على وسائل التواصل الاجتماعي ، كدليل على أن الحشد الأصلي كان أصغر مما ادعى هاريس.
من قبل ، كان إنشاء نسخة تم تغييرها بعناية من صورة حقيقية مع أدوات مثل Photoshop قد أخذ أيام محرر ماهرة – حيث أن النتيجة تتاح لها فرصة كبيرة في الوصول إلى دورة الأخبار وتغيير الروايات.
الآن ، مع محرري الذكاء الاصطناعى الأقوياء ، يمكن أن يغير ممثل سيء يرغب في نشر المعلومات الخاطئة الصور بشكل مقنع في ثوانٍ ، دون أي ميزانية أو مهارات تحرير.
تطيرني إلى القمر
بعد اختبار مثال من يومنا هذا ، قررت تحويل انتباهي إلى حدث تاريخي أسفر عن عدد لا يحصى من نظريات المؤامرة: هبوط القمر 1969.
غالبًا ما يزعم المتصدرون أن هبوط القمر قد تم تنظيمه في الاستوديو. مرة أخرى ، لا يوجد دليل فعلي لدعم هذا. لكنني تساءلت عما إذا كانت أدوات مثل نانو موز يمكن أن تزييف بعض.
لمعرفة ذلك ، سلمت نانو موز صورة حقيقية لناسا لرواد الفضاء الطنانة على القمر.
ثم طلبت منها التظاهر بأن الصورة كانت مزيفة ، وإظهار أن يتم إنشاؤها في استوديو صور مناسب.
الصورة الناتجة مثيرة للإعجاب في تفاصيلها المتخيلة. مجموعة من الرجال (كانت ناسا في الستينيات-بالطبع جميعهم رجال!) في الملابس الدقيقة في فترة صوتية مع خلفية سماء مزيفة ، ريجوليث القمري المزيف على الأرض ، و Prop Moon Lander.
في وسط Regolith يقف ممثلًا في بدلة فضائية ، فإن موقفه يتطابق تمامًا مع الأمام الطفيفة في الصورة الفعلية. يتم تكديس مختلف الشقق والمعدات المسرحية الأخرى بشكل غير متجانس على جانبي الغرفة.
كمصور محترف في الحياة الواقعية ، يمكنني أن أؤكد حقيقة أن التفاصيل الفنية في صورة موز نانو موجودة. يقف ضوء مفتاح عملاق فوق ممثل رائد الفضاء في الإضاءة المشرقة الخالية من الجو على سطح القمر ، في حين توفر أدوات الإضاءة المختلفة ظلال مطابقة تمامًا لظلال Lunar Lander في الصورة الحقيقية.
يربط المصور على الأرض ، ويستحوذ على ممثل رائد الفضاء المتخيل من زاوية من شأنها أن تتطابق بالفعل مع الزاوية في صورة الحياة الواقعية. حتى الإضاءة الفريدة على العلم الأمريكي المليء قليلاً – مع ظل دائري صغير في منتصف العلم – يصيب الصورة الحقيقية.
باختصار ، إذا كنت ستزوير هبوط القمر ، فإن Soundstage المتخيلة من Nano Banana سيكون إعدادًا فوتوغرافيًا معقولًا للاستخدام.
إذا قمت بنشر صورة AI على وسائل التواصل الاجتماعي مع تعليق مثل “تم الكشف عنها! في أعماق أرشيف ناسا ، وجدنا صورة تثبت أن هبوط القمر قد تم تنظيمه. لا تريدك الحكومة الفيدرالية أن ترى هذا التستر” ، أنا متأكد من أن كتلة حرجة من الناس ستصدقونها.
ولكن لماذا تتوقف عند هذا الحد؟ بعد استخدام موز نانو لتهوية الهبوط على القمر ، اعتقدت أنني سأعود إلى الأوقات إلى التاريخ. أعطيت النظام صورة رايت براذرز الشهيرة لعام 1903 لرحلته الأولى في كيتي هوك ، وطلبت من النظام أن يتخيل أنه تم تنظيمه أيضًا.
من المؤكد أن موز نانو أضاف موقفًا ذا عجلات دقيق إلى الطائرة.
من المفترض أن يتم تصوير الطائرة على هذا المنصة ذات العجلات ، والتي يمكن بعد ذلك إخفاءها في الغرفة المظلمة لإنتاج الصورة المميزة التي رأيناها جميعًا أعيد طبعها في الكتب المدرسية للقرن الماضي.
لا تصدق شيئًا
من نواح كثيرة ، نانو موز ليس بالأمر الجديد. كان الناس يدرسون الصور طالما كانوا يأخذونها.
صورة مبدعة لأبراهام لنكولن من عام 1860 هي في الواقع مركب من رأس لينكولن وجسم السياسي جون كالهون أكثر بكثير ، وأمثلة أخرى من التلاعب التاريخي بالتصوير الفوتوغرافي.
ومع ذلك ، فإن السهولة والسرعة التي يمكن أن يغير بها موز نانو الصور الجديدة. من قبل ، استغرق إنشاء مزيف مقنع المهارة والوقت. الآن ، يستغرق الأمر مطالبة مكتوبة بذكاء وبضع ثوان.
يرجع الفضل في ذلك ، فإن Google تدرك جيدًا هذه المخاطر ، وتتخذ خطوات مهمة للدفاع عنها.
تأتي كل صورة تم إنشاؤها بواسطة Nano Banana مع علامة مائية (سهلة الإزالة) في الزاوية اليمنى السفلية ، بالإضافة إلى علامة مائية رقمية (صعبة) (من الصعب إزالتها) مدمجة بشكل غير مرئي في وحدات البكسل الخاصة بالصورة.
يسافر هذا العلامة المائية الرقمية بالصورة ، ويمكن قراءته باستخدام برنامج خاص. إذا بدأت صورة موز نانو مزيفة في جعل الجولات عبر الإنترنت ، فمن المفترض أن Google يمكن أن تقوم بالمسح الضوئي لخللها المدمج وتؤكد بسرعة أنها مزيفة. من المحتمل أن يتتبعوا مصدرها لمستخدم الجوزاء الذي أنشأه.
أخبرني علماء Google أن Synthid يمكن أن ينجو من التكتيكات المشتركة التي يستخدمها الناس لإخفاء أصل الصورة. إن اقتصاص صورة ، أو حتى التقاط لقطة شاشة لها ، لن يزيل السينثيد المدمج.
لدى Google أيضًا مجموعة قوية من السياسات التي تحكم استخدام موز نانو. من المحتمل أن يحظر إنشاء صور مزيفة بقصد خداع الأشخاص مستخدمًا ، مع إنشاءها لأغراض فنية أو بحثية ، كما فعلت في هذه المقالة ، بشكل عام.
ومع ذلك ، بمجرد نشر تقنية AI الجديدة الرائدة من مزود واحد ، يقوم آخرون بنسخها بسرعة. لن تكون جميع شركات توليد الصور حريصة على الأصل والأمان مثل Google.
القط (المرصع بالنورستون ، وأحيانًا تصفح) خارج الحقيبة ؛ الآن بعد وجود أدوات مثل Nano Banana ، نحتاج إلى افتراض أن كل صورة نراها عبر الإنترنت كان يمكن إنشاءها مع صورة واحدة. يعد Nano Banana و ilk جيدًا لدرجة أنه حتى خبراء التصوير الفوتوغرافيين مثلي لن يتمكنوا من اكتشاف مزيفها بشكل موثوق.
كمستخدمين ، نحتاج بالتالي إلى أن نكون متشككين باستمرار في الصور المرئية. بدلاً من الوثوق بأعيننا ونحن نتصفح الإنترنت ، فإن اللجوء الوحيد لدينا هو التحول إلى السمعة والمنفعة ومحو الأمية الإعلامية القديمة الجيدة لحماية أنفسنا من مزيف.
الآن ، إذا كنت ستعذرني ، فإن Burning Man ينتهي للتو ، ويجب أن أعود حقًا إلى الاحتفالات.
