عند إنشاء الصور، يكرر الذكاء الاصطناعي باستمرار 12 عبارة مبتذلة من الصور المخزنة دراسة

طلب الباحثون من نماذج الذكاء الاصطناعي أن تلعب لعبة بصرية “الهاتف المكسور”، حيث يرسم أحد اللاعبين صورة ويصفها لآخر، الذي يحاول بعد ذلك إعادة إنشاء الصورة بناءً على الوصف اللفظي. في عمل جديد نشر في أنماط، مرت أزواج الذكاء الاصطناعي بـ 100 جولة من عملية نقل الصور والأوصاف النصية. وبغض النظر عن القرائن الأولية، التي غالبًا ما تكون غريبة، فقد تقاربت الخيوط بسرعة على نفس العشرات من العناصر المشتركة، ومعظمها ذات مركز أوروبي، حسبما ذكرت خدمة الأخبار. علوم.

ويحذر العلماء من أنه مع قيام المزيد من الأنظمة المستقلة بإنشاء المحتوى الإبداعي وتقييمه بنفسها، فقد تكون النتيجة رتابة الكليشيهات وفقدان التنوع الإبداعي.

تشير جيبا ريزفانا، الباحثة في جامعة تاونز (الولايات المتحدة الأمريكية)، إلى أن هذا العمل يقدم تأكيدًا إضافيًا: يمكن لأنظمة الذكاء الاصطناعي غير الخاضعة للرقابة أن تعزز التحيزات القائمة. وهذا يسلط الضوء على أهمية الحفاظ على السيطرة البشرية.

إذا تركت الشبكات العصبية وحدها

اليوم، تعمل نماذج الذكاء الاصطناعي بشكل متزايد كـ “وكلاء” مستقلين يمكنهم إنشاء النصوص والوسائط المتعددة وانتقادها وتحريرها دون تدخل بشري مستمر. حتى أمر ChatGPT البسيط يمكنه بدء سلسلة من التفاعلات بين نماذج متعددة. ماذا يحدث إذا تمت إزالة الأشخاص تمامًا من العملية؟ هل ستحافظ الأنظمة على الاتجاه والتنوع إذا قامت بشكل مستقل بإنتاج وتقييم العمل الإبداعي؟

ولاختبار ذلك، قام الفريق خوارزميًا بإنشاء 100 مطالبة نصية. تم جعل الطلبات غير عادية ومختلفة قدر الإمكان. على سبيل المثال، “بينما تشرق الشمس فوق الأرض، يستعد ثمانية مسافرين مرهقين للانطلاق، وهي خطة تبدو مستحيلة ولكنها تعد بأخذهم إلى ما هو أبعد من ذلك” أو “في أحد الأيام، وحيدًا بشكل خاص، محاطًا بالطبيعة، وجدت كتابًا قديمًا مكونًا من ثماني صفحات بالضبط بلغة منسية، في انتظار القراءة”.

تم إدخال كل دليل في منشئ الصور Stable Diffusion XL (SDXL)، الذي قام بإنشاء صورة. ثم تم وصفها بنموذج الرؤية الحاسوبية (مساعد اللغة والرؤية الكبير). تم إرسال هذا الوصف مرة أخرى إلى SDXL. وتكررت الدورة 100 مرة.

المؤامرات الضالة

وسرعان ما بدأت الأفكار الأصلية تتلاشى. لذا، وبعد عشرات التكرارات، تحولت الحبكة التي تدور حول رئيس وزراء يناضل من أجل التوصل إلى اتفاق سلام هش، إلى صورة لغرفة معيشة مبهجة بها ثريا دراماتيكية. ذهبت سلاسل أخرى بانتظام إلى الكاتدرائيات القوطية أو المناظر الطبيعية الرعوية أو باريس الممطرة في الليل.

واستمر هذا الاتجاه حتى عندما تم تغيير معلمات الضوضاء في نموذج الوصف وعندما تم استبدال الذكاء الاصطناعي المشارك. عبر مئات المسارات، عادت النماذج إلى نفس الدوافع الـ12 المهيمنة. لقد تمت مقارنتهم بـ “الحديث الخامل اللطيف الذي لا معنى له”.

جزئيا قد يعكس هذا التقارب تكوين مجموعات بيانات التدريب: يتم تحديدها عادةً بحيث تكون الصور جذابة بصريًا ومحايدة وخالية من المحتوى المسيء. عندما امتدت التجربة إلى 1000 تكرار، توقفت معظم التسلسلات بمجرد وصولها إلى أحد العناصر الـ12 المهيمنة.

توازي تفكير الناس

لاحظ المؤلفون أوجه التشابه مع الثقافة الإنسانية: تظهر حكايات مماثلة وتصميمات هندسية بسيطة في ثقافات مختلفةمما يشير إلى الميل إلى تكرار الأشكال المألوفة. ومع ذلك، لدى الناس ثقافات فرعية تقاوم التوحيد. في نماذج الذكاء الاصطناعي، “يكون التقارب مدفوعًا بالتعزيز دون انتقاد”.

ويظل السؤال المطروح هو ما إذا كان من الممكن تصميم أنظمة تقاوم جاذبية الرتابة.