هل ذكاءات الاصطناع تولد صورًا تمثل التنوع العالمي؟

أدوات الذكاء الاصطناعي القادرة على إنشاء صور من النصوص ثورت الإبداع البصري. ومع ذلك، غالبًا ما تعيد هذه التقنيات إنتاج الصور النمطية الاجتماعية الموجودة في البيانات المستخدمة لتدريبها. تحليل حديث فحص كيف يولد خمسة نماذج شائعة صورًا لشخصيات من عشرة بلدان في الأمريكتين. أظهرت النتائج وجود فجوات منهجية بين التمثيلات المنتجة والواقع الديموغرافي.

استخدم الباحثون أوصافًا قائمة على الجنسية لطلب إنشاء صور شخصيات من هذه الأنظمة. ثم قارنوا خصائص الوجوه المولدة مع البيانات الرسمية للتعدادات السكانية. تبين أن النماذج تبالغ في بعض السمات وتهمل أخرى، حسب البلدان. على سبيل المثال، ترتبط دول أمريكا اللاتينية غالبًا بالنماذج الأصلية، بينما يتم تمثيل كندا والولايات المتحدة أساسًا بوجوه بيضاء. تظهر هذه التشوهات سواء في تحليل الصور أو في تفسيرها بواسطة ذكاءات اصطناعية أخرى.

كشفت الدراسة أيضًا عن تمثيل مفرط للرجال في معظم النماذج، باستثناء واحد منها الذي يفضل النساء. لا تُحترم الاختلافات الثقافية والديموغرافية بين الأمم، مما يشكل مشكلة أخلاقية كبرى. في الواقع، يمكن لهذه التحيزات تعزيز الصور النمطية ومحو مجموعات اجتماعية بأكملها، خاصة عندما تُستخدم هذه الصور في وسائل الإعلام والتصميم والتعليم.

لتقييم هذه الفجوات، جمع العلماء عدة طرق. أولًا، استخدموا مصنفًا يجمع الصور وفقًا لتشابهها البصري. ثم قاسوا المسافة بين التمثيلات المتوسطة لكل بلد وتلك الخاصة بالمجموعات العرقية أو الجنسانية. أخيرًا، حلل نموذج لغوي الصور لتحديد السمات المتصورة. تؤكد هذه المقاربات المتكاملة أن التحيزات لا تتعلق بالمظهر فقط، بل أيضًا بطريقة تفسير هذه الصور.

تشدد النتائج على أهمية تقييم ذكاءات الاصطناع مع مراعاة السياقات الجغرافية والثقافية. بدون هذه اليقظة، قد تستمر الأنظمة في إدامة رؤى مختصرة وغير دقيقة للتنوع البشري. مثل هذا النهج ضروري لتطوير تقنيات أكثر عدالة وشفافية، قادرة على عكس ثراء الهويات في جميع أنحاء العالم بدقة.

Bibliographie

Source de l’étude

DOI : https://doi.org/10.1007/s43681-026-01066-7

Titre : Bias beyond borders: quantifying gender and ethnic stereotypes across countries in AI image generation

Revue : AI and Ethics

Éditeur : Springer Science and Business Media LLC

Auteurs : Giovanni Franco; Regilene Aparecida Sarzi-Ribeiro; João Paulo Papa; Kelton Augusto Pontara da Costa; Felipe Mahlow