Las herramientas de inteligencia artificial capaces de crear im\u00e1genes a partir de texto han revolucionado la creaci\u00f3n visual. Sin embargo, estas tecnolog\u00edas suelen reproducir los estereotipos sociales presentes en los datos utilizados para entrenarlas. Un an\u00e1lisis reciente examin\u00f3 c\u00f3mo cinco modelos populares generan retratos de personas de diez pa\u00edses de Am\u00e9rica. Los resultados muestran diferencias sistem\u00e1ticas entre las representaciones producidas y la realidad demogr\u00e1fica.<\/p>\n
Los investigadores utilizaron descripciones basadas en la nacionalidad para pedir a estos sistemas que crearan retratos. Luego compararon las caracter\u00edsticas de los rostros generados con los datos oficiales de los censos. De esto se desprende que los modelos acent\u00faan ciertos rasgos e ignoran otros, seg\u00fan los pa\u00edses. Por ejemplo, los pa\u00edses de Am\u00e9rica Latina suelen asociarse con arquetipos aut\u00f3ctonos, mientras que Canad\u00e1 y Estados Unidos est\u00e1n representados principalmente por rostros blancos. Estas distorsiones aparecen tanto en el an\u00e1lisis de las im\u00e1genes como en su interpretaci\u00f3n por parte de otras inteligencias artificiales.<\/p>\n
El estudio tambi\u00e9n revela una sobrerrepresentaci\u00f3n de los hombres en la mayor\u00eda de los modelos, excepto en uno de ellos que favorece a las mujeres. Las diferencias culturales y demogr\u00e1ficas entre las naciones no se respetan, lo que plantea un problema \u00e9tico mayor. De hecho, estos sesgos pueden reforzar estereotipos y borrar grupos sociales enteros, especialmente cuando estas im\u00e1genes se utilizan en los medios, el dise\u00f1o o la educaci\u00f3n.<\/p>\n
Para evaluar estas discrepancias, los cient\u00edficos combinaron varios m\u00e9todos. Primero, utilizaron un clasificador que agrupa las im\u00e1genes seg\u00fan su similitud visual. Luego, midieron la distancia entre las representaciones promedio de cada pa\u00eds y las de los grupos \u00e9tnicos o de g\u00e9nero. Finalmente, un modelo ling\u00fc\u00edstico analiz\u00f3 los retratos para identificar los atributos percibidos. Estos enfoques complementarios confirman que los sesgos no solo afectan la apariencia, sino tambi\u00e9n la manera en que se interpretan estas im\u00e1genes.<\/p>\n
Los resultados subrayan la importancia de evaluar las inteligencias artificiales considerando los contextos geogr\u00e1ficos y culturales. Sin esta vigilancia, los sistemas corren el riesgo de perpetuar visiones reductivas e inexactas de la diversidad humana. Un enfoque de este tipo es esencial para desarrollar tecnolog\u00edas m\u00e1s equitativas y transparentes, capaces de reflejar fielmente la riqueza de las identidades en todo el mundo.<\/p>\n
DOI\u00a0:<\/strong> https:\/\/doi.org\/10.1007\/s43681-026-01066-7<\/a><\/p>\n Titre\u00a0:<\/strong> Bias beyond borders: quantifying gender and ethnic stereotypes across countries in AI image generation<\/p>\n Revue : <\/strong> AI and Ethics<\/p>\n \u00c9diteur : <\/strong> Springer Science and Business Media LLC<\/p>\n Auteurs : <\/strong> Giovanni Franco; Regilene Aparecida Sarzi-Ribeiro; Jo\u00e3o Paulo Papa; Kelton Augusto Pontara da Costa; Felipe Mahlow<\/p>\n","protected":false},"excerpt":{"rendered":" \u00bfGeneran las inteligencias artificiales im\u00e1genes representativas de la diversidad mundial? Las herramientas de inteligencia artificial capaces de crear im\u00e1genes a partir de texto han revolucionado la creaci\u00f3n visual. Sin embargo, estas tecnolog\u00edas suelen reproducir los estereotipos sociales presentes en los datos utilizados para entrenarlas. Un an\u00e1lisis reciente examin\u00f3 c\u00f3mo cinco modelos populares generan retratos de… Seguir leyendo \u00bfGeneran las inteligencias artificiales im\u00e1genes representativas de la diversidad mundial?<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3,5,2],"tags":[],"class_list":["post-17","post","type-post","status-publish","format-standard","hentry","category-ciencia-y-tecnologia","category-internacional","category-sociedad","entry"],"_links":{"self":[{"href":"https:\/\/truthly.media\/es\/wp-json\/wp\/v2\/posts\/17","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/truthly.media\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/truthly.media\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/truthly.media\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/truthly.media\/es\/wp-json\/wp\/v2\/comments?post=17"}],"version-history":[{"count":1,"href":"https:\/\/truthly.media\/es\/wp-json\/wp\/v2\/posts\/17\/revisions"}],"predecessor-version":[{"id":18,"href":"https:\/\/truthly.media\/es\/wp-json\/wp\/v2\/posts\/17\/revisions\/18"}],"wp:attachment":[{"href":"https:\/\/truthly.media\/es\/wp-json\/wp\/v2\/media?parent=17"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/truthly.media\/es\/wp-json\/wp\/v2\/categories?post=17"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/truthly.media\/es\/wp-json\/wp\/v2\/tags?post=17"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}