KI-Tools, die in der Lage sind, aus Texten Bilder zu erzeugen, haben die visuelle Gestaltung revolutioniert. Dennoch reproduzieren diese Technologien oft die sozialen Stereotype, die in den Daten vorhanden sind, mit denen sie trainiert wurden. Eine aktuelle Analyse hat untersucht, wie f\u00fcnf beliebte Modelle Portr\u00e4ts von Menschen aus zehn amerikanischen L\u00e4ndern erzeugen. Die Ergebnisse zeigen systematische Abweichungen zwischen den erzeugten Darstellungen und der demografischen Realit\u00e4t.<\/p>\n
Die Forscher nutzten beschreibende Texte, die sich auf die Nationalit\u00e4t bezogen, um diese Systeme zur Erstellung von Portr\u00e4ts aufzufordern. Anschlie\u00dfend verglichen sie die Merkmale der generierten Gesichter mit den offiziellen Volksz\u00e4hlungsdaten. Dabei zeigte sich, dass die Modelle bestimmte Merkmale \u00fcberbetonen und andere ignorieren \u2013 je nach Land. So werden lateinamerikanische L\u00e4nder h\u00e4ufig mit indigenen Archetypen assoziiert, w\u00e4hrend Kanada und die USA vor allem durch wei\u00dfe Gesichter repr\u00e4sentiert werden. Diese Verzerrungen zeigen sich sowohl in der Analyse der Bilder als auch in deren Interpretation durch andere KI-Systeme.<\/p>\n
Die Studie zeigt auch eine \u00dcberrepr\u00e4sentation von M\u00e4nnern in den meisten Modellen, mit Ausnahme eines Modells, das Frauen bevorzugt. Die kulturellen und demografischen Unterschiede zwischen den Nationen werden nicht ber\u00fccksichtigt, was ein gro\u00dfes ethisches Problem darstellt. Diese Verzerrungen k\u00f6nnen Stereotype verst\u00e4rken und ganze soziale Gruppen unsichtbar machen, insbesondere wenn diese Bilder in Medien, Design oder Bildung eingesetzt werden.<\/p>\n
Um diese Abweichungen zu bewerten, kombinierten die Wissenschaftler mehrere Methoden. Zuerst verwendeten sie einen Klassifikator, der Bilder nach ihrer visuellen \u00c4hnlichkeit gruppiert. Anschlie\u00dfend ma\u00dfen sie die Distanz zwischen den durchschnittlichen Darstellungen jedes Landes und denen der ethnischen oder geschlechtsspezifischen Gruppen. Schlie\u00dflich analysierte ein sprachliches Modell die Portr\u00e4ts, um die wahrgenommenen Attribute zu identifizieren. Diese erg\u00e4nzenden Ans\u00e4tze best\u00e4tigen, dass die Verzerrungen nicht nur das Aussehen betreffen, sondern auch die Art und Weise, wie diese Bilder interpretiert werden.<\/p>\n
Die Ergebnisse unterstreichen die Bedeutung, KI-Systeme unter Ber\u00fccksichtigung geografischer und kultureller Kontexte zu bewerten. Ohne diese Wachsamkeit riskieren die Systeme, reduzierte und ungenaue Vorstellungen von menschlicher Vielfalt zu verewigen. Ein solcher Ansatz ist entscheidend, um gerechtere und transparente Technologien zu entwickeln, die die Vielfalt der Identit\u00e4ten weltweit authentisch widerspiegeln k\u00f6nnen.<\/p>\n
DOI\u00a0:<\/strong> https:\/\/doi.org\/10.1007\/s43681-026-01066-7<\/a><\/p>\n Titre\u00a0:<\/strong> Bias beyond borders: quantifying gender and ethnic stereotypes across countries in AI image generation<\/p>\n Revue : <\/strong> AI and Ethics<\/p>\n \u00c9diteur : <\/strong> Springer Science and Business Media LLC<\/p>\n Auteurs : <\/strong> Giovanni Franco; Regilene Aparecida Sarzi-Ribeiro; Jo\u00e3o Paulo Papa; Kelton Augusto Pontara da Costa; Felipe Mahlow<\/p>\n","protected":false},"excerpt":{"rendered":" Erzeugen K\u00fcnstliche Intelligenzen weltweite Vielfalt repr\u00e4sentierende Bilder? KI-Tools, die in der Lage sind, aus Texten Bilder zu erzeugen, haben die visuelle Gestaltung revolutioniert. Dennoch reproduzieren diese Technologien oft die sozialen Stereotype, die in den Daten vorhanden sind, mit denen sie trainiert wurden. Eine aktuelle Analyse hat untersucht, wie f\u00fcnf beliebte Modelle Portr\u00e4ts von Menschen aus… Erzeugen K\u00fcnstliche Intelligenzen weltweite Vielfalt repr\u00e4sentierende Bilder?<\/span> weiterlesen<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2,5],"tags":[],"class_list":["post-17","post","type-post","status-publish","format-standard","hentry","category-gesellschaft","category-international","entry"],"_links":{"self":[{"href":"https:\/\/truthly.media\/de\/wp-json\/wp\/v2\/posts\/17","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/truthly.media\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/truthly.media\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/truthly.media\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/truthly.media\/de\/wp-json\/wp\/v2\/comments?post=17"}],"version-history":[{"count":1,"href":"https:\/\/truthly.media\/de\/wp-json\/wp\/v2\/posts\/17\/revisions"}],"predecessor-version":[{"id":18,"href":"https:\/\/truthly.media\/de\/wp-json\/wp\/v2\/posts\/17\/revisions\/18"}],"wp:attachment":[{"href":"https:\/\/truthly.media\/de\/wp-json\/wp\/v2\/media?parent=17"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/truthly.media\/de\/wp-json\/wp\/v2\/categories?post=17"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/truthly.media\/de\/wp-json\/wp\/v2\/tags?post=17"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}