15.11.2023 
Künstliche Intelligenz als unvoreingenommenes „Wundermittel“? Midjourney im Bias-Test
Stereotype prägen das menschliche Denken und Handeln maßgeblich. Künstliche Intelligenz wird in diesem Zusammenhang oft als unvoreingenommenes „Wundermittel“ dargestellt. Dass diese Zuschreibung (noch) nicht der Realität entspricht, zeigt unter anderem ein Midjourney-Kurzexperiment.
Das menschliche Gehirn ist der ständigen Flut an Reizen in der schnelllebigen modernen Welt nicht gewachsen – (soziale) Kategorisierung hilft, die komplexe Welt besser verstehen und verarbeiten zu können.[1] Dieser Bewältigungsmechanismus ist zwar essenziell für das Zurechtfinden in der heutigen Gesellschaft, hat aber auch negative Auswirkungen: Er ist etwa maßgeblich an der Bildung von Stereotypen und Vorurteilen beteiligt.[2] Diese kognitiven Prozesse laufen zwar weitestgehend automatisch und unterbewusst ab, können jedoch beeinflusst und sogar unterbunden werden.[3] Hilfreich kann in diesem Zusammenhang unter anderem Implicit- bzw. Unconscious Bias-Training sein, das darauf abzielt, unterbewusste Voreingenommenheit zu thematisieren und diese ins Bewusstsein zu rufen, um sie abzubauen.
Künstliche Intelligenz als Wundermittel gegen Bias?
Dass auch KI-Tools solche Trainings gebrauchen könnten, zeigt sich schon in einem Kurzexperiment auf der Bildgenerierungs-Plattform Midjourney. Bittet man das Tool darum, „a pr consultant from vienna austria“ zu erstellen, entstehen weitestgehend täuschend realistische Ergebnisse, die stereotypenbehafteter kaum sein könnten – es lächelt eine junge, hellhäutige, männlich gelesene und den in unseren Breiten gängigen Schönheitsidealen in jeglicher Form entsprechende Person ohne sichtbare Behinderung vom Bildschirm. Ähnlich sehen die Ergebnisse aus, wenn man um „a communications team from vienna austria“ bittet – auch wenn hier drei der sechs Personen immerhin als weiblich gelesene generiert werden, steht im Zentrum weiterhin ein männlich gelesenes Individuum und die Gruppe entbehrt jeglicher Diversität.
Es wird klar: Auch KI-Tools operieren nicht so unvoreingenommen und „neutral“ wie oftmals erhofft. Das ist durchaus ein zu erwartendes Ergebnis, werden diese Programme doch mit realen Daten „gefüttert“ und trainiert. Die Entwicklung und das Training der Tools liegen zudem in der Hand von Menschen, deren eigene Denkmuster (oft unbewusst) in die Datensätze und damit in die entstehenden Kreationen einfließen.[4]
Richtiger Umgang mit KI-generierten Bildern
Wäre es also besser, künstliche Intelligenz in der Kommunikation gar nicht zu verwenden? Ganz so ist es nicht, denn KI-Tools bieten eine hervorragende Möglichkeit zum unterstützten Brainstormen. Was sich aber jedenfalls empfiehlt, ist ein wachsames Auge auf die Diversity, Equity & Inclusion (DE&I)-Komponenten der Ergebnisse zu haben und besonders aufmerksam in der Wort- und Bildwahl zu sein, um keine verletzenden Stereotypen weiterzuverbreiten.[5] Das kann maßgeblich zu einer inklusiveren, anti-diskriminierenden Kommunikation beitragen, die nicht nur die beabsichtigten Botschaften für eine breitere Zielgruppe ansprechend macht. Gleichzeitig kann dadurch nämlich auch das eigene Employer Branding optimiert und damit die Rekrutierung von qualifizierten Talenten aus einem diverseren Pool ermöglicht werden.
Letztlich sind bei DE&I-Themen zwar alle gefordert, der Kommunikationsbranche als Meinungsmacherin kommt jedoch eine besonders bedeutende Rolle zu. Und hier gibt es nicht nur bei den Abbildungen aus KI-Tools, sondern auch im realen Arbeitsalltag noch einiges an Aufholbedarf in Sachen DE&I – das zeigt etwa eine kürzlich präsentierte Befragung des PRVA.[6] Allzu oft gleichen Kommunikationsteams immer noch den genannten Midjourney-Ergebnissen – das ist weder zeitgemäß noch nachhaltig und schließt einen beachtlichen Teil innovativer Pionier*innen aus.
Bei ikp arbeiten wir aktiv an der Förderung aller Dimensionen von Diversität – im eigenen Team ebenso wie in der Kundenarbeit. Das machen wir aus Überzeugung – mit dem Ziel, die besten Köpfe bei uns zu versammeln, unabhängig von deren Herkunft, Aussehen und persönlichen Hintergrund, um eine zukunftsfähige Kommunikation für alle zu gestalten.
[1] https://link.springer.com/chapter/10.1007/978-3-322-95434-3_2; https://archiv.ub.uni-marburg.de/es/2022/0052/pdf/35_Soziale_Kategorisierung.pdf
[2] https://archiv.ub.uni-marburg.de/es/2022/0052/pdf/35_Soziale_Kategorisierung.pdf
[3] https://archiv.ub.uni-marburg.de/es/2022/0052/pdf/35_Soziale_Kategorisierung.pdf
[4] https://medium.com/@zaida.rivai/when-ai-mirrors-our-flaws-unveiling-bias-in-midjourney-1d5ef73b8e99
[6] https://prva.at/news/presse/3539-branche-hat-aufholungsbedarf-ins-sachen-diversitaet
Weitere Blogbeiträge zu diesem Thema:
https://ikp.at/de/blog/know-how/das-pressebild-aus-dem-ki-generator/
https://ikp.at/de/blog/know-how/kann-ki-pr-besser-als-wir/
https://ikp.at/de/blog/know-how/happy-pride-month-reicht-das/
Konnten wir Ihr Interesse an Diversität, Gleichstellung und Inklusion im Kommunikationskontext wecken? Hier geht es zu unseren Leistungen.
Foto von Midjourney
