Wenn Personalisierung diskriminiert: Gender Bias in KI-Systemen

KI-Systeme gelten gern als nüchtern und objektiv: Zahlen rein, Ergebnis raus. Christian Prinz sieht genau darin eine Gefahr. Er ist Molekularmediziner und Professor für Data Science und Künstliche Intelligenz an der SRH Fernhochschule. Seine Kernbotschaft ist klar: Künstliche Intelligenz ist nur so objektiv wie die Daten, mit denen sie trainiert wurde. Und viele Daten tragen alte Muster in sich.

Was Gender Bias ist und wie er entsteht

Gender Bias? Gemeint sind systematische Verzerrungen, bei denen KI Menschen je nach Geschlecht anders bewertet oder darstellt. Das passiert, weil Daten eine Geschichte erzählen. Und diese Geschichte ist selten neutral.

Prinz bringt es auf den Punkt: „Die vorhandenen Daten sind immer die Grundlage. Wenn sie Bias enthalten, dann produzieren sie biasbehaftete Vorhersagen.“ Oft bleibt das unbemerkt, wenn niemand genau hinschaut. Und genau das ist Alltag im Marketing: viele Entscheidungen, wenig Zeit, viel Automatisierung.

Wie Daten alte Ungleichheiten konservieren

Besonders anschaulich wird das in der Medizin, sagt Prinz. Frauen und Männer mit akutem Koronarsyndrom berichten am häufigsten Brustschmerzen oder Brustbeschwerden. Frauen nennen jedoch häufiger zusätzliche Symptome wie Übelkeit oder Atemnot. Solche Unterschiede können dazu beitragen, dass Beschwerden anders eingeordnet werden.

Prinz beschreibt ein typisches Szenario: Eine Frau klagt über Übelkeit, Rückenschmerzen und Erschöpfung. Das kann zu einem Herzinfarkt passen, wird aber mitunter übersehen. „Die KI erkennt solche Fälle oft schlechter, weil sie auf Datensätzen basiert, in denen Männer überrepräsentiert sind.“ Ein System kann also aus vorhandenen Daten lernen und dabei bestehende Schieflagen übernehmen.

Der Mechanismus ist auch für das Marketing relevant. Sobald Systeme Menschen in Gruppen einteilen, Wahrscheinlichkeiten berechnen oder Relevanz bestimmen, beeinflussen Daten und Optimierungsziele, wer welche Inhalte oder Angebote zu sehen bekommt.

Dass solche Effekte auch bei der Werbeauslieferung auftreten können, zeigt eine 2025 veröffentlichte Studie zu Facebook-Anzeigen. Die Forschenden untersuchten mehr als 253.000 Klima-Anzeigen und führten zusätzlich ein Feldexperiment durch. Dabei fanden sie Hinweise darauf, dass neben Anzeigeninhalt und Standort auch Alter und Geschlecht mit der algorithmischen Auswahl der erreichten Zielgruppen zusammenhingen. Personalisierung kann damit Unterschiede erzeugen, selbst wenn Werbetreibende diese nicht ausdrücklich vorgeben.

Wenn Algorithmen benachteiligen

Gender Bias zeigt sich nicht nur in sensiblen Diagnosen. Ein bekanntes Beispiel stammt von Amazon. Der Konzern entwickelte ab 2014 ein System, das Bewerbungen automatisiert bewerten sollte, gab das Projekt später aber wieder auf. Wie Reuters 2018 berichtete, hatte das System aus überwiegend von Männern stammenden Bewerbungsdaten gelernt und unter anderem Begriffe abgewertet, die auf Frauen hindeuteten.

Das ist der Kern vieler Verzerrungen: Historische Muster werden zur Norm. Und was häufig vorkommt, wirkt auf das Modell „richtig“. In der Praxis entsteht dann eine Benachteiligung, die wie objektive Logik aussieht.

Es geht nicht nur um Daten

Datensätze sind meist der Ausgangspunkt für Bias. Er entsteht aber auch durch Modellierung und Annahmen. „KI übernimmt nicht nur die Muster aus den Daten, sondern reproduziert auch die Denkweisen ihrer Entwickler“, sagt Prinz. Damit rückt ein Punkt in den Fokus, den viele Teams unterschätzen: Entscheidungen fallen schon vor dem Training. Zum Beispiel bei der Frage, welche Zielgröße optimiert wird, welche Merkmale als Signal gelten und welche Ausnahmen als „Rauschen“ aussortiert werden.

Gerade bei generativer KI sieht Prinz zusätzliche Risiken. Auch aktuelle Untersuchungen zeigen, dass Bildgeneratoren stereotype Geschlechterbilder reproduzieren können. Eine 2025 veröffentlichte Studie zu Stable Diffusion XL fand beispielsweise deutliche Unterschiede bei der Darstellung von Berufen: Männer dominierten unter anderem bei Ärzten und Professoren, Frauen dagegen bei Pflegekräften und Sekretariatsberufen. Solche Muster sind gerade für Marketing und Medien relevant, wenn generative KI zunehmend zur Produktion visueller Inhalte eingesetzt wird.

Prinz erklärt das mit einem Dartbild: Wenn zehn Pfeile immer in die rechte obere Ecke gehen, ist das sehr präzise, aber nicht richtig. Das ist Bias. Wenn die Pfeile wild um das Zentrum streuen, ist das Noise.

Bitte kein Bauchgefühl!

Vollständig ausschließen lässt sich Bias wohl nie. Doch es gibt Maßnahmen, um ihn zu erkennen und zu reduzieren. Prinz nennt technische Ansätze wie Fairnessmetriken, De-Bias-Methoden und Explainability-Tools, die helfen können, Ergebnisse und Einflussfaktoren besser nachzuvollziehen. Organisatorisch brauche es interdisziplinäre Teams, Audits und Ethikleitlinien. Und gesellschaftlich mehr Aufklärung und Verantwortung.

„Ein wichtiger Faktor ist auch die Datenqualität“, betont Prinz. „Wenn wir KI mit unausgewogenen Daten füttern, dürfen wir uns über diskriminierende Ergebnisse nicht wundern. Diversität in den Daten ist essenziell.“ Entscheidend sei außerdem, dass die Daten das abbilden, was vorhergesagt werden soll. Sonst wirkt das Ergebnis objektiv, ist aber am Bedarf vorbei.

Für den Marketingalltag lassen sich daraus fünf Leitplanken ableiten.

Wer Personalisierung skaliert, skaliert Verantwortung

Gender Bias in KI ist kein Randphänomen. Er betrifft viele Lebensbereiche und kann reale Folgen haben, wenn Systeme Menschen anders behandeln, ohne dass es jemand merkt. Prinz betont gleichzeitig: „Doch die Technik ist nicht unser Feind.“ KI könne helfen, Entscheidungen objektiver und besser zu machen, wenn sie richtig eingesetzt wird. Der Punkt ist nur: Ohne Leitplanken verstärkt KI alte Muster mit neuer Geschwindigkeit. Wer Personalisierung skaliert, skaliert auch Verantwortung.