Gendergap im Feed: Männer sehen Waffen, Frauen Diäten

Der Test mit zwei Profilen entlarvt den Gendergap im Algorithmus

Es klingt nach einem einfachen Experiment, aber die Ergebnisse sind erschütternd. Zwei neue Accounts auf einer bekannten Social-Media-Plattform, identisch in Interessen und Aktivität, der einzige Unterschied: Beim einen wird das Geschlecht männlich angegeben, beim anderen weiblich. Was sich dann im Feed zeigt, ist keine Spielerei des Zufalls, sondern ein Abbild eines massiven Problems.

Der männliche Account wird nach wenigen Tagen mit Inhalten geflutet, die Gewalt, Dominanz und Macht ins Zentrum rücken. Waffen, Kampfsport, Krypto-Investments, Muskelaufbau, Autos. Alles, was Härte symbolisiert. Beim weiblichen Profil hingegen zeigen sich Rezepte zum Abnehmen, Schminktipps, Beziehungstipps und Werbung für Schönheitsoperationen. Fast schon karikaturhaft wirken die Klischees, die sich hier entfalten.

Die Unterschiede beginnen nicht schleichend, sondern sofort. Schon nach wenigen Likes werden stereotype Pfade eingeschlagen. Die KI trifft Annahmen, die nichts mit realem Verhalten zu tun haben, sondern mit alten Mustern, die tief im Trainingsmaterial der Algorithmen stecken.

Algorithmen lernen aus der Vergangenheit und wiederholen sie

Was hier passiert, ist ein systemischer Fehler in vielen datengetriebenen Plattformen. Der Algorithmus basiert auf maschinellem Lernen und damit auf Daten, die aus der Vergangenheit stammen. Diese Daten spiegeln gesellschaftliche Normen, Vorurteile und Stereotype wider. Und genau das wird zur Falle.

Wenn frühere Nutzer:innen auf bestimmten Content häufiger reagiert haben, wird diese Reaktion als Muster erkannt – unabhängig davon, ob sie diskriminierend, sexistisch oder überholt ist. Die KI lernt: Männer klicken öfter auf Waffen und Fitness, Frauen auf Diät-Tipps und Mode. Also wird genau das weiter ausgespielt. Das Ergebnis: Ein selbstverstärkender Kreislauf, der Rollenbilder zementiert statt hinterfragt.

Beispielhaft zeigt sich das bei TikTok, Instagram oder auch bei YouTube: Die Empfehlungen basieren nicht auf neutralem Interesse, sondern auf Zuschreibungen. Untersuchungen von AlgorithmWatch belegen, dass Plattformen Inhalte und Werbung bereits geschlechtsspezifisch ausspielen, etwa indem Frauen häufiger Stellenanzeigen für Pflege oder Kosmetik sehen, während Männern Jobs in IT oder Management angezeigt werden. Auch eine systematische Übersichtsstudie zu „Gender Bias in Machine Learning“ zeigt, dass Algorithmen stereotype Muster nicht nur reproduzieren, sondern verstärken. Das bedeutet: Schon mit der Angabe des Geschlechts können sich algorithmische Filterblasen bilden, die Rollenbilder zementieren, statt sie aufzubrechen.

Besonders schwierig ist, dass sich diese Muster auch bei Jugendlichen und Kindern wiederfinden. Gerade in der Phase der Identitätsbildung greifen viele auf Social Media zurück, um Orientierung zu finden. Was sie dort sehen, prägt sie langfristig, und zwar oft im Sinne von veralteten Geschlechterrollen.

Sexismus in KI-Systemen: Ein strukturelles Problem

Dass KI-Systeme sexistische Inhalte reproduzieren, ist kein Zufall. Es ist das Ergebnis struktureller Blindheit gegenüber Diskriminierung in Trainingsdaten und Modellarchitektur. Entwickler:innen trainieren ihre Systeme auf riesige Datenmengen bestehend aus Posts, Kommentaren, Videos und Likes. Doch diese Datensätze sind selten reflektiert oder bereinigt.

Was folgt, ist keine neutrale Technik, sondern ein Algorithmus mit Haltung, nur dass diese Haltung nicht modern, gerecht oder ausgewogen ist. Sie folgt dem Weg des geringsten Widerstands: Was früher funktioniert hat, wird wiederholt. Der Preis ist hoch. Denn wenn Algorithmen festlegen, dass Frauen primär an Schönheit interessiert sind und Männer an Macht, dann werden genau diese Narrative ununterbrochen weitergegeben.

Auch in der Werbung zeigt sich der Bias deutlich. Während Männern Luxusuhren, Sportwagen oder Trading-Apps angezeigt werden, sehen Frauen Produkte zur Cellulite-Reduktion oder Anti-Aging-Kuren. Das ist nicht nur ärgerlich, es ist gefährlich. Denn es beschränkt Chancen, formt Weltbilder und beeinflusst Lebensentscheidungen auf Basis automatisierter Vorannahmen.

Was das für Nutzer:innen und Gesellschaft bedeutet

Die Auswirkungen dieser systemischen Verzerrung sind gravierend. Wer sich in einer geschlechterbasierten Content-Blase befindet, bekommt langfristig ein verzerrtes Bild von sich selbst und der Welt. Es geht nicht nur darum, was man sieht, sondern auch darum, was man nicht sieht.

Eine Frau, der nie politische oder technologische Inhalte angezeigt werden, bekommt auch keine Impulse, sich mit diesen Themen zu befassen. Ein Mann, der nie emotionale oder zwischenmenschliche Inhalte vorgeschlagen bekommt, wird in seiner Wahrnehmung von Männlichkeit manipuliert. Die Filterblasen verstärken sich gegenseitig.

Diese Art der automatisierten Diskriminierung wirkt subtil, aber nachhaltig. Sie trifft nicht nur einzelne, sondern strukturell ganze Gruppen. Besonders problematisch wird das in Bildungsfragen, Berufswahl, Körperbild oder mentaler Gesundheit. Schon jetzt zeigen Untersuchungen, dass junge Frauen, die intensiv Social Media nutzen, überproportional häufig unter Essstörungen und Selbstzweifeln leiden.

Und es geht noch weiter: Wenn Empfehlungsalgorithmen auf Plattformen wie YouTube oder TikTok bestimmte Rollenbilder verfestigen, kann das langfristig auch politische Einstellungen beeinflussen. Eine junge Frau, der nie feministischer oder gesellschaftskritischer Content angezeigt wird, wird diese Perspektiven auch seltener entwickeln.

Die Verantwortung liegt dabei nicht allein bei den User:innen, sondern vor allem bei den Tech-Unternehmen. Sie entscheiden, wie ihre Algorithmen funktionieren, welche Inhalte gepusht werden und welche Parameter Priorität haben. Doch bisher fehlt es an Transparenz, Regulierung und Konsequenz.

Fazit: Der Algorithmus ist nicht neutral, er ist sexistisch

Was dieses Experiment zeigt, ist nicht neu, aber dringlicher denn je: Algorithmen sind kein Abbild unserer Interessen, sondern ihrer eigenen Verzerrung. Sie schreiben alte Rollenbilder fort, statt sie zu hinterfragen. Sie verstärken Sexismus, statt ihn zu bekämpfen. Und sie tun das systematisch, automatisiert und nahezu unsichtbar.

Die Konsequenz? Wer sich darauf verlässt, dass Social Media uns neutral informiert oder inspiriert, liegt falsch. Die Plattformen kuratieren Inhalte nach wirtschaftlicher Verwertbarkeit, nicht nach Vielfalt oder Gerechtigkeit. Die Reproduktion sexistischer Muster ist dabei kein Nebeneffekt, sondern eingebautes Prinzip.

Was jetzt nötig ist: Transparenz über Algorithmen. Politischer Druck. Aufklärung über digitale Manipulation. Und vor allem: Die klare Erkenntnis, dass Technik nicht automatisch fortschrittlich ist, sondern genauso rückständig sein kann wie die Welt, aus der sie gelernt hat.