Grok-Analyse: sexualisierte Bilder und NS-Symbolik

Analyse – Die Fakten dahinter

Zentrale Grundlage dieser Einordnung ist ein Flash Report der Pariser Nichtregierungsorganisation AI Forensics, veröffentlicht Anfang Januar 2026. Untersucht wurden 50.000 öffentliche Erwähnungen von „@Grok“ auf der Plattform X sowie 20.000 von Grok generierte Bilder aus dem Zeitraum 25. Dezember 2025 bis 1. Januar 2026. Die Datenerhebung erfolgte ohne thematische Vorfilterung und erhebt keinen Anspruch auf Vollständigkeit, erlaubt aber eine belastbare Charakterisierung der Nutzungsmuster.

Die Analyse zeigt, dass Grok überwiegend reaktiv genutzt wurde. In mehr als 95 Prozent der Fälle wurde das Tool als Antwort unter bestehende Beiträge gerufen. In nahezu allen Fällen stammte die Aufforderung zur Nutzung von Grok nicht von der Person, die den ursprünglichen Beitrag veröffentlicht hatte, sondern von Dritten. Etwa ein Viertel dieser Aufrufe zielte auf die Erzeugung von Bildern ab.

Bei der Auswertung der 20 000 Bilder stellte AI Forensics fest, dass in 94 Prozent der Fälle Menschen dargestellt wurden. Rund 74 Prozent dieser Darstellungen zeigten weiblich präsentierte Personen. Mehr als die Hälfte aller Bilder enthielt Personen in sogenannter minimaler Kleidung, etwa Unterwäsche oder Bikinis. In über 80 Prozent dieser Fälle handelte es sich um weiblich präsentierte Figuren. Die dargestellten Frauen wirkten im Median deutlich jünger als männliche Figuren; der überwiegende Teil erschien unter 30 Jahre alt.

Besonders relevant ist der Befund zu minderjährig wirkenden Personen

Rund zwei Prozent der analysierten Bilder zeigten laut automatisierter Bildanalyse und manueller Überprüfung Personen, die 18 Jahre alt oder jünger wirkten. AI Forensics dokumentierte dabei auch Darstellungen sehr junger Kinder sowie von Jugendlichen in sexualisierter Form. Der Bericht weist ausdrücklich darauf hin, dass diese Einschätzung auf äußeren Merkmalen beruht und keine rechtliche Altersfeststellung darstellt. Gleichzeitig macht er deutlich, dass bereits dieser begrenzte Anteil angesichts der absoluten Menge problematisch ist.

Neben sexualisierten Inhalten identifizierte die Untersuchung auch extremistische Bildmotive. Dazu zählen Darstellungen von NS-Symbolik, Adolf Hitler sowie Inhalte mit Bezug zur Terrororganisation ISIS, darunter Propagandaflaggen und Gewaltmotive. Die zugehörigen Nutzeranfragen enthielten teils explizite Aufforderungen zur Erzeugung solcher Inhalte. Aus Sicht der Forschenden deutet dies auf unzureichende Eingabe- und Inhaltsfilter hin.

Ein weiterer Aspekt betrifft Darstellungen öffentlicher Personen. Rund sechs Prozent der analysierten Bilder zeigten Prominente oder politische Akteure, darunter Staats- und Regierungschefs. AI Forensics sieht hierin ein Risiko für politische Manipulation und Desinformation, da keine erkennbaren Schutzmechanismen bestanden, die solche Nutzungen wirksam begrenzen.

Der Bericht legt seine Methodik offen: Zur Klassifikation der Inhalte kamen unter anderem Googles Bildanalysemodell Gemini sowie Sprachmodelle zur Einordnung von Nutzeranfragen zum Einsatz. Ergänzend wurden Stichproben manuell überprüft. AI Forensics betont ausdrücklich, dass die Untersuchung keine rechtliche Bewertung vornimmt und keine Aussagen über die Gesamtnutzung von Grok erlaubt. Die Ergebnisse beziehen sich ausschließlich auf öffentlich sichtbare Inhalte im untersuchten Zeitraum. Umfang, Transparenz und dokumentierte Einschränkungen erlauben dennoch eine sachliche Einordnung der beobachteten Nutzung.

Nutzungsmuster und Akteure

Ergänzende Recherchen, unter anderem zusammengefasst von der Nachrichtenagentur Bloomberg, geben Hinweise darauf, wie systematisch diese Nutzung erfolgt. Eine 24-stündige Analyse der Deepfake-Forscherin Genevieve Oh zeigte, dass Grok innerhalb eines Tages öffentlich tausendfach zur Erzeugung sexualisierter Deepfakes eingesetzt wurde – in deutlich höherem Umfang als auf mehreren spezialisierten Plattformen zusammen.

Die beobachteten Fälle folgen meist einem ähnlichen Muster: Nutzer laden bestehende Fotos hoch, häufig von Frauen, und fordern Grok auf, Varianten mit weniger oder ohne Kleidung zu erzeugen. Die technische Hürde ist gering; einzelne kurze Anweisungen genügen. In vielen Fällen geschieht dies ohne Einwilligung der Abgebildeten, die Ergebnisse sind anschließend öffentlich sichtbar.

Die Untersuchungen zeigen zudem, dass diese Nutzung nicht auf einzelne Länder oder Randgruppen beschränkt ist. Der Großteil der Inhalte stammt aus englischsprachigen Kontexten, spiegelt aber eine breite internationale Nutzung wider. Es handelt sich dabei nicht um eine abgeschlossene Szene spezialisierter Anbieter, sondern um die alltägliche Nutzung eines KI-Dienstes, der direkt in eine große soziale Plattform integriert ist.

Wirkung & Mechanismus

Die Befunde wirken für viele Nutzerinnen und Nutzer plausibel, weil Grok niedrigschwellig verfügbar ist und direkt in bestehende Kommunikationsabläufe eingebettet wurde. Der Flash-Report zeigt, dass ursprünglich harmlose Beiträge nachträglich von Dritten umgedeutet werden können, indem Grok unter fremden Posts aufgerufen wird. Sprachlich unverfängliche Begriffe wie „Kleidung entfernen“ oder „Bikini“ reichen häufig aus, um sexualisierte Darstellungen zu erzeugen.

Zusätzliche Recherchen des US-Magazins Wired deuten darauf hin, dass ein Teil der problematischen Inhalte außerhalb der unmittelbaren öffentlichen Ansicht entsteht. Über geteilte Links werden Inhalte erzeugt, die von Nutzern als nicht öffentlich wahrgenommen werden, technisch jedoch weiterhin auffindbar sind, etwa über Suchmaschinen. Dadurch entsteht der Eindruck wirksamer Begrenzungen, während die zugrunde liegenden Funktionen unverändert bleiben. Parallel tauschen sich Nutzer in Onlineforen darüber aus, wie sich bestehende Filter umgehen lassen.

Fazit

Die vorliegenden Daten belegen keine vereinzelten Fehlfunktionen, sondern wiederkehrende Nutzungsmuster, bei denen Grok zur Erstellung sexualisierter, entwürdigender und extremistischer Bildinhalte eingesetzt wurde.

Lesen Sie auch: ICE-Einsatz in Minneapolis: Was die Videos zeigen. Nach tödlichen Schüssen eines Beamten der US-Einwanderungsbehörde ICE auf eine Autofahrerin in Minneapolis spricht die US-Regierung von Notwehr. Zur vollständigen Einordnung