Deepfake-Pornos und Kommentarspalten: Wie schnell digitale Gewalt normalisiert wird
Zwischen Spott, Schuldumkehr und Empörung zeigt sich, wie unsicher der Umgang mit KI-generierter sexualisierter Gewalt noch ist – und warum die Reaktionen selbst Teil des Problems sind.
Was der SPIEGEL gepostet hat
Am 15. Februar 2026 veröffentlicht DER SPIEGEL auf seiner Facebook-Seite ein Interview mit Nadine Breaty, einer der reichweitenstärksten deutschen TikTok-Creatorinnen. Das Thema: Von ihr kursieren zunehmend KI-generierte Fake-Nacktbilder und Deepfake-Pornos im Netz.
Breaty beschreibt, dass sie bereits mit 16 Jahren sexualisierte Inhalte zugeschickt bekam. Heute könnten solche Bilder mit KI-Tools auf Knopfdruck generiert werden. Gemeinsam mit ihrem Management prüfe sie rechtliche Schritte gegen die Deepfake-Pornos. Sie empfinde „Ohnmacht und Kontrollverlust“.
Entscheidend ist: Breaty spricht nicht nur für sich selbst. Sie spricht explizit für Menschen, die nicht in der Öffentlichkeit stehen – für 13-jährige Mädchen, von denen Deepfake-Pornos in der Schule kursieren. Die damit gemobbt und erpresst werden. Und die nicht beweisen können, dass die Bilder gefälscht sind.
Was sie von der Politik fordert: Es darf gar nicht erst so einfach sein, solche Inhalte zu erstellen.
zwei Tagen
auf den Beitrag
sexualisierte Gewalt
Unter dem Beitrag sammeln sich binnen Stunden hunderte Kommentare. Einige schreiben „Wer?“, andere posten Lach-Emojis. Wieder andere sprechen von „selbst schuld“ oder „Kehrseite der Medaille“. Dazwischen stehen Stimmen, die das Thema ernst nehmen und nach Strafverfolgung rufen.
Was hier sichtbar wird, ist mehr als nur eine hitzige Debatte. Es ist ein Lehrstück darüber, wie unsere Gesellschaft mit digitaler sexualisierter Gewalt umgeht.
Ablenkung statt Auseinandersetzung
Ein großer Teil der Kommentare beschäftigt sich nicht mit Deepfakes – sondern mit der Person. „Noch nie gehört“, „TikTok-Star?“, „Arbeitslos“: Die Strategie ist klar. Wer die Betroffene als irrelevant darstellt, muss sich mit dem eigentlichen Problem nicht befassen.
Dieses Muster ist nicht neu. Es taucht regelmäßig auf, wenn neue Formen digitaler Gewalt öffentlich werden. Die Relevanz wird verschoben: Weg von der Tat, hin zur Frage, ob das Opfer „wichtig genug“ sei.
Juristisch spielt das keine Rolle. Ob prominent oder unbekannt – die Erstellung und Verbreitung manipulierter, sexualisierter Inhalte ohne Einwilligung kann Persönlichkeitsrechte verletzen und strafrechtlich relevant sein.
Die Relevanzdebatte dient hier vor allem als Schutzmechanismus: Wer das Opfer kleinredet, hält die eigene Komfortzone stabil.
Anatomie einer Kommentarspalte
Sechs wiederkehrende Reaktionsmuster auf einen Beitrag über digitale sexualisierte Gewalt
Wenn Verantwortung verschoben wird
Deutlich problematischer sind jene Kommentare, die eine Mitschuld konstruieren: „Wer sich in die Öffentlichkeit begibt, muss damit rechnen“, „Ruhm hat seinen Preis“, „Selbst schuld“.
Das ist klassische Täter-Opfer-Umkehr. Öffentlichkeit ist kein Verzicht auf Persönlichkeitsrechte. Auch Influencerinnen behalten ihr Recht auf sexuelle Selbstbestimmung und Schutz vor Manipulation.
Auffällig ist, wie häufig hier das Argument der „Konsequenz“ bemüht wird. Dahinter steht ein unausgesprochener Gedanke: Wer sichtbar ist, verliert einen Teil seines Schutzanspruchs. Rechtlich ist das nicht haltbar. Gesellschaftlich ist es dennoch tief verankert.
Toxische Argumentationsmuster im Detail
Häufigkeit problematischer Argumentationslinien in der Kommentarspalte
Spott als Enthemmung
Mehrere Dutzend Lach-Emojis unter einem Beitrag über KI-generierte Pornografie wirken irritierend. Lachen bedeutet hier nicht zwingend Zustimmung. Es kann Distanz markieren oder Provokation signalisieren.
Doch in der Summe entsteht eine Normalisierung. Wenn sexualisierte Manipulation zur Pointe wird, sinkt die Hemmschwelle.
Psychologisch betrachtet ist Spott oft ein Ventil für Ohnmacht. Künstliche Intelligenz verändert Machtverhältnisse rasant. Jeder kann mit wenigen Klicks fotorealistische Fakes erzeugen. Diese technische Leichtigkeit erzeugt Kontrollverlust – und der wird in digitalen Räumen nicht selten mit Zynismus beantwortet.
Was die Lach-Emojis verraten
Verteilung der Facebook-Reaktionen auf einen Beitrag über sexualisierte KI-Gewalt
Polarisierung im Schnellformat
Gleichzeitig zeigt sich eine starke Gegenbewegung. Viele Kommentare benennen klar: Deepfake-Pornos sind keine Bagatelle, sondern eine Form digitaler Gewalt. Sie fordern gesetzliche Konsequenzen, Schutzmechanismen und gesellschaftliche Debatte.
Allerdings kippt auch diese Seite teilweise in scharfe Zuschreibungen: „Täter schützen Täter“, „Teil des Problems“. So entsteht ein Muster, das soziale Plattformen begünstigen: Zuspitzung bringt Sichtbarkeit. Differenzierte Beiträge gehen im Empörungsrauschen schnell unter.
Gefährliche Narrative – und ihre Gegenrede
Vier toxische Argumentationsmuster und ihre konstruktiven Gegenstimmen
„Öffentlichkeit = Einwilligung“
Wer sich in sozialen Medien zeigt, müsse mit Konsequenzen rechnen.
„Straftaten bleiben Straftaten“
Sichtbarkeit entzieht niemanden dem Rechtsschutz. Öffentlichkeit ist Beruf, nicht Einladung.
„KI ist nicht aufzuhalten“
Fatalismus als Ausrede: Wenn es eh nicht zu verhindern ist, braucht man nichts tun.
„Die Hemmschwelle ist das Problem“
KI senkt die Zugangshürde dramatisch. Was eine Stunde brauchte, geht jetzt in Minuten.
„Die Person ist irrelevant“
Durch Hinterfragen der Relevanz des Opfers wird das gesamte Thema entwertet.
„Es betrifft alle“
Das Problem geht weit über Prominenz hinaus. Jedes Foto reicht als Ausgangsmaterial.
„Ist doch nur Fantasie“
Bagatellisierung: Kein physischer Kontakt, also kein Problem.
„Identität ist zerstörbar“
Deepfakes zerstören Reputation und psychische Gesundheit – ganz ohne physischen Kontakt.
Technik als Verstärker
Ein zentraler Punkt, der in den Kommentaren mehrfach anklingt: Früher war Manipulation aufwändig. Heute reichen frei zugängliche KI-Tools. Die Einstiegshürde ist niedrig, die Verbreitung nahezu unkontrollierbar.
Das verändert die Dimension. Nicht nur Prominente sind betroffen. Schülerinnen, Angestellte, Privatpersonen – ein einziges öffentliches Foto genügt als Ausgangsmaterial.
Wichtig ist vor allem: Betroffene sollten Beweise sichern, Screenshots erstellen und Anzeige erstatten. Plattformen sind verpflichtet, rechtswidrige Inhalte zu prüfen und zu entfernen. Auch wenn das Löschen die Verbreitung nicht immer vollständig stoppt, schafft es juristische Grundlage.
Warum das kein Randthema ist
Es wäre bequem, diese Analyse als Empörung über „dumme Kommentare im Internet“ abzutun. Aber was hier sichtbar wird, hat reale Konsequenzen – für Betroffene, für Jugendliche und für die demokratische Debattenkultur insgesamt.
Psychische Zerstörung
Deepfake-Pornografie verursacht bei Betroffenen nachweislich Symptome, die mit sexualisierter Gewalt vergleichbar sind: Angst, Scham, Kontrollverlust, sozialer Rückzug. Der Schaden ist real – auch ohne physischen Kontakt.
Schulhof wird Tatort
Breaty spricht es explizit an: 13-Jährige, deren Deepfake-Pornos im Klassenchat kursieren. Mobbing, Erpressung, soziale Isolation – und die Betroffenen können nicht beweisen, dass die Bilder gefälscht sind.
Rechtslücke
In Deutschland fehlt ein spezifischer Straftatbestand für KI-generierte sexualisierte Inhalte. Betroffene müssen sich auf allgemeine Persönlichkeitsrechte berufen – ein Wettlauf, den die Technologie gewinnt.
Ich habe große Angst um Menschen, die nicht in der Öffentlichkeit stehen. Ich denke an 13-jährige Mädchen, von denen Deepfake-Pornos in der Schule kursieren. Die damit gemobbt und erpresst werden.– Nadine Breaty im SPIEGEL-Interview, 15. Februar 2026
Die Kommentarspalte unter dem SPIEGEL-Beitrag zeigt in Echtzeit, warum politisches Handeln so dringend ist. Nicht nur wegen der Technologie – sondern weil ein erheblicher Teil der Gesellschaft das Problem noch nicht als solches erkennt. Wer auf einen Beitrag über Deepfake-Pornografie mit „Wer?“ oder einem Lach-Emoji reagiert, hat entweder nicht verstanden, was passiert – oder findet es akzeptabel.
Beides ist gefährlich.
Jedes Lach-Emoji verschiebt die Grenze
Wenn 83 Menschen auf einen Beitrag über sexualisierte KI-Gewalt mit einem Lach-Emoji reagieren, senden sie ein Signal – nicht nur an die Betroffene, sondern an jeden, der mitlest. An das 14-jährige Mädchen, das überlegt, ob es sich Hilfe suchen soll. An den Jugendlichen, der überlegt, ob er selbst einen Deepfake erstellt. Jede Bagatellisierung sagt: Das ist nicht so schlimm. Und genau diese Botschaft ist das Problem.
Was diese Kommentare über uns als Gesellschaft aussagen
Die Kommentarspalte unter dem SPIEGEL-Beitrag ist mehr als ein digitaler Stammtisch. Sie ist ein Spiegel. Und was sich darin zeigt, sollte uns beunruhigen – nicht weil einzelne Menschen bösartig sind, sondern weil sich Muster offenbaren, die tief in unserer Kultur verankert sind.
Vier unbequeme Wahrheiten über den digitalen Diskurs
Was die Reaktionsmuster über unsere Gesellschaft offenbaren
Empathie hat ein Reichweiten-Problem
Differenzierte, empathische Kommentare werden in sozialen Medien systematisch benachteiligt. Die Algorithmen belohnen Konfrontation und emotionale Extreme. Wer nachdenklich reagiert, wird unsichtbar. Wer „Wer?“ schreibt, bekommt Likes. Empathie ist keine dominante Online-Währung – und das formt, wie wir als Gesellschaft mit Leid umgehen.
Kontrolle über weibliche Sichtbarkeit
Viele der toxischen Kommentare folgen einem unausgesprochenen Prinzip: Frauen, die öffentlich sichtbar sind, verlieren ihren Schutzanspruch. „Wer sich so zeigt…“ ist kein Argument – es ist ein Besitzanspruch. Die digitale Version von „Die hatte einen kurzen Rock an.“ Die Mentalität, die Deepfakes ermöglicht, existiert unabhängig von der Technologie.
Ohnmacht wird zu Zynismus
KI verändert Machtverhältnisse rasant. Viele Menschen spüren: Das ist nicht mehr kontrollierbar. Aber anstatt diese Ohnmacht als Grund für Handlung zu begreifen, wird sie in Zynismus umgewandelt. „Ist halt so“, „Nicht aufzuhalten“ – das klingt nach Weltgewandtheit, ist aber Kapitulation. Und Kapitulation normalisiert den Zustand, gegen den man kämpfen sollte.
Generationenverachtung als Flucht
Die obsessive Frage „Wer ist das?“ ist kein Informationsbedürfnis – es ist kulturelle Abwehr. Eine Generation, die ihre Deutungshoheit schwinden sieht, reagiert mit Entwertung einer ganzen Medienrealität. Das Ergebnis: Das eigentliche Thema – sexualisierte Gewalt durch KI – geht im Kulturkampf unter.
In dieser Kommentarspalte lässt sich ein Mechanismus beobachten, den Sozialpsychologen als moralisches Disengagement bezeichnen: Menschen rechtfertigen schädliches Verhalten, indem sie das Opfer abwerten, die Verantwortung verschieben oder die Konsequenzen bagatellisieren. Alle drei Strategien sind in diesen über 1.000 Kommentaren dokumentiert.
Das ist keine Randerscheinung. Es ist ein Muster, das sich unter jedem Beitrag über digitale Gewalt, Sexismus oder neue Medienphänomene wiederholt. Die Kommentarspalte wird zum Ort, an dem gesellschaftliche Normen nicht diskutiert, sondern in Echtzeit verschoben werden.
Was die Debatte offenlegt
Der eigentliche Konflikt verläuft nicht zwischen Generationen oder Plattformen. Er verläuft entlang einer grundlegenden Frage: Gilt sexuelle Selbstbestimmung auch im digitalen Raum uneingeschränkt – oder wird Sichtbarkeit als stillschweigende Einwilligung missverstanden?
Die Kommentarspalte zeigt, dass diese Frage noch nicht eindeutig beantwortet ist.
Deepfakes sind ein technisches Problem. Die Reaktionen darauf sind ein kulturelles. Solange Spott und Relativierung schneller sind als Empathie und Einordnung, bleibt nicht nur die Technik eine Herausforderung – sondern der gesellschaftliche Umgang damit.
Die gute Nachricht: Die Gegenrede in dieser Kommentarspalte ist die stärkste Kraft. Menschen, die widersprechen, einordnen, konfrontieren – sie verschieben die Grenze in die richtige Richtung. Langsam. Aber sichtbar.
Fünf Erkenntnisse für die Medienkompetenz
Kommentarspalten normalisieren Gewalt
Wenn hunderte Menschen auf einen Beitrag über sexualisierte KI-Gewalt mit Lach-Emojis reagieren, verschiebt sich die gesellschaftliche Schmerzgrenze. Desensibilisierung wird aktiv hergestellt.
Victim Blaming ist das gefährlichste Narrativ
Die Täter-Opfer-Umkehr ist deshalb so wirksam, weil sie als „gesunder Menschenverstand“ verpackt wird. „Hätte sie halt nicht…“ klingt nach Lebenserfahrung – ist aber Tatrechtfertigung.
KI senkt die Hemmschwelle, nicht die Moral
Die Technologie erzeugt keine neuen Haltungen. Sie macht bestehende Haltungen leichter umsetzbar. Was früher Stunden brauchte, geht jetzt per Prompt in Sekunden.
Gegenrede existiert – und sie wirkt
Die stärkste Gruppe in dieser Kommentarspalte ist nicht die toxische – es ist die der Gegenrede. Menschen, die widersprechen, einordnen und konfrontieren.
Das Problem geht über Prominenz hinaus
Es geht nicht um TikTok-Stars. Es geht um jede Person mit einem öffentlichen Foto. Ein einziges Bild reicht, um fotorealistische Fakes zu erzeugen.
Das Problem ist nicht die Technologie.
Das Problem ist die Haltung.
KI liefert das Werkzeug. Die Kommentarspalte liefert den Beweis: Die Haltung, die Deepfakes ermöglicht, war schon vorher da.
Lesen Sie auch:
KI-Deepfakes im Wahlkampf: Wie Desinformation wirkt und was hilft
Deepfake-Werbung erkennen: Wie fällt man nicht auf gefälschte Promis und Influencer rein?
Hinweis: Stand zum Veröffentlichungsdatum.
Verwendete Bilder, Screenshots und Medien dienen ausschließlich der sachlichen Auseinandersetzung im Sinne des Zitatrechts (§ 51 UrhG).
Teile dieses Beitrags können KI-gestützt erstellt und redaktionell geprüft worden sein.
(Mehr zur Arbeitsweise)
