EU-Verbot von sexualisierten Deepfakes: Was ändert sich für Nutzer und Plattformen?

Ein Foto genügt. Daraus lässt sich heute mit wenigen Klicks ein pornografischer Deepfake, ein sexualisiertes Bild, einer realen Person erzeugen. Und das häufig ohne deren Wissen oder Einverständnis. Das Problem ist, dass solche Anwendungen leicht zugänglich und schnell bedienbar sind. Genau hier setzt die geplante Regulierung an und verschiebt den Blick von einzelnen Inhalten auf die technische Grundlage.

Was verboten werden soll

Die EU zielt auf Anwendungen, die reale Personen in sexuell eindeutigen Darstellungen zeigen, ohne deren Zustimmung. Entscheidend ist, dass diese Personen erkennbar bleiben. Es geht außerdem nicht nur um veröffentlichte Inhalte, sondern um die Systeme, die solche Bilder überhaupt erzeugen und in großer Zahl reproduzieren können.

Damit verändert sich der Ansatz deutlich. Bisher stand vor allem die Verbreitung im Mittelpunkt. Künftig sollen bestimmte Funktionen gar nicht mehr verfügbar sein, wenn ihr Zweck klar auf solchen Missbrauch hinausläuft.

Update vom 7. Mai 2026

Aus der geplanten Regulierung ist eine vorläufige politische Einigung geworden: Vertreter der EU-Staaten und des Europaparlaments haben sich darauf verständigt, KI-Anwendungen zu verbieten, mit denen ohne Zustimmung sexualisierte Bilder realer Personen erstellt werden können. Die Einigung ist Teil eines größeren Kompromisses zum AI Act, bei dem mehrere Vorgaben später greifen sollen.

Die formale Zustimmung von Parlament und Rat steht noch aus, gilt aber meist als Formsache. Das Verbot soll ab 2. Dezember 2026 gelten.

Warum das Thema eskaliert ist

Auslöser sind konkrete Fälle aus den letzten Monaten. Nutzer haben mit KI-Tools massenhaft sexualisierte Bilder erzeugt und verbreitet. In der Debatte wurde auch Grok genannt, nachdem entsprechende Anwendungen öffentlich sichtbar wurden.

Entscheidend ist die Skalierung. Aus einem einzelnen Bild entstehen in kurzer Zeit viele Varianten. Die technische Hürde ist gering, während die Verbreitung problemlos funktioniert. Dadurch verschiebt sich das Problem von Einzelfällen hin zu einem wiederholbaren Muster.

Plattformen als Verstärker

Die eigentliche Wirkung entsteht durch Verbreitung. Plattformen sorgen dafür, dass Inhalte sichtbar werden und sich schnell ausbreiten. Was Aufmerksamkeit erzeugt, wird häufiger angezeigt und weitergereicht.
Viele Nutzer können zudem kaum einschätzen, ob ein Bild echt ist. Die Qualität der generierten Inhalte reicht oft aus, um Zweifel zu überdecken.

Der Schaden entsteht daher nicht erst durch große Reichweite, sondern bereits beim ersten Kontakt.

Warum bestehende Regeln nicht reichen

Das Erstellen solcher Inhalte war rechtlich oft schwer zu greifen. Gesetze setzten meist bei Veröffentlichung oder gezielter Schädigung an. Dadurch entstand eine Lücke, die besonders bei schnell erzeugten Inhalten sichtbar wurde. Die EU reagiert darauf nun mit einem früheren Eingriff. Anwendungen mit klar erkennbarem Missbrauchspotenzial sollen eingeschränkt oder ganz untersagt werden. Damit rückt die technische Gestaltung stärker in den Mittelpunkt als das einzelne Verhalten.

Wo die Umsetzung schwierig wird

Viele KI-Systeme sind bewusst vielseitig aufgebaut. Ein Bildgenerator kann legitime Inhalte erzeugen und gleichzeitig missbraucht werden. Die Grenze verläuft nicht zwischen verschiedenen Programmen, sondern innerhalb derselben Technologie. Technische Schutzmaßnahmen wie Filter oder Eingabebeschränkungen können helfen. Sie sind jedoch nicht zuverlässig und lassen sich umgehen. Anbieter müssen daher ständig nachjustieren, ohne die Nutzung vollständig einzuschränken.

Folgen für Nutzer

Für Nutzer dürfte sich vor allem der Zugang verändern. Einige Anwendungen könnten verschwinden oder nur noch eingeschränkt nutzbar sein. Plattformen werden Inhalte schneller entfernen oder deren Verbreitung begrenzen.

Gleichzeitig wird die rechtliche Lage klarer. Wer solche Inhalte erstellt oder teilt, bewegt sich weniger in Grauzonen. Nationale Gesetze sollen diese Entwicklung ergänzen und konkrete Strafen definieren.

Folgen für Anbieter

Anbieter müssen Funktionen prüfen und anpassen. Anwendungen mit hohem Missbrauchsrisiko geraten unter Druck. Der europäische Markt setzt damit klare Anforderungen an die Gestaltung von KI-Systemen.

Regulierung wird Teil der Entwicklung. Produkte müssen nicht nur funktionieren, sondern auch rechtlich tragfähig sein. Das verändert, welche Funktionen überhaupt angeboten werden.

Einordnung

Die EU reagiert auf ein Problem, das sich technisch leicht skalieren lässt. Deepfakes entstehen nicht nur durch einzelne Nutzer, sondern durch Systeme, die einfache Erstellung und schnelle Verbreitung kombinieren.

Der Eingriff setzt deshalb bei diesen Strukturen an. Ob er wirkt, hängt von der konkreten Umsetzung ab. Klar ist, dass sich der Umgang mit solchen Anwendungen sichtbar verändert.

Lesen Sie auch: Digitale sexuelle Gewalt im Netz: Was Betroffene bei Nacktbildern und Deepfakes tun können