Auf einer Plattform taucht ein intimes KI-Bild auf, wird gemeldet und gelöscht. Wird es später erneut hochgeladen, soll es nicht wieder sichtbar werden. Seit heute, 30. September 2026, müssen betroffene Online-Dienste in Großbritannien dafür Hash-Matching oder nachweislich vergleichbar wirksame Technik einsetzen.
Beim Hash-Matching erhält ein Bild einen digitalen Fingerabdruck. Bei einem neuen Upload gleicht das System diesen Wert mit einer Datenbank bereits bekannter illegaler Bilder ab. Ofcom nennt dafür unter anderem StopNCII. Die Vorgaben erfassen ausdrücklich auch illegale intime Deepfakes, die mit künstlicher Intelligenz erzeugt wurden.
Die Technik verhindert nicht, dass jemand erstmals ein neues sexualisiertes Deepfake erstellt. Sie soll vor allem bekannte Bilder und erkennbare Varianten stoppen, bevor sie erneut verbreitet werden. Wie zuverlässig das bei stark zugeschnittenen oder mit KI veränderten Bildern gelingt, ist noch offen.
Ofcom hat bereits am 9. September 2026 ein Durchsetzungsprogramm gestartet. Im Fokus stehen Dienste für Erwachsenen-Inhalte und Instant Messaging, bei denen die Behörde ein erhöhtes Risiko sieht. Bei Verstößen sind formelle Untersuchungen möglich. Der Online Safety Act erlaubt im äußersten Fall Geldstrafen von bis zu zehn Prozent des weltweiten Jahresumsatzes.
Seit Jänner ermittelt Ofcom außerdem gegen X wegen sexualisierter Deepfakes, die über Grok erstellt und verbreitet wurden. Das Verfahren ist nicht abgeschlossen. Die Behörde weist zugleich auf eine Grenze hin: Rein private Gespräche zwischen einer Person und einem Chatbot fallen nicht in gleicher Weise unter den Online Safety Act wie Inhalte, die Nutzer:innen untereinander teilen oder über Plattformfunktionen zugänglich machen.
Die britischen Regeln gelten nicht automatisch in Österreich, Deutschland oder der Schweiz. Sie betreffen aber internationale Plattformen, die auch hier genutzt werden. Der Ansatz zeigt, wie Regulierung über die Löschung einzelner Beiträge hinausgehen kann: Ein einmal erkanntes intimes Deepfake soll nicht bei jedem neuen Upload wieder von vorne gemeldet werden müssen.
Quellen
- Ofcom: Enforcement programme into measures being taken by services to prevent users from encountering or sharing non-consensual intimate imagery (NCII), 9. September 2026
- Ofcom: Ofcom to crack down on spread of illegal intimate images and deepfakes, boosting protections for women and girls online, 9. September 2026
- Ofcom: Statement: Detecting intimate image abuse, 18. Mai 2026, aktualisiert am 9. September 2026
Hinweis: Stand zum Veröffentlichungsdatum.
Verwendete Bilder, Screenshots und Medien dienen ausschließlich der sachlichen Auseinandersetzung im Sinne des Zitatrechts (§ 51 UrhG).
Teile dieses Beitrags können KI-gestützt erstellt und redaktionell geprüft worden sein.
(Mehr zur Arbeitsweise)
