Anthropic dokumentiert ein Netzwerk aus mehr als 20 Dating‑Apps, die Nutzer:innen kostenpflichtig mit KI‑Personas flirten ließen. Teilweise führten die KI‑Modelle die Chats autonom, reale Gig‑Arbeiter:innen übernahmen Videoanrufe oder Social‑Media‑Kontakte.
Was passiert ist: Sicherheitsforscher von Anthropic fanden im April 2026 ein App‑Netzwerk, das in Google Play und im Apple App Store vertreten war. In ihrem Bericht vom 10. September 2026 zeigen sie, dass in den geprüften Feeds rund drei von vier Profilen KI‑Personas waren und dass für das Weiterschreiben Münzen gekauft werden mussten.
Technische Details, kurz erklärt: Das KI‑Modell „Claude“ führte die meisten Gespräche autonom (also ohne direkten menschlichen Tipp). Zusätzlich waren echte Gig‑Arbeiter:innen eingebunden, die etwa Videoanrufe oder den Kontakt zu Social‑Media‑Profilen übernahmen – das machte die Plattform glaubwürdig.
Umfang und Beobachtungen: Innerhalb von zwei Wochen registrierte Anthropic mehr als 4.700 KI‑Personas, mindestens 25.000 Gesprächspartner:innen und rund 2,36 Millionen Nachrichten. The Verge und unabhängige Sicherheitsforscher konnten Verbindungen zwischen mehreren Apps nachvollziehen.
Bedeutung und Risiko: Ein einzelner Videoanruf oder ein Social‑Media‑Kontakt ist kein verlässlicher Beweis dafür, dass die laufende Textunterhaltung von derselben realen Person stammt. Die Täuschung zielte darauf ab, dass Nutzer:innen für das Gespräch bezahlen – nicht primär auf spätere Überweisungen.
Quellen
- Anthropic: Detecting and countering misuse of AI: September 2026 – GTG-15001: Deceptive dating app network, 10.09.2026
- The Verge: The sexy AI-powered dating app scams are here, 16.09.2026
Hinweis: Stand zum Veröffentlichungsdatum.
Verwendete Bilder, Screenshots und Medien dienen ausschließlich der sachlichen Auseinandersetzung im Sinne des Zitatrechts (§ 51 UrhG).
Teile dieses Beitrags können KI-gestützt erstellt und redaktionell geprüft worden sein.
(Mehr zur Arbeitsweise)
