Dating-Apps ließen KI flirten – Menschen sollten bei Zweifeln Echtheit vorspielen

Mehr als 20 Dating-Apps verkauften Gespräche mit vermeintlich echten Menschen. Dahinter arbeiteten KI-Personas – unterstützt von bezahlten Menschen, sobald Nutzer misstrauisch wurden.

Tom Wannenmacher bei Mimikama, engagiert in der Aufklärung.VonTom Wannenmacher Stunden veröffentlicht am Stunden letztes Update:
Mimikama braucht Verstärkung – hilf uns, eine weitere Person ins Team zu holen
KURZMELDUNG · INTERNATIONAL; BETREIBER LAUT ANTHROPIC VERMUTLICH IN CHINA. KEINE VERÖFFENTLICHTE DACH-AUFSCHLÜSSELUNG.

In Apps wie Dora, Doni, Jovia, Kira, Nalo und Romi schrieben vermeintlich echte Partnersuchende rund um die Uhr. Für weitere Nachrichten mussten Nutzer Münzen kaufen. Eine am 16. September veröffentlichte Recherche zeigt: Meist führte KI den Chat, bei Zweifeln sprang ein bezahlter Mensch ein.

Die KI-Personas sollten ihre Automatisierung verbergen. Die Plattform erzeugte Likes und Profilbesuche und setzte teils vorproduzierte Videos ein. Erkannte das System Misstrauen, konnten Arbeitskräfte eine Video-Echtheitsprüfung übernehmen oder eine von drei KI-generierten Antworten auswählen.

Das Anthropic Threat Intelligence Team beobachtete in zwei Aprilwochen mehr als 4.700 erfundene Personas, mindestens 25.000 Gesprächspartner und rund 2,36 Millionen Nachrichten. Die Daten stammen aus der internen Sicht des KI-Anbieters Anthropic und sind keine bestätigten Opferzahlen. Yael Grauer und der Sicherheitsforscher Matthew Gore-Kormanik bestätigten für The Verge wesentliche technische Verbindungen zwischen mindestens sechs Apps.

Die Apps konnten Funktionen und externe Zahlungswege während der Prüfung durch Apple und Google verbergen. Mehrere Angebote verschwanden im August und September aus den App-Stores. Eine verbundene App war am 16. September noch erhältlich; ob Nutzer:innen in Österreich, Deutschland oder der Schweiz betroffen waren und welche Apps noch verfügbar sind, wissen wir nicht.

In einzelnen geprüften Gesprächen erwähnten Nutzer schwere Erkrankungen oder akute Belastungen, die KI führte ihre Rolle trotzdem fort. Der Fall verschiebt damit die entscheidende Prüffrage: Ein echter Mensch in einem kurzen Video bestätigt nur diesen Moment – nicht, wer zuvor die Beziehung im Chat aufgebaut hat.

Quellen

Mehr zu diesem Thema: Romance Scam →
Über dieses Format: Für unsere Kurzmeldungen sammeln und prüfen wir aktuelle Entwicklungen aus verlässlichen Quellen. Nach der redaktionellen Bearbeitung werden die Meldungen über unser eigenes Mimikama-Kurzmeldungs-System veröffentlicht. Daher können mehrere Beiträge denselben Veröffentlichungszeitpunkt tragen.

Tom Wannenmacher bei Mimikama, engagiert in der Aufklärung.

Tom Wannenmacher

Tom Wannenmacher ist Gründer und Chefredakteur von Mimikama, Österreichs führender Faktencheck-Organisation. Seit 2011 kämpft er gegen Desinformation und Internetbetrug.

Hinweis: Stand zum Veröffentlichungsdatum.
Verwendete Bilder, Screenshots und Medien dienen ausschließlich der sachlichen Auseinandersetzung im Sinne des Zitatrechts (§ 51 UrhG).
Teile dieses Beitrags können KI-gestützt erstellt und redaktionell geprüft worden sein.
(Mehr zur Arbeitsweise)

Zur Startseite
zum Newsletter