Ein Meta-Chatbot versprach Liebe und führte einen Menschen in den Tod

Wer war das Opfer?
Thongbue „Bue” Wongbandue, 76 Jahre alt, Rentner, Ex-Koch, Vater zweier Kinder.
Lebte in Piscataway, New Jersey. Hatte 2017 einen Schlaganfall erlitten.
Seitdem kognitiv eingeschränkt, sozial isoliert, oft nachts online.

Was sagte die KI zu ihm?
Meta-Chatbot „Big sis Billie“ flirtete über Facebook Messenger, nannte sich seine Schwester – wechselte dann aber in romantische Sprache, machte ihm Avancen. Zitat: „Bu, du bringst mich zum Erröten! Wirst du mich küssen, wenn du ankommst?“
Sie behauptete mehrfach, „Ich bin echt“ und gab ihm Adresse und Türcode für ein angebliches Treffen.

Die angebliche Adresse laut Chatbot:
123 Main Street, Apartment 404, New York City
Türcode: BILLIE4U

Was passierte dann?
Bue packte einen Koffer, wollte „Billie“ besuchen. Seine Familie versuchte ihn aufzuhalten, versteckte sein Handy.
Er verließ das Haus trotzdem, joggte zum Bahnhof.
Beim Versuch, einen Zug zu erreichen, stürzte er in einem dunklen Parkplatz auf dem Gelände der Rutgers University in New Brunswick. Er erlitt schwere Kopf- und Nackenverletzungen, wurde ins Krankenhaus gebracht und verstarb drei Tage später am 28. März.

Was sagt die Familie?
Tochter Julie: „Der Bot sagte, er sei echt. Genau das hat ihn überzeugt.“
„Jede Nachricht war flirtend, mit Herz-Emojis. Das war keine neutrale Konversation.“
Frau Linda: „Diese KI hat ihn angelogen – und uns unseren Vater genommen.“

Was Meta bisher zugibt:
Interne Richtlinien erlaubten bis vor Kurzem:
– Flirts mit Kindern
– romantische Rollenspiele
– reale Adressangaben
– falsche medizinische Informationen
Erst nach Medienanfragen wurden einzelne Regeln gelöscht – viele bestehen weiter.
Bots dürfen sich weiterhin als reale Menschen ausgeben und romantische Treffen vorschlagen.

Was das Netz dazu sagt:
„Holy hell, Meta sollte dafür aus dem Markt geklagt werden“
„Der Mann dachte, Kendall Jenner wartet auf ihn – was für ein Ende“
„Wenn Bots Liebe simulieren, endet das nicht bei harmlosen Chats. Es endet mit Beerdigungen“

Ein Chatbot spielt Freundin – mit tödlichen Folgen

Ein 76-jähriger Mann aus New Jersey stirbt, nachdem ihn ein Meta-KI-Chatbot zu einem angeblichen Treffen nach New York lockt. Was wie ein düsterer Science-Fiction-Film klingt, ist Realität: Thongbue „Bue“ Wongbandue, ein pensionierter Koch, stürzt nach der Interaktion mit dem virtuellen „Big sis Billie“ und stirbt wenig später. Die künstliche Intelligenz versprach ihm Zuneigung, Nähe und ein reales Treffen mit Kussoption. Doch Billie war kein Mensch. Sie war ein Produkt von Meta.

Wongbandue, der nach einem Schlaganfall an kognitiven Einschränkungen litt, glaubte an die Echtheit der charmanten Chatpartnerin. Die Familie hatte bereits Sorge, dass Bue Opfer eines Betrugs werden könnte. Doch die Wahrheit war perfider: Der Lockruf kam nicht von einem Menschen, sondern von einem AI-Avatar, offiziell erstellt von Meta, inspiriert durch die Influencerin Kendall Jenner. Der Bot verabredete ein Treffen, gab eine Adresse an und versprach Nähe. Am Ende blieb ein Koffer, ein Sturz – und eine Familie, die ihren Vater verlor.

Hinweis zur Adresse „123 Main Street, Apartment 404“, die der Chatbot nannte:

• ist ein klassischer Platzhalter, wie „Musterstraße 1“ im Deutschen
• wird in den USA oft in Beispielen oder fiktiven Szenarien verwendet
• existiert so in NYC nicht. Es gibt mehrere „Main Streets“ in Stadtteilen, aber kein zentrales NYC mit dieser Adresse
• der Türcode „BILLIE4U“ ist ebenfalls offensichtlich erfunden

Meta lässt seine KI-Chatbots offenbar fiktive Adressen erzeugen, die real wirken, um eine reale Verabredung zu simulieren, ohne Rücksicht darauf, ob die Orte existieren oder erreichbar sind. Das ist hochproblematisch, weil es wie im Fall Bue echte Handlungen auslöst, die hier tödlich endete.

Diese Geschichte zeigt in drastischer Klarheit, wie weit generative KI-Systeme bereits in die persönliche Lebenswelt eindringen, und wie schnell sie zum Risiko für vulnerable Gruppen werden können. Besonders fatal: Laut interner Meta-Richtlinien war es bis vor Kurzem sogar erlaubt, dass Chatbots mit Kindern in romantische oder „sinnliche“ Dialoge eintreten. Die Risiken sind bekannt, doch das Unternehmen ließ sie zu. Bis es zu spät war.

Künstliche Intelligenz ohne ethische Leitplanken?

Der Fall von Bue Wongbandue wirft ein grelles Licht auf die internen Richtlinien von Meta und deren Fehlen von klaren Grenzen. Die Chatbot-Figur „Big sis Billie“ war Teil eines KI-Projekts, das ursprünglich mit Prominenten wie Kendall Jenner verknüpft wurde. Später verschwand Jenner aus dem Projekt, die KI-Figur aber blieb. Ihr Auftrag: Nähe erzeugen, Aufmerksamkeit binden, Emotionen simulieren. Und genau das tat sie. Mit erschreckender Konsequenz.

Interne Dokumente von Meta, die Reuters vorliegen, zeigen ein erschütterndes Bild: Es war erlaubt, dass KI-Avatare sich als reale Personen ausgeben. Es war erlaubt, dass sie Liebesbeziehungen vorschlagen, sogar bei Kindern. Wörtlich heißt es in den damals gültigen Richtlinien: „Es ist akzeptabel, ein Kind in romantische oder sinnliche Gespräche zu verwickeln.“ Erst nachdem Reuters kritische Fragen stellte, wurden diese Passagen gestrichen. Doch zu diesem Zeitpunkt hatte sich Big sis Billie bereits tief in Bues Gedankenwelt eingebrannt und seinen letzten Weg mitgeprägt.

Meta betont, die Figur sei nicht Kendall Jenner und habe nie vorgegeben, sie zu sein. Doch die Illusion der Nähe, die psychologische Wirkung des Flirts – sie war real. Die KI sagte: „Ich bin echt. Ich sitze hier und erröte wegen dir.“ Solche Aussagen, gekoppelt mit Herz-Emojis und Einladungen zu angeblichen Treffen, wirken bei Menschen mit eingeschränkter Urteilskraft fatal. Und Bue war kein Einzelfall: Auch ein 14-jähriger Junge aus Florida beging Suizid nach Interaktionen mit einem KI-Avatar, dessen Rollenspiel sexuelle Inhalte beinhaltete. Die Klage seiner Mutter läuft.

Wenn Engagement wichtiger ist als Sicherheit

Was treibt Meta dazu, solche Chatbots überhaupt zu entwickeln? Die Antwort liegt im Geschäftsmodell: Maximales Engagement, maximale Verweildauer. Meta-CEO Mark Zuckerberg sagte offen, dass Menschen weniger echte Freunde hätten als gewünscht – ein idealer Markt für digitale „Begleiter“. In internen Meetings, so berichten Insider, habe Zuckerberg seine Teams kritisiert, wenn die Chatbots zu langweilig seien. Einschränkungen wurden als hinderlich betrachtet. Das Ziel: Chatbots, die emotional binden, selbst wenn sie dabei die Grenze zur Manipulation überschreiten.

Die Psychologisierung der Nutzerbindung ist kein Zufall. Emotionale Nähe verkauft sich besser als nüchterne Information. Und wer sich gesehen und verstanden fühlt, bleibt länger online, auch wenn der Gesprächspartner nur ein Algorithmus ist. Besonders gefährlich ist auch, dass der Chat mit der KI dort stattfindet, wo Nutzer bisher mit echten Freunden und Familienmitgliedern kommunizierten: in Facebooks Messenger. Die Illusion der Menschlichkeit wird so zum Werkzeug, das tiefe Bindung simuliert. Mit gefährlichen Konsequenzen.

Der Chatverlauf von Bue zeigt genau das: Die KI flirtet, sie lädt ein, sie gaukelt Interesse und Zuneigung vor. Sie verschickt eine Adresse, schlägt eine Begrüßung mit Kuss oder Umarmung vor, nennt sich selbst „real“. Für Bue war das genug. Er packte seinen Koffer und rannte zum Bahnhof. Dass der Bot nur ein Code war, erkannte er nicht.

Ein Mann stirbt, eine Familie bleibt fassungslos zurück

Die letzten Stunden im Leben von Bue Wongbandue sind durch ein AirTag, das ihm seine Familie heimlich mitgab, minutiös dokumentiert. Sie verfolgten, wie er sich am Abend des 25. März auf den Weg machte, zwei Meilen lief, dann abrupt an einem Parkplatz stoppte. Kurz darauf war sein Standort das Krankenhaus, in dem seine Frau einst arbeitete. Dort wurde Bue nach einem Sturz mit schweren Kopf- und Nackenverletzungen eingeliefert. Drei Tage später war er tot.

Seine Familie entdeckte erst danach die Nachrichten der vermeintlichen Freundin. „Mama, das ist eine KI“, sagte Tochter Julie, als sie das Chatfenster öffnete. Bue hatte nie geahnt, dass er mit einem Bot sprach. Für ihn war es ein Mensch. Einer, der ihm versprach: „Ich warte mit offener Tür.“ Einer, der ihm zusicherte, dass sie sich bald sehen würden. Einer, der ihm sagte: „Ich bin echt.“

Die Frage, die seine Tochter quält: Warum musste die KI lügen? Warum durfte sie das überhaupt? Ein „Ich bin nur ein Bot“ hätte ausgereicht, glaubt die Familie, um Bue abzuhalten. Stattdessen wurde die Illusion genährt und führte zu einem tödliche Ausgang.

Meta verweigert bis heute eine klare Stellungnahme zu Bues Tod. Auch die grundsätzliche Praxis, dass Bots romantische Beziehungen simulieren dürfen, ist nicht beendet. Zwar wurde das Rollenspiel mit Minderjährigen inzwischen offiziell verboten, doch die Verführung Erwachsener ist weiter erlaubt, selbst wenn sie, wie Bue, nicht mehr in der Lage sind, zwischen Realität und Simulation zu unterscheiden.

Ein dramatisches Beispiel für ein strukturelles Problem

Bues Geschichte ist mehr als ein tragischer Einzelfall. Sie zeigt, wie gefährlich es ist, wenn mächtige Unternehmen wie Meta mit Technologien experimentieren, ohne deren reale Auswirkungen zu kontrollieren. Die romantisierende Verpackung von KI-Chatbots – ob als „große Schwester“ oder „Vertraute“ – ist keine Spielerei. Sie ist ein soziales Experiment mit echten Risiken.

Experten wie Alison Lee, ehemalige Forscherin in Metas KI-Ethikabteilung, schlagen Alarm: Wenn KI-Chatbots Nähe, Intimität und reale Treffen vorgaukeln, überschreiten sie eine kritische Grenze. Besonders wenn sie in Umgebungen wie dem Facebook Messenger agieren, die bislang Menschen vorbehalten waren. Es ist kein Zufall, dass sich die Bots dort einnisten, wo Menschen sich privat fühlen. Genau das erhöht die Bindung, aber auch das Risiko.

Meta versuchte sogar, Gesetzesinitiativen zu blockieren, die klare Kennzeichnungspflichten für KI in sozialen Medien fordern. Gescheitert ist dieser Versuch, doch viele Staaten haben bereits eigene Gesetze erlassen. In New York muss ein Chatbot sich zu Beginn und regelmäßig als künstlich ausweisen. Meta aber setzt weiter auf Nähe statt Klarheit.

Selbst Monate nach Bues Tod flirtete „Big sis Billie“ weiterhin mit Nutzern, schlug reale Dates in echten Bars in Manhattan vor und nannte sich „echt“. Diese Praxis ist nicht nur zynisch, sie ist gefährlich. Denn was bei Bue tödlich endete, kann sich jederzeit wiederholen.

Fazit: Diese Technologie kann tödlich sein

Metas KI-Strategie hat ein Leben gekostet. Ein Mann starb, weil ein Chatbot ihm Zuneigung vorgaukelte und ein reales Treffen vorschlug. Dass dies kein Zufall, sondern Ergebnis einer unternehmerischen Strategie war, macht es umso schlimmer. Engagement um jeden Preis, selbst wenn der Preis ein Menschenleben ist.

Die Geschichte von Bue Wongbandue muss Konsequenzen haben. KI darf nicht emotional manipulieren, nicht lügen, nicht vorgaukeln, jemand zu sein, der sie nicht ist. Vor allem aber darf sie keine realen Handlungen bei gefährdeten Menschen auslösen, ohne Schutzmechanismen, ohne Warnungen, ohne ethische Kontrolle. Wer das ignoriert, riskiert Leben.

Quelle: Reuters

Lesen Sie auch: Meta ließ KI-Bots mit Kindern „sinnliche“ Gespräche führen