Fake durch KI: Wie X mit Grok falsche Infos zum München-Anschlag verbreitete

Am 13. Februar 2025 fuhr in München ein Auto in eine Menschenmenge. Wir haben HIER darüber berichtet. Während offizielle Stellen noch ermittelten, wer der Täter war, kursierten auf X bereits erste angebliche Täterinformationen. Die Quelle? Grok, die hauseigene Künstliche Intelligenz von Elon Musks Unternehmen xAI.

Die von Grok generierte Antwort behauptete, der Täter sei ein 18-jähriger Österreicher mit bosnischen Wurzeln – eine vollkommen falsche Information. Tatsächlich handelte es sich beim festgenommenen Fahrer laut Polizei um einen 24-jährigen afghanischen Asylbewerber. (Quelle / Archiv)

Das Brisante: Grok wusste selbst, dass die Information nicht aktuell war. Unter der falschen Behauptung stand in einem Absatz der Hinweis, dass diese Angabe aus einem früheren Fall in München stammt. Doch dieser Absatz war in der Vorschau auf X nicht sichtbar.

Was ist KI „Grok“ – und warum ist sie problematisch?

Grok ist ein KI-gestützter Chatbot, entwickelt von xAI, einem Unternehmen von Elon Musk. Die Künstliche Intelligenz ist direkt in die Plattform X (ehemals Twitter) integriert und soll Nutzern auf Fragen antworten – ähnlich wie ChatGPT.

🚀 Musk selbst behauptet, dass Grok „frecher“ und „besser als andere KI-Modelle“ sei, weil es Zugriff auf Echtzeitinformationen von X habe.

⚠️ Das Problem:

• Grok überprüft die ausgegebenen Informationen nicht ausreichend auf Richtigkeit.
• Die KI nutzt alte Daten, ohne klar darauf hinzuweisen.
• In der Vorschau auf X sind Korrekturhinweise nicht sichtbar, sodass falsche Infos sich unkontrolliert verbreiten können.

So etwas führte genau zu einer massiven Verwirrung, weil Grok einen völlig falschen Täter nannte – obwohl die KI selbst wusste, dass die Information nicht aktuell war.

🛑 Kurz gesagt: Grok ist eine mächtige, aber unzuverlässige Nachrichtenquelle – und dieser Fall zeigt, wie gefährlich das sein kann.

Wie konnte das passieren?

Grok ist eine KI-gestützte Chat-Funktion, die auf X verfügbar ist und ähnlich wie ChatGPT auf Fragen antwortet. Sie zieht ihre Informationen aus dem Internet und früheren Berichten, überprüft diese aber nicht auf Aktualität oder Richtigkeit.

In diesem Fall wurde offenbar eine alte Meldung aus dem Jahr 2024 ausgegeben – und als aktuelle Tatsache präsentiert. Die Nutzer, die den Beitrag sahen, verbreiteten ihn weiter, ohne den versteckten Korrekturhinweis zu bemerken.

Ein entscheidender Fehler: Die KI hat die Information nicht automatisch korrigiert, obwohl sie wusste, dass sie falsch ist.

Warum ist das gefährlich?

Falschinformationen sind in Krisensituationen besonders heikel. Wenn eine KI falsche Täterbeschreibungen ausgibt, kann das ernsthafte Folgen haben:

🔴 Unschuldige Menschen können verdächtigt werden.
🔴 Politische Diskussionen werden auf falschen Annahmen geführt.
🔴 Panik und Misstrauen in der Bevölkerung werden verstärkt.
🔴 Echte Ermittlungen könnten durch Fehlinformationen behindert werden.

Gerade Plattformen wie X, auf denen Nachrichten sich rasend schnell verbreiten, sind besonders anfällig für solche Fehler.

Grok und X: Wer übernimmt die Verantwortung?

Wir haben xAI, das Unternehmen hinter Grok, um eine Stellungnahme gebeten. Bisher gab es keine Antwort. Elon Musk selbst hatte in der Vergangenheit mehrfach behauptet, dass Grok „besser als andere KI-Modelle“ sei, weil sie Zugriff auf Echtzeit-Informationen habe. Doch dieser Vorfall zeigt: Echtzeit-Informationen nützen nichts, wenn sie falsch sind.

Ein weiteres Problem: Auf X gibt es kaum noch Moderation und Faktenchecks. Seit Musk die Plattform übernommen hat, wurden zahlreiche Moderatoren entlassen. Die Plattform setzt vermehrt auf KI-gestützte Inhalte – doch wenn diese falsch sind, gibt es kaum noch Kontrollmechanismen

KI als Fehlinformationsquelle: Ein wachsendes Problem

Grok ist nicht die einzige Künstliche Intelligenz, die in der Vergangenheit falsche Informationen verbreitet hat. Auch andere große KI-Modelle haben in der Vergangenheit mit „Halluzinationen“ zu kämpfen gehabt – also der Erfindung von falschen Fakten.

Beispiele für ähnliche KI-Fehltritte:
🔹 ChatGPT gab falsche Informationen über Gerichtsurteile aus.
🔹 Google Bard präsentierte gefälschte NASA-Bilder als echte Aufnahmen.
🔹 Meta’s KI generierte erfundene Biografien über Journalisten.

Das Problem: KI-Modelle „denken“ nicht – sie geben nur Wahrscheinlichkeiten wieder. Wenn viele ähnliche Informationen im Netz kursieren, gibt die KI sie wieder – selbst wenn sie falsch sind.

Besonders problematisch wird das, wenn Plattformen wie X sich zunehmend auf KI-generierte Inhalte verlassen. Wenn keine menschlichen Faktenprüfer mehr da sind, gibt es keine Korrekturen mehr.

Was muss sich ändern?

Die Verbreitung von Falschinformationen durch KI ist ein ernstes Problem, das reguliert werden muss. Mögliche Lösungsansätze:

✅ Kennzeichnung von KI-generierten Inhalten: Antworten von Grok und anderen KIs müssen klar als automatisiert gekennzeichnet werden.
✅ Striktere Faktenchecks durch Plattformen: Unternehmen wie X sollten KI-generierte Inhalte nicht einfach unkontrolliert verbreiten.
✅ Bessere Schulung der Nutzer: Menschen müssen lernen, KI-generierte Inhalte kritisch zu hinterfragen.

Ein Ansatz könnte sein, dass KI-Modelle ihre Quellen transparenter offenlegen müssen. Aktuell bleibt oft unklar, woher die Informationen stammen.

Fazit: X und Grok zeigen, wie gefährlich KI-Fake-News sein können

Der Fall Grok und der München-Anschlag zeigen: Künstliche Intelligenz ist keine verlässliche Nachrichtenquelle.

Obwohl Grok selbst wusste, dass die Täterbeschreibung falsch war, verbreitete sich die Falschinformation trotzdem viral. Das ist ein ernsthaftes Problem – denn in einer Welt, in der sich Nachrichten in Sekundenschnelle verbreiten, kann eine falsche Information mehr Schaden anrichten als eine echte.

Plattformen wie X müssen sich der Verantwortung stellen. Sonst droht eine Zukunft, in der wir Nachrichten nicht mehr vertrauen können – weil niemand mehr weiß, was wirklich wahr ist.