KI-Bots als Phishing-Helfer: So gefährlich ist „Grokking“ wirklich

Was ist „Grokking“ und warum ist das so gefährlich?

Stell dir vor: Du liest auf X eine Antwort vom offiziellen KI-Bot Grok. Er wirkt freundlich, hilfreich – und gibt dir sogar einen Link zu mehr Infos. Klingt gut? Falsch gedacht! Genau das nutzen Betrüger jetzt aus.

Die neue Masche heißt „Grokking“. Dabei bringen Kriminelle KI-Bots wie Grok dazu, schädliche Links weiterzugeben – ohne dass der Bot merkt, dass er gerade beim Betrug hilft. Der Trick dabei: Die Frage an den Bot wirkt harmlos. Doch der eingebettete Inhalt – ein versteckter Link oder ein manipuliertes Feld – bringt ihn dazu, diesen gefährlichen Link als Teil seiner Antwort zu veröffentlichen.

Ein Beispiel: Ein Video wird auf X gepostet, darunter ein unauffälliger Text mit verstecktem Link. Dann wird Grok gefragt: „Woher stammt das Video?“ Grok analysiert den Post, entdeckt den versteckten Link – und gibt ihn weiter. Fertig ist der KI-Phishing-Angriff.

Viele Nutzer vertrauen KI-Antworten – besonders wenn sie von offiziellen Accounts kommen. Das macht die Sache noch gefährlicher.

Wie funktioniert dieser Trick genau?

Das Ganze nennt sich Prompt Injection. Klingt technisch – ist es auch. Aber die Idee ist simpel:

Statt die KI direkt zu hacken, bauen Betrüger versteckte Befehle in normale Texte ein. Zum Beispiel:

• Unsichtbarer Text auf Webseiten (weiße Schrift auf weißem Hintergrund)
• Manipulierte Links in sozialen Netzwerken
• E-Mails mit unsichtbaren Anweisungen

Die KI sieht diese „versteckten Botschaften“ – und tut genau das, was die Betrüger wollen. Das Problem: Der Nutzer merkt davon gar nichts. Er bekommt eine scheinbar hilfreiche Antwort und klickt – und ist in der Falle.

Eine Studie von Gartner zeigt: Bereits 2024 waren 32 % aller Unternehmen von solchen Prompt Injection-Angriffen betroffen. Und es werden mehr.

Wer steckt dahinter – und warum?

Diese neue Betrugsmasche wird besonders gern von Cyberkriminellen genutzt, weil sie wenig Aufwand und viel Wirkung verspricht. Aber auch andere Gruppen profitieren:

• Betrüger im Darknet, die fertige KI-Angriffe verkaufen
• Spammer, die mit Links auf betrügerische Seiten Geld verdienen
• Plattformen, die zu wenig kontrollieren – wie X oder andere Netzwerke

Der Trick dabei: Ein Link von einem scheinbar „offiziellen“ KI-Bot wirkt vertrauenswürdig – und wird sogar bei Google besser gerankt. Das heißt: Der Betrüger bekommt mehr Klicks, mehr Reichweite und mehr Opfer.

Was kannst du tun, um dich zu schützen?

Hier sind 6 einfache Tipps, mit denen du dich vor solchen Angriffen schützen kannst:

1. Klick nie einfach auf Links aus KI-Antworten. Schau dir die URL an, bevor du irgendwas öffnest.
2. Vertrau nicht blind auf „offizielle“ Bots. Auch sie können manipuliert werden.
3. Benutze ein gutes Antivirenprogramm. Am besten eines, das auch Webseiten analysiert.
4. Aktiviere Zwei-Faktor-Login. So bist du sicherer, selbst wenn mal ein Passwort gestohlen wird.
5. Verwende einen Passwortmanager. Damit behältst du die Kontrolle und erkennst Phishing-Seiten leichter.
6. Bleib informiert. Je mehr du über solche Tricks weißt, desto besser kannst du sie erkennen.

FAQ: Häufige Fragen zu Grokking und KI-Phishing

Fazit: KI kann helfen – aber auch Schaden anrichten

„Grokking“ zeigt, wie einfach es ist, selbst smarte Systeme für Betrug zu missbrauchen. KI-Bots wie Grok sind nicht böse – aber sie verstehen nicht, was sie tun. Genau das macht sie angreifbar.

Der beste Schutz? Nicht alles glauben, was von einem Bot kommt. Prüfe Links, bleib skeptisch – und informiere dich über neue Tricks im Netz. Nur so kannst du verhindern, dass du der Nächste bist, der auf eine schlaue Masche hereinfällt.

Quelle: Grokking: Wenn KI-Chatbots zu Phishing-Helfern werden

Auch lesenswert: Milliarden mit Betrug: Wie Meta an Scam-Werbung verdient