Erfundene Omas, gefälschte Schicksale, KI-Schwachsinn mit echten Likes. Künstliche Intelligenz macht uns nicht dümmer – sie macht Blödsinn nur spottbillig und massenhaft. Und die Plattformen verdienen an der Aufmerksamkeit mit.
Früher musste man sich für einen ordentlichen Blödsinn wenigstens noch ein bisserl anstrengen. Man brauchte eine absurde Geschichte, ein schlecht bearbeitetes Foto oder zumindest einen Bekannten, der etwas ganz sicher von jemandem gehört hatte. Heute reichen ein paar Wörter in einem KI-Generator.
Sekunden später steht ein fünfbeiniges Wunderkind neben einem Jesus aus Kartoffeln, eine angeblich 112-jährige Dame bittet um Geburtstagswünsche, und irgendwo rettet ein Hund seine siebenundzwanzig Welpen aus einem brennenden Krankenhaus. Alles herzzerreißend. Alles womöglich frei erfunden. Und darunter schreiben echte Menschen: „Gott segne euch!“
Wir haben Maschinen gebaut, die Texte schreiben, Bilder erzeugen und Videos produzieren, für die man vor wenigen Jahren noch ein ganzes Team gebraucht hätte. Und wir lassen uns damit unter anderem Babys mit acht Fingern generieren, damit wildfremde Menschen ihnen zum Geburtstag gratulieren.
Bequem wäre es, sich über jene lustig zu machen, die darauf hereinfallen. Das greift aber zu kurz. Blödsinn gab es im Internet schon immer – Kettenbriefe, Wunderheilungen und Verschwörungsgeschichten haben keine KI gebraucht. Neu ist, dass sich die Herstellung automatisieren lässt. Und dass Plattformen mit auf Aufmerksamkeit ausgerichteten Empfehlungssystemen die Echtheit einer Geschichte nicht zwangsläufig erfassen.
Die große Fabrik für künstliches Mitgefühl
Eine ältere Frau sitzt vor einem Geburtstagskuchen, das Gesicht von tiefen Falten gezeichnet. Daneben steht: „Heute werde ich 105 Jahre alt. Leider hat mir noch niemand gratuliert.“ Darunter sammeln sich Glückwünsche, Herzen und Gebete. Wer einem vermeintlich einsamen Menschen gratuliert, reagiert menschlich – und genau das macht solche Bilder so wirkungsvoll. Man muss keine Quelle prüfen und keine Debatte führen. Ein Klick aufs Herz genügt, um sich für einen Augenblick als guter Mensch zu fühlen.
Wie gut das funktioniert, hat der Forscher Márk Miskolczi von der Corvinus-Universität untersucht. Sein Befund: Die Bilder wirken vor allem dann, wenn sie Gefühle ansprechen und zugleich typische Denkabkürzungen bedienen – etwa die Neigung, Vertrautem eher zu glauben oder sich der Mehrheit anzuschließen. Am häufigsten ging es um Nostalgie und rührende Geschichten.
Bei der Untersuchung wurden zahlreiche Kommentare anhand verdächtiger Verhaltensmuster als mögliche Bot-Beiträge aussortiert. Selbst manche Menschen, die die KI-Bilder durchschauten, erkannten die verdächtigen Kommentare offenbar nicht. Das erfundene Schicksal bekommt also echtes Mitgefühl – und möglicherweise zusätzlich automatisierte Reaktionen.
Repräsentativ für ganz Facebook ist die Studie nicht, und wie viele Kommentierende wirklich an die Bilder glaubten, kann sie nicht messen. Sie zeigt aber, wie banal diese Form der Täuschung ist. Niemand muss eine Weltverschwörung erfinden. Ein Hund mit traurigen Augen oder ein einsamer Großvater an einem erfundenen Küchentisch reichen. Wenn die Geschichte emotional passt, ist der Finger am Like-Button, bevor sich die Frage nach der Echtheit überhaupt stellt.
Früher hieß das Spam. Heute hat der Spam ein Kunststudium.
Für massenhaft produzierte, meist minderwertige KI-Inhalte hat sich im Englischen der Begriff „AI Slop“ eingebürgert – sinngemäß: KI-Schlamm. Gemeint sind Bilder, Videos und Texte, deren Hauptzweck es ist, mit möglichst wenig Aufwand möglichst viel Aufmerksamkeit zu erzeugen. Nicht jedes KI-Bild fällt darunter. Wer mit KI eine Illustration gestaltet oder bewusst künstlerisch arbeitet, produziert noch lange keinen digitalen Abfall.
Bei Slop geht es um die Produktionslogik. Ein Inhalt muss weder originell noch gut sein, er muss nur funktionieren. Läuft eine erfundene Tiergeschichte, wird sie wiederholt: morgen mit einer Katze, übermorgen mit einem Pferd. Danach rettet ein kleines Mädchen einen weißen Löwen, während im Hintergrund ein Feuerwehrmann mit drei Armen applaudiert. Hauptsache, irgendwer kommentiert „So süß!“.
Die Rechnung dahinter ist einfach. Wer tausend Beiträge fast gratis herstellen kann, braucht nur ein paar Treffer, um Aufmerksamkeit auf eine Seite, ein Profil oder ein Angebot zu lenken. Ob daraus Geld wird, hängt von Plattform und Geschäftsmodell ab. Reichweite ist aber ein begehrtes Zwischenziel.
Dass Maschinentexte beim Publikum sogar besser ankommen können, zeigt eine Studie in der Fachzeitschrift ACM Transactions on the Web. Die Teilnehmenden bewerteten Social-Media-Beiträge – jeweils eine Version von Menschen und eine von GPT-4 für Facebook, Instagram oder X angepasste. Die KI-Varianten wurden bevorzugt, hatten stärkere Handlungsaufforderungen und lösten mehr Interaktion aus, am deutlichsten bei Facebook.
Getestet wurde in einer Bewertungssituation, nicht im echten Feed. Für professionelle Inhaltsproduzenten ist das trotzdem eine klare Ansage: Die Maschine liefert, was gefällt – ohne müde zu werden, ohne Urlaub und ohne sich zu beschweren, dass sie schon wieder einen rührseligen Text über einen imaginären Labrador schreiben soll.
Wer mit einer offen als künstlich gekennzeichneten Figur mitfühlt, erlebt Unterhaltung. Wer glaubt, einer tatsächlich einsamen Frau zu gratulieren, nimmt an einer ganz anderen sozialen Situation teil. Genau diese Unterscheidung verschwindet gerade heimlich.
Und die Plattformen? Die finden plötzlich ganz viele Etiketten.
Facebook und Instagram sind keine unbeteiligten Zuschauer. Meta hat eigene KI-Werkzeuge und kennzeichnet seit 2024 KI-generierte Bilder, Videos und Audiodateien unter bestimmten Voraussetzungen. Gleichzeitig erklärte der Konzern damals, solche Inhalte grundsätzlich online zu lassen, solange sie nicht gegen andere Regeln verstoßen. Übersetzt: Die künstliche Oma darf bleiben. Sie bekommt nur ein Namensschild.
Ende Juli 2026 kündigte Meta an, den EU-Verhaltenskodex zur Transparenz KI-generierter Inhalte zu unterzeichnen – wenige Tage, bevor die Kennzeichnungspflichten des EU AI Act am 2. August 2026 verbindlich wurden. Der Kodex selbst ist freiwillig, die Pflichten aus dem Gesetz sind es nicht. Für Werbeanzeigen will Meta erkannte KI-Nutzung außerdem verstärkt im Bereich „About this ad“ anzeigen (Unternehmensmitteilung, aktualisiert am 1. Juni 2026). Wie vollständig solche Hinweise erscheinen und wie oft Menschen sie überhaupt anschauen, sagt das noch nicht.
Damit entsteht eine ziemlich absurde Lage: Wir bauen Maschinen, die täuschend echte Inhalte erzeugen, und entwickeln dann neue Verfahren, um herauszufinden, welche Inhalte von diesen Maschinen stammen. Erst baut man den perfekten Fälscher, dann stellt man ihm einen Türsteher hin – und hofft, dass der Türsteher sein Handwerk versteht. Die Nutzer stehen derweil in der Schlange und müssen darauf vertrauen, dass die Kennzeichnung funktioniert.
Ein KI-Hinweis sagt, wie ein Bild entstanden ist – nicht, ob die Geschichte dazu stimmt. Ein ehrlich gekennzeichnetes KI-Bild kann eine Lüge transportieren. Ein leicht nachbearbeitetes echtes Foto kann trotzdem die Wahrheit zeigen.
Wer an der Aufmerksamkeit verdient
Soziale Netzwerke verkaufen Werbung, und ihre Empfehlungssysteme entscheiden, was wir sehen. Wer lange bleibt und weiterklickt, erzeugt mehr Werbekontakte. Ein System, das Reaktionen zählt, erkennt aber nicht zwangsläufig, ob ein herzzerreißendes Video echt ist. Ein Kommentar unter einem KI-Bild zählt genauso wie einer unter einer echten Aufnahme. Für die Wahrheit ist das ein gewaltiger Unterschied, für die Statistik keiner. Die Oma ist erfunden. Die Klicks sind echt.
Ob Plattformen KI-Schrott gezielt bevorzugen, lässt sich ohne Daten zu Reichweite und Algorithmen nicht belegen. Die Spannung ist trotzdem da: Gerade banale, übertrieben emotionale Beiträge lösen oft die stärksten Reaktionen aus. Die Verantwortung allein den Menschen zuzuschieben, die darauf hereinfallen, wäre deshalb zu billig. Wer ein Netzwerk baut, entscheidet mit, was empfohlen wird, welche Transparenzregeln gelten und welche Inhalte sich wirtschaftlich lohnen.
Der nächste Depp ist dann womöglich der echte Mensch
Je mehr überzeugende Fälschungen kursieren, desto leichter lässt sich auch Echtes als Fälschung abtun. In der Forschung heißt das „Liar’s Dividend“ – die Dividende des Lügners: Wer mit einem unangenehmen Beleg konfrontiert wird, behauptet einfach, er sei manipuliert.
Dass das funktioniert, zeigt eine Studie von Kaylyn Jackson Schiff, Daniel Schiff und Natália Bueno in der American Political Science Review. Politiker, die einen Skandal als Desinformation abtaten, konnten damit Unterstützung zurückgewinnen. Das klappte vor allem bei Skandalberichten in Textform. Bei Videobeweisen zeigte sich der Effekt weitgehend nicht. Die Behauptung, etwas sei gefälscht, kann also unter bestimmten Bedingungen bereits als Ausrede funktionieren.
Für die öffentliche Debatte ist das eine ungute Mischung. Auf der einen Seite werden erfundene Geschichten für bare Münze genommen, auf der anderen müssen echte Aufnahmen erst gegen den pauschalen KI-Verdacht bestehen. Im schlimmsten Fall wird der Zweifel selbst zur bequemen Ausrede, sich mit einem belastenden Sachverhalt gar nicht mehr beschäftigen zu müssen.
Ist künstlich jetzt automatisch schlecht? Wir verwenden schließlich selbst KI.
Natürlich nicht. Wir wären ziemlich scheinheilig, würden wir so tun, als müsste künstliche Intelligenz möglichst schnell wieder aus dem Internet verschwinden. Wir bei Mimikama nutzen selbst KI: bei Recherchen, beim Strukturieren großer Informationsmengen, beim Formulieren und Überarbeiten von Texten und bei Bildideen und Grafiken. Für ein kleines Redaktionsteam ist das ein echter Vorteil.
Wir haben also kein Problem damit, wenn jemand KI sinnvoll einsetzt. Wir haben ein gewaltiges Problem damit, wenn Menschen mit künstlichen Inhalten getäuscht werden. Zwischen einer KI-Illustration, die einen Artikel verständlicher macht, und einer erfundenen Geschichte über ein angeblich schwer krankes Kind liegt ein riesiger Unterschied – auch wenn beide Bilder aus ähnlichen Werkzeugen stammen.
Und selbstverständlich wissen wir, dass KI Fehler macht. Sie erfindet gelegentlich Quellen, liefert falsche Informationen und formuliert mit beeindruckender Selbstsicherheit Behauptungen, die keiner Prüfung standhalten. Gerade im Faktencheck darf ein KI-Ergebnis deshalb nie ungeprüft als Tatsache übernommen werden.
Eine KI darf bei der Recherche helfen. Die journalistische Verantwortung bleibt bei uns. Wer sie an einen Chatbot abgibt, hat das Prinzip eines Faktenchecks nicht verstanden.
Eine offen gekennzeichnete KI-Satire darf großartig sein. Ein künstlich erzeugter Pinguin beim Wiener Opernball kann uns herzlich zum Lachen bringen. Behauptet allerdings jemand, das Tier sei tatsächlich über den roten Teppich gewatschelt und der ORF verschweige den Vorfall, haben wir wieder ein Thema für Mimikama.
KI ist ein Werkzeug. Mit einem Hammer kann man ein Haus bauen oder sich auf den Daumen hauen. Das macht den Hammer noch lange nicht deppert.
Vielleicht sollten wir aufhören, jeden Blödsinn auch noch zu belohnen
Niemand muss vor jedem Like ein digitales Ermittlungsverfahren durchführen. Das würde soziale Netzwerke endgültig zur unbezahlten Vollzeitbeschäftigung machen. Ein bisserl Skepsis bei auffällig rührseligen, spektakulären oder perfekten Beiträgen schadet aber nicht.
- Wer steht dahinter? Seit wann gibt es das Profil, und was postet es sonst?
- Ist die Geschichte belegt? Taucht sie irgendwo nachvollziehbar auf – mit Ort, Namen, Quelle?
- Warum so dringend? Je stärker ein Beitrag auf sofortige Gefühle drängt, desto genauer hinschauen.
- Stimmt das Bild? Hände und Finger, Schrift im Hintergrund, zu glatte Haut, Gegenstände, die ineinander verschwimmen.
- Und manchmal: einfach weiterscrollen.
Blödsinn hat es immer gegeben, und es gab immer Menschen, die ihn begeistert weiterverbreitet haben. Wer früher überzeugenden Unsinn verbreiten wollte, musste ihn aber wenigstens selbst zusammenbasteln. Heute liefert eine Maschine in kurzer Zeit unzählige Varianten.
Und das ist vielleicht die absurdeste Pointe der ganzen Geschichte: Wir haben künstliche Intelligenz entwickelt, damit uns Maschinen geistige Arbeit abnehmen. Jetzt produzieren manche damit künstlichen Schwachsinn, den andere Menschen mühsam wieder überprüfen müssen.
Jetzt kann es das auch noch vollautomatisch.
Quellen
Hinweis: Stand zum Veröffentlichungsdatum.
Verwendete Bilder, Screenshots und Medien dienen ausschließlich der sachlichen Auseinandersetzung im Sinne des Zitatrechts (§ 51 UrhG).
Teile dieses Beitrags können KI-gestützt erstellt und redaktionell geprüft worden sein.
(Mehr zur Arbeitsweise)
