Bluesky in Gefahr? Deutsche KI-Bots mischen sich ein!

Hinweis: Dieser Artikel basiert auf der detaillierten Analyse von Lion Cassens (@lion-c.bsky.social), einem Wissenschaftler und Forscher im Bereich Datenwissenschaft, maschinelles Lernen und Smart Sensing. Cassens hat als einer der ersten auf die bedrohliche Präsenz deutschsprachiger KI-Bots auf der Plattform Bluesky aufmerksam gemacht. Mit seinem fundierten Wissen über KI und dezentrale Technologien hat er die Mechanismen und Strategien hinter diesem Netzwerk aufgedeckt.

Bsky is being flooded with German speaking AI powered bots. A thread on why this is important, ultimately making all social media is unusable. #deutschland #trolls #AI #election 1/ What happened? All these responses to a @zeit.de post have something in common (spoiler: they are not real):

[image or embed]

— Lion Cassens (@lion-c.bsky.social) 7. Dezember 2024 um 09:36

KI-Bots: Wie sie Plattformen wie Bluesky infiltrieren

Unter einem harmlosen Deckmantel aus höflichen Kommentaren und neutralen Formulierungen drängen KI-generierte Bots gezielt in soziale Netzwerke. Aktuell sichtbar auf Plattformen wie Bluesky, kommentieren sie vor allem unter Beiträgen deutscher Nachrichtenportale wie Zeit Online oder Spiegel Online. Die Bots wirken authentisch, doch sie teilen auffällige Merkmale:

• Generische Aussagen: „Wichtige Themen sollten klar angesprochen werden“ oder „Diskurs ist wichtig“ – Kommentare, die inhaltsleer sind, aber den Anschein eines echten Beitrags erwecken.
• Verdächtige Profile: Bots nutzen häufig Namen wie ‚Anna Wagner‘ oder ‚Julian Schneider‘, die typisch deutsch klingen, aber generisch wirken. Gemeinsam mit KI-generierten Profilbildern und austauschbaren Beschreibungen wie ‚Wellenliebhaber‘ oder ‚Bergfreund‘ ergibt sich ein auffälliges Muster. Allerdings gilt: Solche Merkmale sind ein starkes Indiz, aber kein absoluter Beweis für ein Bot-Profil.
• Technische Hintergründe: Die Accounts stammen von selbstgehosteten Plattformen wie „vanillasky.click“, die eine Identifikation und Sperrung durch zentrale Mechanismen umgehen.

Perspektive von Andre Wolf: Einschätzung zur Gefahr

Unser Kollege Andre Wolf, verantwortlich für mimikama.education und Experte für digitale Medien und Desinformation, ergänzt die Analyse von Lion Cassens um eine wichtige Perspektive: Er warnt vor einer massiven Desinformationswelle, die Deutschland in den Wochen vor den Wahlen treffen könnte.

Wolf betont, dass diese Bots derzeit wie „Schläfer-Accounts“ agieren. Sie bleiben unauffällig, indem sie neutrale Kommentare posten und dabei Vertrauen sowie Reichweite sammeln. Am Tag X – etwa in Verbindung mit politischen Ereignissen oder den Wahlen – könnten diese Netzwerke gezielt aktiviert werden, um Desinformation zu verbreiten, Diskussionen zu manipulieren oder Meinungen gezielt zu steuern.

Besonders kritisch sieht Wolf, dass bisher keine klare politische Tendenz der Bots erkennbar ist. Dies mache die Netzwerke flexibel und gefährlich, da sie theoretisch für jeden Meistbietenden aktiv werden könnten. Darüber hinaus hebt er hervor, dass diese Aktivitäten nicht nur die politische Meinungsbildung, sondern auch die Diskussionskultur und Integrität von sozialen Netzwerken wie Bluesky bedrohen könnten.

Die größere Gefahr: Was steckt dahinter?

Langfristige Strategie: Vertrauen aufbauen, dann zuschlagen

Momentan posten die Bots neutral und zurückhaltend, doch genau das ist Teil einer durchdachten Strategie. Durch „Engagement-Farming“ – das Gewinnen von Followern durch unauffällige Inhalte – könnte das Netzwerk langfristig gezielte Botschaften verbreiten, um Desinformation zu streuen oder Meinungen zu manipulieren.

Risiken für die Meinungsbildung:

• Polarisierung: Die Bots könnten zukünftig gezielt spaltende Themen aufgreifen und extreme Positionen verstärken.
• Desinformation: In Wahlzeiten oder Krisensituationen könnten falsche Informationen verbreitet werden, um Misstrauen zu säen.
• Verstärkung künstlicher Trends: Bots könnten die Illusion erzeugen, dass eine bestimmte Meinung die Mehrheit darstellt.

Warum Deutschland?

Eine stabile Demokratie, eine starke Medienlandschaft und internationale Bedeutung machen das Land zu einem idealen Ort für Manipulationsversuche. Mit den kommenden Wahlen könnte dieses Netzwerk gezielt versuchen, die öffentliche Meinung zu beeinflussen.

Technologische Herausforderungen

Die Geschwindigkeit, mit der KI-Bots authentischer werden, ist alarmierend. Während ältere Bot-Netzwerke leicht durch sprachliche oder stilistische Fehler auffielen, nähern sich moderne Bots dem natürlichen Schreibstil an. Zudem nutzen sie dezentrale Plattformen wie „vanillasky.click“, um Sperren zu umgehen. Dies könnte ein Vorgeschmack darauf sein, wie solche Netzwerke künftig arbeiten.

Plattformübergreifende Gefahr: Nicht nur ein Problem von Bluesky

Wie gefährlich ist die Bedrohung auf anderen Plattformen?

Obwohl die Analyse von Lion Cassens sich auf Bluesky konzentriert, ist klar, dass ähnliche Netzwerke auch andere Plattformen betreffen oder betreffen könnten:

• X: Bot-Netzwerke, die Wahlkampagnen manipulieren, sind hier bereits bekannt.
• Facebook und Instagram: KI-generierte Accounts könnten sich auch hier als authentische Nutzer tarnen und Vertrauen gewinnen.
• Dezentrale Netzwerke: Plattformen wie Mastodon sind besonders anfällig, da sie weniger zentral moderiert werden.

Warum ist Bluesky im Fokus?

Bluesky ist eine noch junge Plattform mit weniger ausgereiften Moderationsmechanismen. Dezentrale Technologien wie „vanillasky.click“ erschweren die Kontrolle. Trotzdem ist Bluesky nur ein Beispiel für ein Problem, das die gesamte Social-Media-Landschaft betrifft.

Was können Nutzer tun?

Tipps zur Erkennung von Bots:

1. Profilanalyse: Achten Sie auf verdächtig generische Namen, Bilder oder Beschreibungen.
2. Kommentarmuster: Wiederholen sich neutrale Phrasen ohne Bezug zum Beitrag?
3. Sprache: Fehlen regionale Begriffe, Dialekte oder typische Umgangssprache?

Screenshot Bluesky:

Auf dem Screenshot erkennt man Bluesky – Profile, die zu einem Netzwerk gehören, das KI-generierte Bots umfasst. Hier sind die auffälligen Merkmale, die auf ein Bot-Netzwerk hinweisen könnten:

Auffällige Merkmale der Profile

1. Domäne „vanillasky.click“:
   Alle Profile verwenden diese Domain, was darauf hindeutet, dass sie von derselben Quelle stammen. „Vanillasky.click“ ist bereits als selbstgehostete Plattform bekannt, die von Bot-Netzwerken genutzt wird, um Moderation und Sperrungen zu umgehen.
2. Generische Namen:
   Die Namen wie „Leonard Fischer“, „Leonie Schuster“ oder „Felix Neumann“ sind typisch deutsch, wirken jedoch auffallend generisch und austauschbar.
3. Ähnliche Profilbeschreibungen:
   Die Texte in den Profilbeschreibungen folgen wiederkehrenden Mustern:
   • Themen wie „Weltenbummler“, „Kreativer Kopf“, „Naturfan“ oder „Fotografie-Enthusiast“ tauchen in mehreren Profilen auf.
   • Die Formulierungen sind auffallend positiv und idealisiert, z. B. „Immer bereit, neue Melodien zu entdecken!“ oder „Lebe jeden Tag, als wäre es der letzte!“
4. Ähnliche Interessen und Hobbys:
   Die genannten Interessen überschneiden sich stark zwischen den Profilen, z. B.:
   • Natur (z. B. „Naturentdecker“, „Naturfanatikerin“)
   • Fotografie (z. B. „Fotografie-Enthusiast“)
   • Reisen (z. B. „Weltenbummler“)
5. KI-generierte Inhalte:
   Die Beschreibungen und die Profilbilder wirken sehr generisch und könnten von einer KI erstellt worden sein, um Authentizität vorzutäuschen.
6. Fehlende Individualität:
   Trotz der scheinbaren Vielfalt in Interessen und Beschreibungen fehlt den Profilen eine echte Individualität. Sie wirken wie Variationen desselben generischen Musters.

Nützliche Tools:

Es gibt automatisierte Blocklisten, wie die von @autoblocklistbot.bsky.social auf Bluesky, die regelmäßig aktualisiert wird. Diese Liste identifiziert verdächtige Accounts, die durch KI-generierte Inhalte und selbstgehostete Plattformen wie „vanillasky.click“ auffallen. Nutzer können die Blockliste abonnieren, um verdächtige Profile automatisch zu blockieren und so ihren Feed sauber zu halten.

Fazit: Bluesky in Gefahr

Die Präsenz deutschsprachiger KI-Bots ist eine alarmierende Entwicklung mit weitreichenden Folgen für Social Media und demokratische Prozesse. Was harmlos beginnt, könnte bald zu einer massiven Manipulationskampagne eskalieren. Plattformen, Politik und Nutzer müssen jetzt handeln, um solche Netzwerke frühzeitig zu stoppen und das Vertrauen in soziale Medien zu schützen.

Passend zum Thema

• Mehr Sicherheit auf Bluesky: Wie die Plattform gegen Identitätsbetrug vorgeht
• Bluesky: Was passiert, wenn der Underdog groß wird?
• Blueskys Aufstieg: 2 Millionen Nutzer

Lesen Sie auch: Assad gestürzt: ein Faktencheck