ChatGPT, die von OpenAI entwickelte künstliche Intelligenz, öffnet Cyberkriminellen bedrohliche Türen. Florian Hansemann, Experte für Cybersicherheit, demonstrierte in der ARD-Sendung „Plusminus“ das erschreckende Potenzial von ChatGPT bei der Entwicklung von Schadsoftware.
Gefährliche Leichtigkeit: Schadsoftware per Chat-Befehl
ChatGPT, eine an sich harmlose und nützliche Technologie, wird in dunklen Kreisen missbraucht. Hansemann demonstrierte, wie einfach es ist, mit ChatGPT Schadcode zu erstellen. Mit diesen Codes können beispielsweise unbemerkt Passwörter und sensible Daten gestohlen werden. Es wurde ein Keylogger erstellt – eine Software, die Tastatureingaben aufzeichnet.
Hansemanns Experiment zeigte, wie dieser Keylogger durch eine getarnte Phishing-Mail in Umlauf gebracht wurde. Die Folge: Alles, was auf der infizierten Tastatur getippt wurde, konnte überwacht werden.
KI im Untergrund: ChatGPT im Darknet
Sergey Shykevich, Sicherheitsforscher bei Check Point, bestätigt diesen Missbrauch. In russischen Untergrundforen wird ChatGPT genutzt, um Sicherheitsfilter zu umgehen oder Gesichtserkennungssysteme zu knacken. Shykevich warnt vor der zunehmenden Verbreitung von Schadcode, der durch KI-Tools wie ChatGPT auch für Laien zugänglich wird.
Globale Gefahr: Ruf nach KI-Regulierung
Angesichts dieser Entwicklungen wird der Ruf nach einer Regulierung von Künstlicher Intelligenz immer lauter. Warnungen vor KI-basierten Bedrohungen wie geklonten Stimmen für Erpressungen werden lauter.
Das Center for AI Safety betont die Notwendigkeit, das Risiko einer durch KI ausgelösten Katastrophe neben anderen globalen Risiken wie Pandemien und Atomkrieg zu betrachten. Sam Altman, CEO von OpenAI, unterstützt diese Forderungen.
Sicherheit im digitalen Umfeld
In Europa reagiert die Politik: Die EU hat den Digital Service Act zur Regulierung von KI ins Leben gerufen. Diese Entwicklung zeigt, dass die Gefahren, die von Künstlicher Intelligenz ausgehen können, ernst genommen werden müssen.
Die Debatte um die Regulierung von KI-Technologien ist entscheidend für die künftige Sicherheit im digitalen Raum. Es ist klar, dass die Vorteile von KI nicht ohne Risiken sind.
Wirksame Maßnahmen und Richtlinien sind notwendig, um den Missbrauch dieser Technologien zu verhindern und gleichzeitig ihre positiven Anwendungen zu fördern.
Quelle: SRF
Möchten Sie mehr über dieses oder ähnliche Themen erfahren? Bleiben Sie mit dem Mimikama-Newsletter auf dem Laufenden, und melden Sie sich für unsere Online-Vorträge und Workshops an.
Lesen Sie auch:
Hinweise: 1) Dieser Inhalt gibt den Stand der Dinge wieder, der zum Zeitpunkt der Veröffentlichung aktuell war. Die Wiedergabe einzelner Bilder, Screenshots, Einbettungen oder Videosequenzen dient zur Auseinandersetzung der Sache mit dem Thema.
2) Einzelne Beiträge entstanden durch den Einsatz von maschineller Hilfe und wurde vor der Publikation gewissenhaft von der Mimikama-Redaktion kontrolliert. (Begründung)