ChatGPT: Check, Recheck, Doublecheck! Glaube keinem Chatbot.

Hast du ChatGPT schon ausprobiert? Nein? Dann wird es Zeit. Mit Dem Bot der AI kann man sich angenehm (schriftlich) unterhalten, die Diskussion wirkt auch recht ausgefeilt.

Schreiben kann die künstliche Intelligenz ebenfalls ausgezeichnet. Es ist sogar möglich, Fragen zu stellen und Texte generieren zu lassen. Doch wer nun glaubt, dass diese AI Hausaufgaben, Abschlussarbeiten oder Recherchen übernehmen kann und einwandfrei verwertbare Ergebnisse liefert, begibt sich auf sehr dünnes Eis!

ChatGPT reimt sich immer wieder Unsinn zusammen!

Die Journalistin Barbara Wimmer hat jüngst auf ihrem Facebook-Account auf ein Problem der künstlichen Intelligenz aufmerksam gemacht: Der Bot reimt sich teilweise einfach Unsinn zusammen. Er erfindet sogar Aussagen, ohne jegliche Grundlage. Wimmer hat dieses Phänomen bemerkt, als sie sich mit dem Chatbot über DrumnBass Artists unterhalten hat.

Anfangs hat der Bot ihr noch korrekt geantwortet, doch im Verlaufe des Gespräches hat er ihren Angaben nach kompletten Blödsinn geredet. Er hat sogar teilweise Namen oder Songtitel erfunden. Wimmer hat ihre Aussagen mit entsprechenden Screenshots belegt und ruft dazu auf, ChatGPT nicht alles zu glauben. Sie spricht davon, die Grenzen des Programms erkennen zu müssen und die AI nicht dafür zu nutzen, um Fakten-Wissen abzurufen.

Der Selbsttest: Mimikama

In einem weiteren Test haben sowohl Barbara Wimmer, als auch wir den Bot über Informationen bezüglich Mimikama befragt. Die stets unterschiedlichen Ergebnisse waren sehr ernüchternd und hatten streckenweise rein gar nichts mit der Realität zu tun. So lieferte der Bot völlig falsche Angaben zur Gründung des Vereins, sowie auch irgendwelche Personen als Verantwortliche hinzugedichtet wurden.

Eine weitere Abfrage verlief ebenfalls mit problematischen Angaben. Der Bot behauptete in diesem Fall, dass es sich bei Mimikama um eine Schweizer Organisation handeln würde.

Natürlich ist es möglich, ChatGPT über den Bot mit Hinweisen und Feedbacks zu bestimmten Aussagen zu versorgen. Der Bot bedankt sich daraufhin zwar artig, verarbeitet die Korrekturen jedoch nicht direkt oder nur teilweise. Bei einer wiederholten Abfrage nach einem gewissen Zeitraum beinhalten die Aussagen des Bots leider weiterhin Fehler. An dieser Stelle bleibt natürlich abzuwarten, wie entsprechendes Feedback verarbeitet wird (Prüfung seitens der AI) und wie lange die Übernahme einer Korrektur dauert.

Selbstauskunft der AI

Der Bot gibt aber auch nicht immer die einfachst zu verstehenden Antworten. Ein Beispiel ist die Selbstauskunft, also seine Antwort auf die Frage „Was ist ChatGPT“. Der Bot antwortet:

Bei ChatGPT handelt es sich um ein generatives, vortrainiertes Transformer-Sprachmodell für Konversationsanwendungen. Es kann natürlichsprachlichen Text generieren, der dem von Menschen geschriebenen Text ähnelt, und für bestimmte Aufgaben anhand großer Textdaten fein abgestimmt werden. Das zumindest hat uns der Chatbot von ChatGPT über sich selbst geantwortet.

Es ist ein maschinelles Lernmodell, das Deep-Learning-Techniken verwendet, um Text in natürlicher Sprache zu generieren, der dem von Menschen geschriebenen Text ähnlich ist. ChatGPT wurde speziell für Konversationsanwendungen wie Chatbots entwickelt und kann fein abgestimmt werden, um angemessene Antworten auf Benutzereingaben in einem bestimmten Bereich zu generieren, z. B. Kundenservice oder Produktempfehlungen.

Die Kerntechnologie von GPT-basierten Modellen wie ChatGPT wird als Transformer bezeichnet, eine Architektur, die üblicherweise bei der Verarbeitung natürlicher Sprache eingesetzt wird. Die Transformer-Architektur eignet sich besonders gut für den Umgang mit sequenziellen Daten, wie z. B. Text, und hat sich als sehr effektiv bei der Generierung von menschenähnlichem Text erwiesen.

Zumindest will ich diese Angaben dem Bot an dieser Stelle einmal glauben, wenn er auf die Frage „Was ist ChatGPT“ über sich selbst antwortet.

Fazit zu ChatGPT

Tolle AI mit sehr unterhaltsamen Chatbot. Doch wie auch Barbara Wimmer, so können wir nur dazu raten, ChatGPT nicht als Recherche oder Wissensdatenbank zu nutzen. Zumindest nicht in Bereichen, wo ihr selbst keine Ahnung habt. Lasst euch gerne von dem Bot und seinen Möglichkeiten unterhalten. Nutzt ihn als Tool, aber bitte prüft alle Wissens-Angaben zu spezifischen Fachbereichen, denn die AI – auch wenn sie stets lernt – gibt häufig lieber erfundene Aussagen von sich, anstatt zu schweigen.

Das könnte ebenso interessieren: „Plötzlich und unerwartet“ – Wie Todesanzeigen instrumentalisiert werden