Chat GPT: Forscher warnen vor Text-KIs

Chat GPT hat in den letzten Wochen immer mehr User gewonnen und die generelle Begeisterung für künstliche Intelligenzen scheint stark gestiegen zu sein. Während die meisten Interessent:innen die Text-KI nur einfach einmal ausprobieren wollen, häufen sich Berichte über möglicherweise problematische Anwendungszwecke. Auch wir haben schon einmal über ChatGPT berichtet.

Das System scheint beispielsweise große Beliebtheit bei Schüler:innen und Studierenden zu genießen, die sich Fragen beantworten oder auch ganze Texte formulieren lassen. Laut einer Studie soll die KI sogar wissenschaftliche Gutachter täuschen können.

KIs werden „kaum kritisch reflektiert“

Oliver Brock von der TU Berlin erwähnt laut einem Bericht vom STANDRARD: „In all dem aktuellen Hype und Enthusiasmus um Chat GPT dominieren derzeit die Berichte darüber, was alles funktioniert. Darüber, was nicht funktioniert, liest man viel weniger.“

Dementsprechend stellt sich Brock die Frage ob man bei Chat GPT überhaupt von einer künstlichen Intelligenz sprechen kann. Auch würden laut der Informatikerin Ute Schmid von der Otto-Friedrich-Universität Bamberg vergleichbare Sprachmodelle deutlich machen, „dass stupides Auswendiglernen und die Abfrage von derartigem Wissen an Schulen und Unis ein überholtes Konzept sind“.

„Im Moment ist dieser Hype. Ich habe das Gefühl, dass man dieses System kaum kritisch reflektiert“, erklärt Ruth Stock-Homburg, eine Professorin an der TU Darmstadt gegenüber Heise.de. „Man kann diese Systeme manipulieren“, fand sie im Rahmen eines Forschungsprojektes heraus.

Insgesamt kommen die Befragten Experten zu dem Schluss, dass die von Chat GPT angezeigten Ergebnisse immer wieder antisemitische und rassistische Aussagen enthalten, außerdem seien Quellenangaben häufig falsch. Es könne sogar sein, dass die KI „einfach lügt oder bei sehr speziellen Themen Informationen erfindet“.

Chat GPT ersetzt keine Suchmaschine

Die ganzen kritischen Stimmen sind unter anderem auch der Grund dafür, dass KIs, wie Chat GPT in deren aktuellen Fassungen noch keine Suchmaschinen wie Google bedrohen. Denn die abgelieferten Ergebnisse sind auf Dauer viel zu unzuverlässig, so DER STANDARD. Auch ist es nicht leicht zwischen wahren und erfundenen beziehungsweise falschen Ergebnissen der künstlichen Intelligenz zu unterscheiden, da Chat GPT seine Antworten immer mit voller Überzeugung herüberbringt.

Verbesserungen in Sicht?

Viele User und Fans spekulieren momentan, trotz der aktuellen Einschränkungen, welche Verbesserungen ein Update des sich dahinter verbergenden Sprachmodells mit sich bringen könnte. So gibt es von vielen Seiten aus hohe Erwartungen und Vorfreude auf die Veröffentlichung der neuen Version „GPT-4“.

Der Hersteller allerdings rechne damit, dass die Leute enttäuscht werden, weil sie zu hohe Erwartungen haben: „Die Leute betteln geradezu darum, enttäuscht zu werden – und das wird auch passieren“. Die Behauptung, dass GPT-4 viel mächtiger sei als die aktuelle Version, sei „völliger Bullshit“.

Trotzdem weiterhin durch Investments vorangetrieben

Auch wenn die künstlichen Intelligenzen noch keine Suchmaschine wie Google ersetzen können, kündigte beispielsweise Microsoft im Januar ein Milliardeninvestment in den Hersteller Open AI an. Der Softwarekonzern will das Tool in Produkte wie Bing und Office integrieren. Wegen dem großen Hype wird auch Google mittlerweile dazu gezwungen, neue Produkte auf den Markt zu bringen. Bisher wurde nämlich nichts dergleichen angekündigt.

Trotzdem arbeite man hinter den Kulissen schon lange an entsprechenden Tools und Systemen und möchte in Zukunft mehr als 20 bevorstehende Produkte präsentieren.

Quelle:

Der Standard

Schon gelesen? ChatGPT: Check, Recheck, Doublecheck! Glaube keinem Chatbot.