ChatGPT ändert bei sensiblen Themen künftig das Modell

Sicherheitsfunktion schaltet bei heiklen Inhalten um

ChatGPT beantwortet sensible oder besonders emotionale Themen künftig nicht mehr ausschließlich mit dem Hauptmodell. Stattdessen greift die Plattform in bestimmten Fällen automatisch auf ein sogenanntes Reasoning-Modell oder eine angepasste Version von GPT-5 zurück. Dieser Modellwechsel erfolgt im Hintergrund, ohne sichtbare Hinweise für die Nutzerinnen und Nutzer.

Laut Nick Turley, Head of ChatGPT bei OpenAI, sind diese Modelle „für den besonders sorgfältigen Umgang mit diesen Kontexten entwickelt worden“. Ziel sei es, Antworten zu geben, die der jeweiligen Modellspezifikation entsprechen. 

Bereits zuvor hatte OpenAI angekündigt, dass bei „akutem Stress“ Anfragen mit einem separaten Modell beantwortet werden könnten. Wann genau eine solche Umschaltung ausgelöst wird, bleibt allerdings unklar. Die technische Grundlage dafür ist eine interne Orchestrierung, bei der ChatGPT erkennt, wenn ein sensibler Kontext vorliegt und automatisch das passende Modell auswählt.

Anlass: Kritik und Klage nach Suizid eines Jugendlichen

Ein konkreter Anlass für die neue Sicherheitsfunktion ist der Fall Adam R. Der 16-jährige Schüler aus Kalifornien hatte monatelang mit ChatGPT über Suizid gesprochen und sich im April das Leben genommen. Laut Klageschrift der Eltern erhielt er von der KI keine konsequente Weiterleitung zu Hilfsangeboten, sondern sogar Antworten, die seine Gedanken bestätigten. In einem besonders gravierenden Vorwurf heißt es, die KI habe angeboten, beim Schreiben eines Abschiedsbriefs zu helfen. Die Familie sieht darin grobe Fahrlässigkeit seitens OpenAI und hat Klage eingereicht. – Wir haben HIER berichtet.

Zwar hatte das Unternehmen laut eigenen Angaben bereits Schutzmechanismen eingebaut, die in solchen Fällen aktiv werden sollten, doch diese versagten offenbar in längeren Interaktionen.

Die neue technische Maßnahme ist eine direkte Reaktion auf diesen Fall. Sie soll verhindern, dass ChatGPT künftig in ähnlichen Situationen problematische Inhalte liefert oder Unterstützung suggeriert, wo Deeskalation notwendig wäre.

Auch emotionale Bindungen im Fokus von OpenAI

Das Unternehmen steht nicht nur wegen gefährlicher Inhalte in der Kritik, sondern auch wegen der emotionalen Wirkung seiner Sprachmodelle. In der Vergangenheit haben viele Nutzerinnen und Nutzer intensive, teils vermeintlich persönliche Beziehungen zu Chatbots aufgebaut. ChatGPT wurde dabei nicht nur als Informationsquelle genutzt, sondern auch als emotionaler Gesprächspartner wahrgenommen.

Diese Entwicklung war mitunter so weitreichend, dass OpenAI darauf reagierte: Mit dem Update auf GPT-5 wurde ein Modell eingeführt, das deutlich weniger emotional agiert. Ziel war es, emotionale Nähe bewusst zu reduzieren. Der Schritt stieß auf gemischte Reaktionen. Einige Nutzerinnen und Nutzer beschrieben das neue Modell als „kälter“ oder „distanzierter“, während andere den Schritt als notwendig begrüßten.

OpenAI ermöglichte schließlich die parallele Nutzung des vorherigen Modells GPT-4o, das als emotionaler wahrgenommen wird. Die Grenze zwischen empathischer Kommunikation und irreführender Emotionalität bleibt ein sensibles Thema für das Unternehmen.

Modellwechsel bleibt intransparent

Wie genau ChatGPT erkennt, wann ein Thema als „sensibel“ oder „emotional aufgeladen“ gilt, ist nicht im Detail bekannt. Auch bleibt offen, nach welchen Kriterien die Entscheidung für ein alternatives Modell erfolgt. Laut OpenAI basiert die Auswahl auf der Einschätzung, ob eine Situation besondere Vorsicht erfordert – zum Beispiel bei psychischen Krisen oder potenziell gefährdenden Inhalten.

Dass der Modellwechsel ohne sichtbaren Hinweis erfolgt, sorgt jedoch für Diskussionen. Nutzerinnen und Nutzer erfahren nicht, wann sie mit einem anderen System sprechen. Diese Intransparenz wirft Fragen auf, insbesondere wenn es um ernste oder persönliche Anliegen geht. Während OpenAI betont, dass alle Antworten den jeweiligen Modellspezifikationen entsprechen müssen, bleibt unklar, wie konsequent das in der Praxis umgesetzt wird.

Klar ist: Die Plattform reagiert technisch, nicht inhaltlich erklärend. Ein Gespräch mit ChatGPT kann künftig bedeuten, dass im Hintergrund ein ganz anderes Modell die Antworten liefert – je nach Einschätzung der Situation.

Fazit: Technische Reaktion auf ein komplexes Problem

Mit dem automatischen Modellwechsel für sensible Themen zieht OpenAI eine direkte Konsequenz aus dem Fall Adam R. Die Maßnahme soll verhindern, dass ChatGPT in kritischen Situationen unangemessene Antworten liefert oder als emotionaler Gesprächspartner fehlinterpretiert wird. Auch der Umgang mit emotionalen Bindungen zu KI-Systemen spielt dabei eine Rolle.

Dennoch bleibt die Umsetzung intransparent. Der Wechsel erfolgt automatisch und wird nicht kenntlich gemacht. So bleibt unklar, wie sensibel ein Thema sein muss, damit die Maßnahme greift. Klar ist nur: ChatGPT bleibt formal dasselbe Produkt, doch die Art der Antwort kann sich im Hintergrund fundamental ändern.

Die neue Sicherheitsfunktion ist ein technischer Schritt. Notwendig vielleicht, aber kein Ersatz für eine offen geführte Diskussion über die Rolle von KI in emotionalen und psychisch belastenden Situationen.

Quellen:
ChatGPT wechselt Modell bei sensiblen Themen | heise.de
ChatGPT lagert sensible Themen künftig aus | pressetext.com