ChatGPT: Menschen können deine Chats lesen

Stand der Recherche: 16. September 2026

Viele Menschen erzählen ChatGPT sehr private Dinge. Sie schreiben über Streit in der Familie, über Krankheiten oder über Probleme in der Arbeit. Es fühlt sich an wie ein Gespräch unter vier Augen. Doch das stimmt nicht ganz. Das US-Magazin 404 Media hat aufgedeckt: Bei OpenAI lesen auch echte Menschen Chats mit. Die Firma nennt das intern „Project Lily“.

Wer liest da mit?

ChatGPT soll bessere Antworten geben. Dafür braucht OpenAI Menschen, die Antworten beurteilen. Diese Leute arbeiten nicht direkt bei OpenAI, sondern für andere Firmen. Sie bekommen echte Fragen von Nutzern zu sehen. Oft sehen sie nicht nur eine Frage, sondern das ganze Gespräch. Dann schreiben sie auf, was die Person wollte, und bewerten mehrere mögliche Antworten.

Sie achten zum Beispiel darauf, ob ChatGPT zu viel schmeichelt. Oder ob der Chatbot so tut, als wäre er ein Mensch mit eigenen Erlebnissen. Eine Person aus dem Projekt wurde von 404 Media gefragt, ob Nutzer davon wissen. Ihre Antwort: Nein. Sie glaube nicht, dass sich jemand vorstellt, dass irgendwo ein fremder Mensch die Gespräche liest.

Wofür nutzen Menschen ChatGPT eigentlich? Das hat OpenAI selbst untersucht. Im Juni 2025 hatten rund 73 Prozent aller Nachrichten nichts mit der Arbeit zu tun. Am häufigsten ging es um praktische Ratschläge, zum Beispiel Hilfe beim Lernen oder Tipps für den Alltag. Um Beziehungen und Gefühle ging es im Untersuchungszeitraum nur in knapp 2 Prozent der Nachrichten. Bei rund 2,6 Milliarden Nachrichten pro Tag ist aber auch ein kleiner Anteil eine riesige Menge.

Ein Hinweis zu unseren Quellen: Den ganzen Bericht von 404 Media kann man nur mit einem bezahlten Zugang lesen. Einige Details kennen wir deshalb aus anderen Medien, die darüber berichtet haben, etwa Tom’s Guide, Tom’s Hardware und Malwarebytes.

Kein Name – und trotzdem erkennbar

Laut OpenAI laufen die Chats vorher durch einen Filter. Er heißt „Privacy Filter“ und soll persönliche Angaben herauslöschen. Der Filter ist selbst ein KI-Programm. In einer eigenen Studie schreibt OpenAI, er urteile in hohem Maß so wie Menschen. Perfekt ist er also nicht. Gegenüber 404 Media gab OpenAI zu, dass private Details durchrutschen können. Laut Tom’s Hardware passiert das besonders bei kurzen Chats.

Dazu kommt noch etwas: ChatGPT merkt sich Dinge über seine Nutzer. Eine Zusammenfassung davon sehen die Prüfer laut den Berichten oft mit. Darin können Beruf, Interessen und sogar der ungefähre Wohnort stehen. Ein ausgedachtes Beispiel: Jemand schreibt, er ist der einzige Tierarzt im Ort, hat Streit mit dem Nachbarn und Sorgen in der Ehe. Für Leute aus seinem Umfeld wäre er sofort erkennbar. Ein Name ist gar nicht nötig.

Manche Nutzer bitten ChatGPT sogar: „Behalte das für dich.“ Das stand laut den Berichten in einigen der gelesenen Chats. Nur: So eine Bitte ändert nichts daran, was mit den Daten passiert.

Wusste man das?

Ganz geheim ist es nicht. OpenAI schreibt auf seinen Hilfeseiten, wer Chats lesen darf: ausgewählte Mitarbeiter und Partnerfirmen. Das ist erlaubt, um Missbrauch aufzuklären, bei Support-Anfragen zu helfen, bei rechtlichen Fragen – und um ChatGPT zu verbessern. Genau zu diesem letzten Punkt gehört Project Lily. Bei den privaten Konten Free, Plus und Pro ist die Verbesserung von Anfang an eingeschaltet. Bei Firmenkonten ist sie aus.

404 Media fragte OpenAI direkt: Werden Nutzer klar darüber informiert, dass Menschen ihre Chats lesen können? Darauf gab es zuerst keine direkte Antwort. Später schickte OpenAI den Link zu einer Hilfeseite. Wie viele Menschen so eine Seite lesen, bevor sie ChatGPT nutzen, kann sich jeder selbst denken. ChatGPT hatte laut TechCrunch im Februar 2026 mehr als 900 Millionen Nutzer pro Woche.

OpenAI ist damit nicht allein. Auch Anthropic, die Firma hinter dem Chatbot Claude, lässt Menschen Chats prüfen, um seine KI zu verbessern. Das betrifft laut Anthropic Nutzer, bei denen die Einstellung dafür eingeschaltet ist. Google weist bei Gemini laut Tom’s Guide darauf hin, dass Menschen einige gespeicherte Chats lesen.

So schaltest du es ab

Die gute Nachricht: Wer die Einstellung ausschaltet, fällt laut OpenAI aus dieser Prüfung heraus. Die neuen Chats werden dann nicht mehr verwendet, um ChatGPT zu verbessern. Das hat OpenAI laut Malwarebytes auch gegenüber 404 Media bestätigt. Ganz privat werden die Chats dadurch aber nicht.

Auch bei anderen Chatbots ist die Nutzung der Chats oft voreingestellt. Ein Blick in die Einstellungen lohnt sich also überall.

Die beste Regel ist ganz einfach

Chatbots können bei vielen Fragen helfen, auch bei persönlichen. Man muss nur wissen: ChatGPT ist kein Tagebuch mit Schloss. Es ist ein Dienst im Internet, der Daten speichert. Oft reicht es schon, Namen, Orte und genaue Angaben wegzulassen. Die Frage „Wie rede ich mit meinem Bruder über Geld?“ funktioniert auch ohne Namen, Wohnort und Betrag.

Quellen

• 404 Media (Joseph Cox): Inside ‚Project Lily‘: The Humans Reading Your ChatGPT Chats, September 2026 – vollständiger Text nur für Abonnenten
• Tom’s Guide: OpenAI paid contractors to read ChatGPT conversations, 14. September 2026
• Tom’s Hardware: ChatGPT transcripts are reportedly read by humans to improve responses, September 2026
• Malwarebytes: How to opt out of AI chatbot training, September 2026
• OpenAI: How People Use ChatGPT (Studie, PDF), 15. September 2025
• OpenAI Hilfebereich: Data Usage for Consumer Services FAQ
• OpenAI Hilfebereich: Data Controls FAQ
• OpenAI Hilfebereich: How your data is used to improve model performance
• Anthropic: How do I change my model improvement privacy settings?
• Perplexity: Data Collection at Perplexity
• TechCrunch: ChatGPT reaches 900M weekly active users, 27. Februar 2026