{"id":15565,"date":"2026-10-26T08:15:32","date_gmt":"2026-10-26T07:15:32","guid":{"rendered":"https:\/\/www.felix-bauer-it.de\/blog\/?p=15565"},"modified":"2026-10-26T08:43:40","modified_gmt":"2026-10-26T07:43:40","slug":"chatgpt-ki-legt-ungefragt-psychologische-profile-an","status":"publish","type":"post","link":"https:\/\/www.felix-bauer-it.de\/blog\/chatgpt-ki-legt-ungefragt-psychologische-profile-an\/","title":{"rendered":"ChatGPT: KI legt ungefragt psychologische Profile an"},"content":{"rendered":"

Ein Forschungsteam von Max-Planck-Institut, Ruhr-Universit\u00e4t Bochum und TU Delft hat untersucht, was ChatGPT sich \u00fcber seine Nutzer merkt - und stie\u00df auf ein besorgniserregendes Ungleichgewicht: 96 Prozent der gespeicherten Erinnerungen entstehen ohne direkte Aufforderung durch die Nutzer. Viele davon enthalten sensible pers\u00f6nliche und psychologische Informationen.<\/em><\/p>\n\n\n\n\n\n\n\n

In den vergangenen Jahren haben ChatGPT, Gemini und Claude eine neue Funktion eingef\u00fchrt: das \u201eMemory\u201c (Ged\u00e4chtnis). Damit k\u00f6nnen die KI-Systeme Informationen aus fr\u00fcheren Gespr\u00e4chen speichern und in sp\u00e4teren Unterhaltungen wieder aufgreifen, beispielsweise Vorlieben, wiederkehrende Aufgaben oder pers\u00f6nliche Ziele. Das soll die Antworten pers\u00f6nlicher und zusammenh\u00e4ngender machen.<\/p>\n\n\n\n

Doch was genau wird in diesem Ged\u00e4chtnis gespeichert? Und wer entscheidet dar\u00fcber? Die Forschenden Abhisek Dash, Soumi Das, Elisabeth Kirsten und Qinyuan Wu bezeichnen das Ergebnis als \u201ealgorithmisches Selbstportr\u00e4t\u201c: ein Bild, das die KI aus den Selbstoffenbarungen der Nutzer in privaten Gespr\u00e4chen erstellt.<\/p>\n\n\n\n

Ihre auf der WWW '26-Konferenz ver\u00f6ffentlichte Studie<\/a> analysiert 2.050 Ged\u00e4chtnis-Eintr\u00e4ge von 80 echten ChatGPT-Nutzern<\/strong>. Die Daten stammen aus sogenannten GDPR-Datenspenden. Die Nutzer hatten ihr Recht auf Datenkopie gem\u00e4\u00df der DSGVO genutzt und ihre ChatGPT-Verl\u00e4ufe der Forschung zur Verf\u00fcgung gestellt.<\/p>\n\n\n\n

Die wichtigsten Befunde<\/h2>\n\n\n\n

1. Das System entscheidet - nicht der Nutzer<\/h3>\n\n\n\n

Laut OpenAI sollen Nutzer die Kontrolle dar\u00fcber haben, was gespeichert wird. Eine Analyse ergab jedoch, dass nur 4 Prozent der Ged\u00e4chtnis-Eintr\u00e4ge (84 von 2.050) auf eine explizite Nutzeranfrage zur\u00fcckgingen<\/strong>, zum Beispiel \u201eMerke dir, dass ich Vegetarier bin\u201d. Die \u00fcbrigen 96 Prozent wurden vom System selbstst\u00e4ndig angelegt, ohne dass der Nutzer darum gebeten hatte.<\/p>\n\n\n\n

Das ist insofern bemerkenswert, als dass OpenAI in seinen Richtlinien zwar einr\u00e4umt, dass ChatGPT Informationen \u201eohne Aufforderung\u201c speichern kann, wenn es sie f\u00fcr n\u00fctzlich h\u00e4lt. Die Studie zeigt jedoch, wie stark diese implizite Praxis dominiert und dass die Nutzer faktisch kaum Einfluss darauf haben, welche Informationen in ihrem \u201eSelbstportr\u00e4t\u201d gespeichert werden.<\/p>\n\n\n\n

2. Sensible Daten landen im Ged\u00e4chtnis - entgegen den Richtlinien<\/h3>\n\n\n\n

OpenAI betont, dass ChatGPT darauf trainiert sei, keine sensiblen Informationen<\/strong> wie Gesundheitsdaten, religi\u00f6se \u00dcberzeugungen oder sexuelle Orientierung proaktiv zu speichern. Die Realit\u00e4t sieht jedoch anders aus.<\/p>\n\n\n\n

    \n
  • 28 Prozent der Eintr\u00e4ge<\/strong> enthalten personenbezogene Daten im Sinne der DSGVO.<\/li>\n\n\n\n
  • 7 Prozent<\/strong> enthalten sogar \u201ebesondere Kategorien\" personenbezogener Daten (Artikel 9 DSGVO), also besonders sch\u00fctzenswerte Informationen.<\/li>\n\n\n\n
  • Bei 91 Prozent der Teilnehmenden<\/strong> fanden sich personenbezogene Daten im Ged\u00e4chtnis, bei 54 Prozent<\/strong> sogar besondere Kategorien.<\/li>\n\n\n\n
  • Am h\u00e4ufigsten vertreten: Namen (41 Prozent)<\/strong>, gefolgt von wirtschaftlichen, sozialen und kulturellen Identit\u00e4tsmerkmalen (40 Prozent). Bei den besonderen Kategorien dominiert Gesundheit<\/strong> (61 Prozent der Eintr\u00e4ge mit besonderen Daten).<\/li>\n<\/ul>\n\n\n\n

    3. Die KI erstellt psychologische Profile<\/h3>\n\n\n\n

    Der vielleicht interessanteste Befund: 52 Prozent der Ged\u00e4chtnis-Eintr\u00e4ge enthalten psychologische Informationen<\/strong> \u00fcber die Nutzer - also nicht nur Fakten wie \u201eNutzer hei\u00dft X\u201c, sondern auch W\u00fcnsche, Absichten, \u00dcberzeugungen oder Emotionen. Die Forschenden nutzen daf\u00fcr das Konzept der \u201eTheory of Mind\u201c, also die F\u00e4higkeit, mentale Zust\u00e4nde anderer zu erfassen und zu beschreiben.<\/p>\n\n\n\n

    Die Verteilung ist aufschlussreich:<\/p>\n\n\n\n

      \n
    • W\u00fcnsche<\/strong> (Desires): 73 Prozent der psychologischen Eintr\u00e4ge<\/li>\n\n\n\n
    • Absichten<\/strong> (Intentions): 16 Prozent<\/li>\n\n\n\n
    • Emotionen<\/strong>: 14 Prozent<\/li>\n\n\n\n
    • \u00dcberzeugungen<\/strong> (Beliefs): 11 Prozent<\/li>\n\n\n\n
    • Wissen, Wahrnehmungen, mentalistische Deutungen<\/strong>: jeweils unter 10 Prozent<\/li>\n<\/ul>\n\n\n\n

      Das System speichert also bevorzugt l\u00e4ngerfristige motivationale Muster - also das, was die Nutzer wollen und anstreben -, nicht fl\u00fcchtige Gef\u00fchlszust\u00e4nde. Die Forschenden erkl\u00e4ren dies mit der Funktion des Systems: ChatGPT soll koh\u00e4rente, langfristige Interaktionen erm\u00f6glichen. Daf\u00fcr sind Informationen \u00fcber Ziele und \u00dcberzeugungen n\u00fctzlicher als momentane Stimmungen. Dadurch unterscheidet sich die KI auch von klassischen Plattformen wie TikTok oder Instagram, die eher breite Interessenkategorien zu Werbezwecken sammeln.<\/p>\n\n\n\n

      4. Die Erinnerungen sind \u00fcberwiegend im Nutzerkontext verankert - aber nicht immer<\/h3>\n\n\n\n

      Die gute Nachricht: 84 Prozent der Eintr\u00e4ge sind direkt im Nutzertext verankert<\/strong>. Das System halluziniert also nicht einfach, sondern fasst zusammen, paraphrasiert oder leitet logisch aus dem Nutzertext ab. Die semantische \u00c4hnlichkeit zwischen dem Ged\u00e4chtnis-Eintrag und dem urspr\u00fcnglichen Gespr\u00e4chskontext ist durchweg hoch.<\/p>\n\n\n\n

      Allerdings gibt es auch F\u00e4lle, in denen das System extrapoliert: Wenn ein Nutzer etwa nach Bands \u00e4hnlich wie Nirvana fragt, speichert ChatGPT \u201eNutzer mag Nirvana\u201c - eine Annahme, die nicht explizit ge\u00e4u\u00dfert wurde. In anderen F\u00e4llen werden Dateianh\u00e4nge oder Kontextinformationen nicht ausreichend ber\u00fccksichtigt, was zu weniger fundierten Eintr\u00e4gen f\u00fchrt.<\/p>\n\n\n\n

      5. Das Ged\u00e4chtnis l\u00e4sst sich nachbauen - und das ist ein Risiko<\/h3>\n\n\n\n

      Den Forschenden gelang es, die Ged\u00e4chtnis-Extraktion von ChatGPT mit Open-Source-Modellen (Qwen2.5, Gemma3 und GPT-OSS) nachzuahmen. Dabei wurde eine semantische \u00c4hnlichkeit von rund 60 Prozent zu den echten ChatGPT-Erinnerungen erreicht. Das zeigt: Der Prozess ist vorhersagbar und potenziell reproduzierbar.<\/p>\n\n\n\n

      Das bedeutet, dass ein Angreifer nicht einmal direkten Zugriff auf das gespeicherte ChatGPT-Ged\u00e4chtnis haben muss. Hat er Zugriff auf ausreichend Chatverl\u00e4ufe, kann er daraus ein vergleichbares Profil selbst erstellen.<\/p>\n\n\n\n

      6. Gegenma\u00dfnahme: Der \u201eAttribution Shield\"<\/h3>\n\n\n\n

      Als Antwort auf diese Risiken haben die Forschenden ein Framework entwickelt, das Nutzeranfragen so umformuliert, dass pers\u00f6nliche Informationen nicht mehr zugeordnet werden k\u00f6nnen, ohne den eigentlichen Zweck der Anfrage aus den Augen zu verlieren. Ein Beispiel:<\/p>\n\n\n\n

      \n

      Original:<\/strong> \u201eIch muss wirklich aufh\u00f6ren, Cannabis zu rauchen.\"
      Umformuliert:<\/strong> \u201eWas sind einige Strategien, um mit dem Cannabis-Konsum aufzuh\u00f6ren?\"<\/p>\n<\/blockquote>\n\n\n\n

      \u00dcber 94 Prozent der umformulierten Anfragen verhinderten eine pers\u00f6nliche Zuordnung<\/strong>, w\u00e4hrend die semantische \u00c4hnlichkeit zur urspr\u00fcnglichen Anfrage - also der Nutzen - erhalten blieb. Die Antworten der KI auf die umformulierten Anfragen waren nahezu identisch mit den Antworten auf die Originalanfragen.<\/p>\n\n\n\n

      Was bedeutet das?<\/h2>\n\n\n\n

      Die Studie beschreibt einen grundlegenden Wandel in der Personalisierung<\/strong>: Weg von der Sammlung von Verhaltensdaten (Klicks, Likes, Surfverhalten), hin zu einem intimen psychologischen Profil<\/strong>, das aus privaten Gespr\u00e4chen destilliert wird. Das betrifft nicht nur den Datenschutz, sondern auch die Autonomie und Selbstbestimmung: Wer bestimmt eigentlich, wie wir von der KI wahrgenommen werden?<\/p>\n\n\n\n

      Die Forschenden betonen, dass ihre Ergebnisse auf einer relativ kleinen, jedoch \u00f6kologisch validen Stichprobe von 80 Nutzern, die \u00fcberwiegend aus den USA und Europa stammen, beruhen. Dennoch sehen sie die Ergebnisse als Warnsignal: Die wachsende Verbreitung von KI-Chatbots mit Ged\u00e4chtnisfunktion mache es dringend erforderlich, dass Entwickler Werkzeuge f\u00fcr echte Kontrolle bereitstellen und politische Rahmenbedingungen den Schutz der \u201ealgorithmischen Selbstportr\u00e4ts\u201d sicherstellen.<\/p>\n\n\n\n

      In seinen FAQ r\u00e4umt OpenAI selbst ein: \u201eWenn Sie Informationen teilen, die f\u00fcr zuk\u00fcnftige Gespr\u00e4che n\u00fctzlich sein k\u00f6nnten, speichert ChatGPT diese m\u00f6glicherweise als Erinnerung, ohne dass Sie darum bitten m\u00fcssen.\u201c Und weiter: \u201eBitte vermeiden Sie die Eingabe von Informationen, die Sie nicht gespeichert haben m\u00f6chten.\u201c<\/p>\n\n\n\n

      Fazit<\/h2>\n\n\n\n

      Die \u201eMemory\u201c-Funktion von ChatGPT ist leistungsstark und zeichnet ein Bild von uns, das wir oft nicht kontrollieren k\u00f6nnen. Eine Studie liefert erstmals empirische Einblicke in die Daten, die das System tats\u00e4chlich \u00fcber uns speichert: Dazu geh\u00f6ren Namen, Gesundheitsdaten, W\u00fcnsche, Absichten und \u00dcberzeugungen. Vieles davon ist sensibel und manches widerspricht sogar den eigenen Richtlinien des Herstellers.<\/p>\n\n\n\n

      Die gute Nachricht ist, dass Erinnerungen meist treu und nachvollziehbar sind. Die schlechte Nachricht ist, dass sie fast immer ohne unsere Zustimmung entstehen. Und die Werkzeuge, die uns Kontrolle geben sollen, greifen zu kurz, solange das System selbst entscheidet, was \u201en\u00fctzlich\u201d ist.<\/p>\n\n\n\n

      Ich finde, das ist der entscheidende Punkt - und er geht \u00fcber Datenschutz im engeren Sinne hinaus.<\/strong> Wenn eine KI aus privaten Gespr\u00e4chen ein psychologisches Profil destilliert, dann ist das keine neutrale Zusammenfassung, sondern eine Deutung: Das System entscheidet, welche W\u00fcnsche, Absichten und \u00dcberzeugungen als \u201echarakteristisch\u201d f\u00fcr mich gelten und welche nicht. Diese Deutung kann falsch oder verzerrt sein und bleibt mir oft verborgen. Dass OpenAI in den FAQ die Verantwortung an die Nutzer weiterreicht (\u201eVermeiden Sie Eingaben, die Sie nicht gespeichert haben m\u00f6chten\u201d), halte ich f\u00fcr zu bequem. Wer nicht wei\u00df, was gespeichert wird, kann es auch nicht gezielt vermeiden<\/strong>. Die Beweislast liegt hierbei beim Hersteller und nicht beim Nutzer.<\/p>\n\n\n\n

      Um zu verhindern, dass ChatGPT ein psychologisches Profil anlegt, bleibt derzeit nur, die Memory-Funktion in den Einstellungen zu deaktivieren oder regelm\u00e4\u00dfig zu pr\u00fcfen, was das System sich gemerkt hat. Beides ist besser als nichts, aber keine echte Kontrolle, sondern lediglich Schadensbegrenzung. Eine KI, die implizit speichert, was sie f\u00fcr \u201en\u00fctzlich\u201d h\u00e4lt, br\u00e4uchte strengere Vorgaben: standardm\u00e4\u00dfig deaktiviert, explizite Zustimmung pro Eintrag, klare Anzeige dessen, was extrahiert wurde - und zwar bevor es in zuk\u00fcnftige Antworten einflie\u00dft. Solange das fehlt, bleibt das \u201ealgorithmische Selbstportr\u00e4t\u201d ein Bild, das andere von uns zeichnen - und das wir nur m\u00fchsam korrigieren k\u00f6nnen.<\/p>\n\n\n\n

      \n Transparenzhinweis<\/strong>\n

      \n F\u00fcr die Analyse und sprachliche Aufbereitung dieses Artikels habe ich KI-Werkzeuge unterst\u00fctzend eingesetzt. Alle Inhalte, Zahlen, Zitate und Schlussfolgerungen habe ich selbst am Originaldokument gepr\u00fcft und gegengelesen. Die KI diente mir lediglich als Hilfsmittel zur Strukturierung und Verst\u00e4ndlichkeitspr\u00fcfung.\n <\/p>\n<\/div>","protected":false},"excerpt":{"rendered":"

      Ein Forschungsteam von Max-Planck-Institut, Ruhr-Universit\u00e4t Bochum und TU Delft hat untersucht, was ChatGPT sich \u00fcber seine Nutzer merkt - und stie\u00df auf ein besorgniserregendes Ungleichgewicht: 96 Prozent der gespeicherten Erinnerungen entstehen ohne direkte Aufforderung durch die Nutzer. Viele davon enthalten sensible pers\u00f6nliche und psychologische Informationen.<\/p>\n","protected":false},"author":1,"featured_media":15583,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6,1,19],"tags":[],"class_list":["post-15565","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-aktuelles","category-allgemein","category-internet"],"_links":{"self":[{"href":"https:\/\/www.felix-bauer-it.de\/blog\/wp-json\/wp\/v2\/posts\/15565","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.felix-bauer-it.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.felix-bauer-it.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.felix-bauer-it.de\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.felix-bauer-it.de\/blog\/wp-json\/wp\/v2\/comments?post=15565"}],"version-history":[{"count":15,"href":"https:\/\/www.felix-bauer-it.de\/blog\/wp-json\/wp\/v2\/posts\/15565\/revisions"}],"predecessor-version":[{"id":15585,"href":"https:\/\/www.felix-bauer-it.de\/blog\/wp-json\/wp\/v2\/posts\/15565\/revisions\/15585"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.felix-bauer-it.de\/blog\/wp-json\/wp\/v2\/media\/15583"}],"wp:attachment":[{"href":"https:\/\/www.felix-bauer-it.de\/blog\/wp-json\/wp\/v2\/media?parent=15565"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.felix-bauer-it.de\/blog\/wp-json\/wp\/v2\/categories?post=15565"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.felix-bauer-it.de\/blog\/wp-json\/wp\/v2\/tags?post=15565"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}