Alle Artikel KI im Betrieb

Kundendaten in ChatGPT kopieren: Darf man das?

Kundendaten in ChatGPT kopieren: Warum Konto und Vertrag entscheiden, warum Training ausschalten kein AVV ist und Weglassen oft schon reicht.

Kundendaten in ChatGPT kopieren: Darf man das?

Kurz gesagt: Kundendaten in ChatGPT zu kopieren ist nicht automatisch verboten, aber mit einem privaten Konto ohne Vertrag ein echtes Risiko. Entscheidend ist nicht das Werkzeug, sondern Konto, Vertrag und welche Daten du eingibst. Training ausschalten schützt vor dem Modelltraining, ersetzt aber keinen Auftragsverarbeitungsvertrag. Und meistens brauchst du die Kundendaten gar nicht: Name, Adresse und Kundennummer raus, Sachverhalt rein, dann ist die Antwort genauso gut.

Dienstag, kurz vor acht in einem kleinen Elektrotechnik-Betrieb. Eine Kundin hat sich per Mail über ihre Rechnung beschwert, ziemlich scharf im Ton. Sabine aus dem Büro will freundlich und sachlich antworten, aber nicht vor dem ersten Kaffee. Also kopiert sie die komplette Mail in den kostenlosen Chatbot auf ihrem Handy: Name, Adresse, Kundennummer, Rechnungsbetrag, alles drin. Die Antwort klingt perfekt. Der Chef schaut ihr über die Schulter und fragt nur: „Darf man das eigentlich?“

Die Szene ist erfunden. Aber sie passiert so oder so ähnlich jeden Tag, in Büros, Werkstätten und Ordinationen. Sabine will nichts Verbotenes tun, sie will eine gute Antwort schreiben. Genau deshalb lohnt sich die Frage des Chefs. Wie du KI im ganzen Betrieb sauber aufsetzt, steht im Leitartikel KI im Unternehmen DSGVO- und AI-Act-sicher nutzen. Hier geht es um den einen Moment davor: Strg+C, Strg+V, Kundenmail im Chatfenster.

Der Denkfehler: „Ich hab das Training eh ausgeschaltet“

Wenn man das Thema im Team anspricht, kommt fast immer derselbe Satz: „Passt schon, ich hab in den Einstellungen das Training ausgeschaltet.“ Das ist gut gemeint und auch nicht falsch. Es beantwortet nur die falsche Frage.

Was die Einstellung wirklich macht, beschreibt OpenAI in seiner Hilfe zu den Datenkontrollen: Bei privaten Konten mit ChatGPT Free, Plus oder Pro ist die Datenfreigabe standardmäßig eingeschaltet. Drehst du „Improve the model for everyone“ ab, werden deine neuen Unterhaltungen nicht mehr zum Training der Modelle verwendet. Sie bleiben aber im Verlauf gespeichert.

Zwei Details stehen dort, die kaum jemand kennt. Erstens: Wenn du nach dem Abschalten eine Antwort mit Daumen hoch oder runter bewertest, kann laut OpenAI die gesamte dazugehörige Unterhaltung trotzdem fürs Training verwendet werden. Zweitens: Auch temporäre Chats, die nicht im Verlauf landen und nicht fürs Training genutzt werden, können bis zu 30 Tage aus Sicherheitsgründen aufbewahrt werden.

Der eigentliche Punkt ist aber ein anderer. Training ist nur eine Frage von vielen. Die Kundendaten verlassen deinen Betrieb in dem Moment, in dem du auf Senden drückst. Sie werden auf den Servern des Anbieters verarbeitet, egal ob danach trainiert wird oder nicht. Und für diese Verarbeitung brauchst du eine Rechtsgrundlage und in aller Regel einen Vertrag. Ein Schalter in den Einstellungen ist kein Vertrag.

Kundendaten in ChatGPT: Training ausschalten ist nicht dasselbe wie ein Auftragsverarbeitungsvertrag Was der Trainings-Schalter löst und was nicht Training ausgeschaltet neue Chats fließen nicht ins Training Daten werden trotzdem beim Anbieter verarbeitet und gespeichert Bewertung per Daumen kann Training auslösen Was du zusätzlich brauchst Rechtsgrundlage nach Art. 6 DSGVO Auftragsverarbeitungsvertrag nach Art. 28 DSGVO plus interne Regel, was rein darf Quellen: OpenAI Help Center (Data controls), Datenschutzbehörde (KI und Datenschutz)

Darf ich Kundendaten in ChatGPT kopieren? Was die DSGVO dazu sagt

Die DSGVO kennt kein eigenes KI-Kapitel. Die Datenschutzbehörde schreibt ausdrücklich, dass sie technologieneutral ist: Der Einsatz von KI unterscheidet sich datenschutzrechtlich nicht von jeder anderen Verarbeitung personenbezogener Daten. Das klingt trocken, ist aber hilfreich. Es heißt nämlich, dass die altbekannten Regeln gelten.

Eine Kundenmail mit Name, Adresse und Kundennummer enthält personenbezogene Daten. Also gilt:

Du bist verantwortlich, nicht der Chatbot. Laut DSB ist in der Regel diejenige Person oder Firma datenschutzrechtlich verantwortlich, die ein KI-System einsetzt. Auch wenn die Technik vom Anbieter stammt. Für die Mail an die Kundin ist das dein Betrieb.

Du brauchst eine Rechtsgrundlage. Für jede Verarbeitung muss einer der Erlaubnistatbestände aus Art. 6 Abs. 1 DSGVO greifen. Bei Gesundheitsdaten und anderen besonderen Kategorien nach Art. 9 DSGVO wird es noch enger.

Du musst prüfen, wohin die Daten gehen. Bei fremden KI-Systemen ist laut DSB besonders darauf zu achten, ob personenbezogene Daten an den Hersteller oder andere Dritte übermittelt werden. Das kann zu unrechtmäßigen Datenoffenlegungen führen, und nebenbei auch zur Preisgabe von Geschäftsgeheimnissen. Die DSB empfiehlt deshalb, interne Regeln aufzustellen, welche Daten mit dem System verarbeitet werden dürfen.

Datenminimierung gilt auch im Chatfenster. Sie ist einer der Grundsätze aus Art. 5 DSGVO: Verarbeitet werden darf nur, was für den Zweck wirklich erforderlich ist. Und hier wird es spannend, denn für eine freundliche Antwort auf eine Rechnungsbeschwerde ist die Identität der Kundin fast nie erforderlich.

Sobald ein externer Dienstleister personenbezogene Daten in deinem Auftrag verarbeitet, kommt der Auftragsverarbeitungsvertrag nach Art. 28 DSGVO ins Spiel. Die DSB listet auf ihrer Seite zu den Pflichten von Auftragsverarbeitern auf, was so ein Vertrag mindestens regeln muss, zum Beispiel Verarbeitung nur auf dokumentierte Weisung, Vertraulichkeit, Sicherheitsmaßnahmen und Löschung am Ende. Warum der AVV bei KI überhaupt so zentral ist, haben wir in DSGVO-konforme KI im Betrieb Schritt für Schritt erklärt.

Privat-Login oder Firmenarbeitsplatz: der Unterschied auf einen Blick

Hier liegt der Kern der Sache. Nicht ChatGPT ja oder nein, sondern: Mit welchem Konto, unter welchem Vertrag?

FragePrivates Konto (z. B. Free, Plus)Firmen-Arbeitsplatz (z. B. Business, Enterprise)
Training mit deinen Eingabenstandardmäßig ein, jede Person muss selbst abschaltenlaut OpenAI standardmäßig aus
Auftragsverarbeitungsvertrag (DPA)auf der Enterprise-Privacy-Seite nicht genanntlaut OpenAI über ein eigenes DPA-Formular abschließbar
Wer hat den Überblick?nur die Person selbstAdmins steuern Arbeitsbereich und Aufbewahrung
Wer zahlt?oft die private Karteder Betrieb
Datenregel fürs Teamhängt am Bauchgefühllässt sich zentral festlegen und schulen

Die Angaben stammen aus der Seite zum Unternehmensdatenschutz von OpenAI und der Hilfe zu den Datenkontrollen, Stand 10. November 2026. OpenAI schreibt dort, dass ein Data Processing Addendum für ChatGPT Business, ChatGPT Enterprise und die API abgeschlossen werden kann. Für Business heißt es außerdem, dass gelöschte Unterhaltungen innerhalb von 30 Tagen aus den Systemen entfernt werden, sofern eine längere Aufbewahrung nicht gesetzlich vorgeschrieben oder zum Schutz der Dienste nötig ist.

Was die einzelnen Tarife genau kosten und können, ändert sich laufend. Merk dir deshalb nicht die Tarifnamen, sondern die Faustregel: Firmendaten gehören in ein Firmenkonto mit Vertrag, nicht in ein Privatkonto mit Schalter. Und auch mit Vertrag bleibt die Verantwortung bei dir. Der Vertrag regelt, was der Anbieter mit den Daten tun darf. Ob du sie überhaupt eingeben solltest, entscheidest weiterhin du.

Risiko

Komplett reinkopieren

  • Name, Adresse, Kundennummer im Chat
  • Privates Konto, private Karte
  • Kein Vertrag mit dem Anbieter
  • Niemand im Betrieb weiß davon

Schnell, aber nicht belegbar

Sicherer Weg

Erst weglassen, dann fragen

  • Nur der Sachverhalt geht ins Chatfenster
  • Freigegebenes Werkzeug mit AVV
  • Klare Regel, was nie hinein darf
  • Daten kommen erst beim Versand dazu

Gleich gute Antwort, ohne Datenspur

Oft reicht Weglassen: Sachverhalt statt Person

Jetzt die gute Nachricht für Sabine. Damit der Chatbot eine freundliche, sachliche Antwort auf eine Rechnungsbeschwerde formulieren kann, braucht er nicht zu wissen, wer die Kundin ist. Er braucht den Sachverhalt.

Statt der kompletten Mail reicht etwa: „Eine Kundin beschwert sich, dass auf ihrer Rechnung zwei Arbeitsstunden mehr stehen als besprochen. Sie ist verärgert. Schreib eine freundliche, sachliche Antwort, in der wir eine Prüfung zusagen.“ Kein Name, keine Adresse, keine Kundennummer, kein Betrag. Die Antwort wird genauso gut. Name und Details fügt Sabine danach selbst im Mailprogramm ein.

Das ist gelebte Datenminimierung, und es kostet zehn Sekunden.

Drei Dinge solltest du dabei im Kopf behalten:

  1. Weglassen heißt wirklich weglassen. „Frau M. aus der Hauptstraße 12“ ist keine Anonymisierung. Wenn aus dem Rest der Nachricht noch erkennbar ist, um wen es geht, bleibt es ein Personenbezug.
  2. Manche Daten bleiben immer draußen. Gesundheitsdaten und die anderen besonderen Kategorien nach Art. 9 DSGVO, dazu Passwörter, Zugangsdaten und Geschäftsgeheimnisse haben in einem privaten Chatfenster nichts verloren.
  3. Auch Anhänge zählen. Ein hochgeladenes PDF mit Rechnung oder Vertrag enthält meist mehr Personenbezug als die Mail selbst.
Kundendaten in ChatGPT vermeiden: Identität bleibt draußen, nur der Sachverhalt geht ins Chatfenster Eine Kundenmail, zwei Hälften Bleibt draußen Name und Adresse Kundennummer, Rechnungsnummer Telefonnummer, E-Mail-Adresse kommt erst beim Versand dazu Darf ins Chatfenster Worum geht es: Rechnung, zwei Stunden Stimmung: verärgert Ziel: freundlich, Prüfung zusagen reicht für eine gute Antwort Datenminimierung nach Art. 5 DSGVO, in zehn Sekunden umgesetzt

Weglassen löst nicht jeden Fall. Wenn du KI wirklich mit Kundendaten arbeiten lassen willst, etwa um eine ganze Korrespondenz zusammenzufassen, brauchst du ein freigegebenes Werkzeug mit Vertrag. Für die tägliche Kundenmail reicht Weglassen aber erstaunlich oft.

Was hat der AI Act damit zu tun?

Mehr, als viele denken. Seit 2. Februar 2025 gilt Art. 4 AI Act, die Pflicht zur KI-Kompetenz. Betriebe, die KI-Systeme einsetzen, müssen Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu unterstützen.

In ihren Fragen und Antworten zur KI-Kompetenz beantwortet die EU-Kommission die Frage, ob das auch für ein Unternehmen gilt, dessen Mitarbeitende ChatGPT etwa für Werbetexte oder Übersetzungen nutzen, mit Ja. Sabines Kundenmail fällt genau in diese Kategorie.

Die KI-Servicestelle der RTR wird auf ihrer Seite zur KI-Kompetenz noch konkreter, und zwar mit einem Beispiel, das wie für diesen Artikel geschrieben ist: Wer seinen Mitarbeitenden einen Chatbot zur Verfügung stellt, muss darauf achten, dass keine personenbezogenen Daten oder Geschäftsgeheimnisse unrechtmäßig an den Anbieter übermittelt werden. Als mögliche Maßnahmen nennt die RTR Lösungen auf eigenen Servern, vertragliche Absicherungen und Schulungen, in denen das Team lernt, solche Eingaben zu unterlassen.

Zum aktuellen Stand nach dem Digital Omnibus: Art. 4 wurde im Sommer 2026 geändert, aber nicht abgeschafft. Seither steht ausdrücklich im Gesetz, dass du für keine einzelne Person ein bestimmtes Niveau an KI-Kompetenz garantieren musst. Die Pflicht, Maßnahmen zu ergreifen, bleibt. Die nationalen Marktüberwachungsbehörden überwachen und setzen die Regeln laut EU-Kommission seit 2. August 2026 durch. Ein Zertifikat brauchst du laut Kommission nicht, eine interne Aufzeichnung der Schulungen reicht.

Für deinen Betrieb heißt das: Eine kurze, klare Regel zum Umgang mit Kundendaten im Chatfenster und eine kurze Einweisung dazu sind nicht nur Datenschutz. Sie sind auch ein Stück KI-Kompetenz nach Art. 4.

Die freigegebene Alternative statt des Handys

Die meisten Kundendaten landen im Chatbot, weil der Chatbot am Handy schneller da ist als jede Alternative. Ein Verbot allein ändert daran wenig. Dann tippt Sabine eben heimlich weiter.

Was hilft, ist ein Werkzeug, das der Betrieb bewusst freigegeben hat: mit Firmenkonto, mit Vertrag, mit Regeln, die für alle gleich sind. Darauf können später auch digitale Mitarbeiter aufbauen, die wiederkehrende Aufgaben wie Antwortentwürfe übernehmen, ohne dass jemand Daten durch private Konten schleust.

Bei MonkeyMedia nutzen wir dafür RelationFlow als gemeinsamen KI-Arbeitsplatz. Laut Anbieter sind dort ein AV-Vertrag und EU-Hosting für die Plattform enthalten. Wichtig ist der Zusatz, den RelationFlow selbst nennt: Freigegebene globale Modelle und externe Dienste können Daten außerhalb der EU verarbeiten. Welche Modelle du im Arbeitsbereich freigibst, entscheidest also weiterhin du. Egal, welchen Anbieter du wählst, Vertrag, AVV und Datenflüsse prüfst du vorher selbst. (Partner-Hinweis: RelationFlow ist ein Partner von MonkeyMedia, der Link ist ein Affiliate-Link. Wenn du darüber buchst, kann MonkeyMedia eine Provision erhalten, für dich ändert sich am Preis nichts.)

Deine ersten Schritte in dieser Woche

  1. Kurz nachfragen. Wer im Team kopiert Kundenmails in einen Chatbot, mit welchem Konto? Ohne Vorwurf, sonst bekommst du keine ehrliche Antwort.
  2. Die Weglass-Regel einführen. Name, Adresse, Kundennummer, Rechnungsnummer bleiben draußen. Nur der Sachverhalt geht ins Chatfenster.
  3. Die rote Liste festlegen. Was nie hinein darf: Gesundheitsdaten, Passwörter, Zugangsdaten, Geschäftsgeheimnisse.
  4. Konten klären. Läuft die KI-Nutzung über private Konten, entscheide, ob du ein Firmenkonto mit Vertrag brauchst.
  5. Einmal kurz einschulen. Zehn Minuten im Teamgespräch reichen für den Anfang. Halte fest, wer wann dabei war.

Key Takeaways

  • Kundendaten in ChatGPT zu kopieren ist mit einem privaten Konto ohne Vertrag ein echtes Datenschutzrisiko, denn verantwortlich ist laut DSB der Betrieb, der das KI-System einsetzt.
  • Training ausschalten verhindert laut OpenAI nur, dass neue Chats ins Training fließen. Einen Auftragsverarbeitungsvertrag und eine Rechtsgrundlage ersetzt es nicht.
  • OpenAI nennt einen DPA für ChatGPT Business, Enterprise und die API, nicht für private Tarife.
  • Oft reicht Weglassen: Für eine gute Antwort braucht der Chatbot den Sachverhalt, nicht die Identität der Kundin.
  • Eine klare Datenregel plus kurze Einschulung ist zugleich Datenschutz und ein Stück KI-Kompetenz nach Art. 4 AI Act.

Über den Autor

Gernot Pirker ist KI-Berater und Gründer von MonkeyMedia in Österreich. Er begleitet EPU und KMU dabei, KI im Betrieb so einzuführen, dass Werkzeuge, Verträge und Team zusammenpassen. MonkeyMedia arbeitet selbst täglich mit digitalen Mitarbeitern und einem freigegebenen KI-Arbeitsplatz. In seinen Einschulungen kommt die Frage nach Kundendaten im Chatfenster fast immer in den ersten zehn Minuten, meistens mit genau dem Satz aus diesem Artikel: „Ich hab das Training eh ausgeschaltet.“


Wenn du wissen willst, wo dein Betrieb mit KI gerade steht, mach den KI-Stufen-Check: 5 Ja/Nein-Fragen, 2 Minuten, und du siehst sofort und ohne E-Mail-Adresse, auf welcher KI-Stufe dein Betrieb steht.

Hand aufs Herz: Welche Kundenmail hast du zuletzt in einen Chatbot kopiert?

Hinweis: Dieser Artikel ist eine Praxis-Einordnung zu DSGVO und EU AI Act, keine Rechtsberatung. Für verbindliche Auskünfte zu deinem Betrieb wende dich an eine Rechtsberatung, an die Datenschutzbehörde oder in Österreich zu Fragen rund um den AI Act an die KI-Servicestelle der RTR. Tarif- und Einstellungsnamen bei OpenAI ändern sich oft. Stand der Fakten: 10. November 2026.

Häufige Fragen

Darf ich Kundendaten in ChatGPT kopieren?

Nicht einfach so. Wer Kundendaten in ein KI-System eingibt, ist laut Datenschutzbehörde in der Regel datenschutzrechtlich verantwortlich und muss prüfen, ob die Daten beim Anbieter landen. Mit einem privaten Konto ohne Vertrag ist das heikel. Oft reicht es, Name, Adresse und Kundennummer wegzulassen und nur den Sachverhalt einzugeben.

Reicht es, bei ChatGPT das Training auszuschalten?

Nein. Wenn du „Improve the model for everyone“ abdrehst, fließen neue Chats laut OpenAI nicht mehr ins Training. Das ist sinnvoll, ersetzt aber weder einen Auftragsverarbeitungsvertrag noch eine Rechtsgrundlage nach DSGVO. Die Daten werden trotzdem beim Anbieter verarbeitet.

Bei welchen ChatGPT-Tarifen gibt es einen Auftragsverarbeitungsvertrag?

OpenAI nennt auf seiner Seite zum Unternehmensdatenschutz einen Data Processing Addendum (DPA) für ChatGPT Business, ChatGPT Enterprise und die API, abzuschließen über ein eigenes Formular. Für private Tarife wie Free oder Plus wird dort kein DPA genannt. Prüf den aktuellen Stand immer direkt beim Anbieter, Tarife ändern sich oft.

Ist ein temporärer Chat in ChatGPT datenschutzrechtlich sicher?

Er ist besser als ein normaler Chat, aber kein Freibrief. Temporäre Chats werden laut OpenAI nicht fürs Training genutzt, können aber bis zu 30 Tage aus Sicherheitsgründen aufbewahrt werden. Die Kundendaten verlassen also trotzdem deinen Betrieb, und ein Vertrag entsteht dadurch nicht.

Gilt der AI Act auch, wenn mein Team ChatGPT nur für Kundenmails nutzt?

Ja, zumindest die Pflicht zur KI-Kompetenz nach Art. 4 AI Act. Die EU-Kommission stellt klar, dass sie auch dann gilt, wenn Mitarbeitende ChatGPT etwa für Werbetexte oder Übersetzungen nutzen. Die KI-Servicestelle der RTR nennt als Beispiel ausdrücklich, dass Mitarbeitende geschult werden, keine personenbezogenen Daten unrechtmäßig an den Chatbot-Anbieter zu übermitteln.

Mehr KI, einfach gemacht?

In der Community „KI, MACH ES EINFACH“ lernst du kostenlos mit anderen, die anpacken.

Lass uns über deine liegen gebliebene Arbeit reden.

30 Minuten, kostenlos. Danach weißt du, ob sich ein digitaler Mitarbeiter für dich lohnt.

Oder ruf Amelie an:+43 720 224323
Gernot Pirker im Anzug mit oranger Fliege, zeigt auf dich

GernotJa, genau du. 30 Minuten, dann weißt du mehr.

Jim Panse Erstgespräch sichern