Die kurze Antwort
Nein, Kundendaten sollten nicht ungeprüft in einen beliebigen KI-Dienst eingegeben werden.
Enthält ein Prompt personenbezogene Daten, handelt es sich datenschutzrechtlich um eine Verarbeitung. Entscheidend ist daher nicht nur, ob der KI-Dienst technisch funktioniert, sondern ob Zweck, Rechtsgrundlage, Datenumfang, Dienst, Datenfluss und betriebliche Freigabe geklärt sind.
Hinzu kommt ein zweiter Punkt: Nicht personenbezogene Daten sind nicht automatisch unkritisch. Interne Preislisten, unveröffentlichte Verträge, technische Dokumentationen oder Geschäftsstrategien können vertraulich sein, obwohl die DSGVO nicht unmittelbar einschlägig ist.
Warum ein Prompt Datenverarbeitung sein kann
Die DSGVO versteht unter Verarbeitung unter anderem das Erheben, Erfassen, Verwenden, Übermitteln und Bereitstellen personenbezogener Daten.
Wird beispielsweise eine vollständige Kundenbeschwerde zusammen mit Name, Anschrift, Kundennummer und Rechnungsdaten in ein generatives KI-System kopiert, verlassen diese Informationen den ursprünglichen Arbeitskontext und werden durch einen weiteren Dienst verarbeitet.
Die entscheidende Frage lautet deshalb nicht: „Kann die KI damit arbeiten?“, sondern: „Dürfen wir genau diese Informationen für genau diesen Zweck über genau diesen Dienst verarbeiten?“
Vier Datenklassen für den Arbeitsalltag
| Datenklasse | Beispiel | Prüfung |
|---|---|---|
| Öffentlich | Veröffentlichter Produkttext oder öffentliche Pressemitteilung | Bei freigegebenem Dienst regelmäßig vergleichsweise unkritisch. |
| Intern | Interne Preisliste, Prozessbeschreibung oder Projektplanung | Unternehmensrichtlinie und Freigabe prüfen. |
| Vertraulich | Vertragsentwurf, Geschäftsgeheimnis oder technische Sicherheitsinformation | Nicht ohne ausdrückliche Freigabe an externe KI-Dienste übermitteln. |
| Personenbezogen oder besonders sensibel | Kundenname, Bewerbungsunterlagen, Bankdaten, Krankmeldung oder Gesundheitsdaten | Datenschutzrechtliche Zulässigkeit und Systemfreigabe vorab prüfen. |
Der 10-Punkte-KI-Prüfweg
Vor einer Eingabe realer Unternehmensdaten lässt sich die Entscheidung strukturiert prüfen.
Warum soll die KI eingesetzt werden? Ist der konkrete Nutzen klar?
Welche Informationen sollen tatsächlich in den Prompt gelangen?
Dürfen diese Daten für diesen Zweck verarbeitet werden?
Ist der verwendete KI-Dienst im Unternehmen ausdrücklich freigegeben?
Wer verarbeitet die Eingaben, wo geschieht dies und welche Vertragsbeziehungen bestehen?
Kann die KI falsche, erfundene, diskriminierende oder rechtsverletzende Ergebnisse erzeugen?
Wer überprüft die KI-Ausgabe fachlich, bevor sie verwendet wird?
Wird das Ergebnis nur als Entwurf verwendet oder unmittelbar für Entscheidungen eingesetzt?
Müssen Betroffene oder andere Beteiligte über den KI-Einsatz informiert werden?
Muss die Nutzung des KI-Systems oder die konkrete Entscheidung nachvollziehbar dokumentiert werden?
Datenminimierung: Häufig reicht weniger
In vielen Fällen benötigt die KI nicht die vollständigen Originaldaten. Für die Überarbeitung einer Kundenantwort kann beispielsweise statt einer realen Beschwerde ein bereinigter Sachverhalt verwendet werden.
Auch hier muss geprüft werden, ob weitere Details eine Person indirekt wieder identifizierbar machen. Nur den Namen zu entfernen bedeutet nicht automatisch, dass Daten anonymisiert wurden.
Informationen, die nicht in einen beliebigen KI-Dienst gehören
- Passwörter und Zugangsdaten
- API-Schlüssel und andere geheime Systeminformationen
- vollständige Personalakten
- Krankmeldungen und Gesundheitsinformationen
- Bank- und Zahlungsinformationen ohne geklärte Zulässigkeit
- vertrauliche Vertragsunterlagen ohne Freigabe
- Geschäftsgeheimnisse und nicht veröffentlichte Strategien
- umfangreiche reale Kundendatensätze ohne vorherige Prüfung
Besonders bei sensiblen personenbezogenen Daten ist eine erhöhte Schutzanforderung zu berücksichtigen.
Drei Praxisfälle
Fall 1: Öffentlicher Produkttext
Eine Mitarbeiterin möchte einen bereits auf der Unternehmenswebsite veröffentlichten Produkttext von einem freigegebenen KI-Dienst sprachlich verbessern lassen.
Bewertung: Im Regelfall deutlich weniger problematisch, wenn keine zusätzlichen vertraulichen oder personenbezogenen Informationen ergänzt werden.
Fall 2: Kundenbeschwerde mit Name und Adresse
Eine vollständige Kunden-E-Mail soll in einen externen KI-Dienst kopiert werden, damit dieser eine Antwort formuliert.
Bewertung: Personenbezogene Daten sind betroffen. Zweck, Rechtsgrundlage, Plattformfreigabe, Datenminimierung und Datenfluss müssen geprüft werden. Häufig können Identifikatoren vorab entfernt werden.
Fall 3: Interne Preisliste
Eine nicht veröffentlichte Preisliste soll analysiert und für eine Vertriebspräsentation zusammengefasst werden.
Bewertung: Möglicherweise kein personenbezogenes Datum, aber dennoch vertrauliche Unternehmensinformation. Die betriebliche Freigabe des Dienstes bleibt deshalb entscheidend.
Selbsttest: Würden Sie diese Eingaben freigeben?
1. Öffentliche Pressemitteilung ohne personenbezogene Zusatzdaten
Bei einem betrieblich freigegebenen Dienst grundsätzlich vergleichsweise unkritisch. Trotzdem gelten die allgemeinen Unternehmensregeln.
2. Lebenslauf eines realen Bewerbers
Personenbezogene Daten. Je nach Inhalt können zusätzlich besonders sensible Informationen enthalten sein. Keine ungeprüfte Eingabe in einen beliebigen externen Dienst.
3. Vollständig anonymisierte Beispieldaten
Wenn tatsächlich keine realistische Rückbeziehbarkeit auf Personen mehr möglich ist und keine vertraulichen Unternehmensinformationen enthalten sind, ist die Situation deutlich weniger kritisch.
4. Zugangspasswort für ein internes System
Nein. Zugangsdaten gehören nicht in KI-Prompts.
KI-Ausgaben müssen ebenfalls geprüft werden
Selbst eine zulässige Eingabe macht die Ausgabe nicht automatisch richtig. Generative KI kann plausibel klingende, aber falsche oder erfundene Aussagen erzeugen.
Besonders kritisch sind beispielsweise erfundene Rechtsnormen, nicht existente Gerichtsurteile, falsche Quellen oder unzutreffende Aussagen über reale Personen.
Eine einfache Arbeitsregel lautet deshalb:
KI-Ausgabe prüfen, Quelle verifizieren und erst danach betrieblich verwenden.
FAQ
Darf ich Kundendaten in ChatGPT eingeben?
Nicht pauschal. Sobald personenbezogene Kundendaten verarbeitet werden, müssen unter anderem Zweck, Rechtsgrundlage, Datenminimierung, Plattformfreigabe und Datenfluss geprüft werden.
Reicht es aus, den Kundennamen zu entfernen?
Nein. Auch Kundennummern oder Kombinationen anderer Informationen können eine Person identifizierbar machen. Das Entfernen des Namens ist daher nicht automatisch eine Anonymisierung.
Sind interne Unternehmensdaten ohne Personenbezug immer erlaubt?
Nein. Geschäftsgeheimnisse, interne Preislisten, Verträge, Zugangsdaten und strategische Informationen können unabhängig von der DSGVO schutzwürdig sein.
Was ist bei Gesundheits- oder Personaldaten zu beachten?
Solche Daten können besonders sensibel sein und unterliegen erhöhten Schutzanforderungen. Eine Eingabe in nicht freigegebene externe KI-Dienste sollte unterbleiben.
Vom Einzelproblem zum sicheren KI-Prozess
Die eigentliche Herausforderung besteht selten nur in einem einzelnen Prompt. Unternehmen benötigen verständliche Regeln dafür, welche Dienste freigegeben sind, welche Daten verwendet werden dürfen, wie Ergebnisse kontrolliert werden und wie Mitarbeitende mit Zweifelsfällen umgehen.
In der SemaTrain-Schulung zum verantwortungsvollen KI-Einsatz werden diese Fragen systematisch mit Datenschutz, Risikobewertung, Transparenz, Fairness und organisatorischer Verantwortung verbunden.
Schulung: Verantwortungsvoller KI-Einsatz Weitere LerninhalteDieser Lerninhalt dient der fachlichen Weiterbildung und ersetzt keine individuelle Rechtsberatung.