Wann die DSGVO überhaupt greift
Die DSGVO gilt, sobald Sie personenbezogene Daten in ein KI-Werkzeug geben. Das sind alle Angaben, die sich einer Person zuordnen lassen: Namen, E-Mail-Adressen, Telefonnummern und Kundennummern, aber auch eine weitergeleitete Mail mit Signatur, ein Foto mit Gesicht oder die Aufnahme eines Kundengesprächs. Die Datenschutzkonferenz (DSK), das Gremium der deutschen Aufsichtsbehörden, betont, dass sich ein Personenbezug aus vielen Merkmalen ergeben kann, nicht nur aus Name und Anschrift.
Wer ChatGPT dagegen nur nutzt, um einen Werbetext zu entwerfen, eine Excel-Formel zu bauen oder Code ohne Kundendaten zu prüfen, gibt keine personenbezogenen Daten von Kunden ein. Für die Eingaben spielt die DSGVO dann keine Rolle, für das Konto selbst aber schon, denn Name, Mail-Adresse und Nutzung der Beschäftigten sind ebenfalls personenbezogen. Und der Schutz von Geschäftsgeheimnissen gilt immer. Der einfachste Schutz ist deshalb, Namen und Kontaktdaten vor der Eingabe zu entfernen, sodass auch aus dem Zusammenhang niemand erkennbar ist.
Privates Konto oder Geschäftsvertrag
Hier liegt der größte praktische Unterschied. Bei den Angeboten für Einzelpersonen (bei ChatGPT Free, Plus und Pro) darf OpenAI Inhalte nach eigenen Angaben zum Training verwenden, solange man das nicht in den Einstellungen abschaltet. Für diese Konten ist OpenAI selbst Verantwortlicher im Sinne der DSGVO, in Europa die OpenAI Ireland Limited. Einen Vertrag zur Auftragsverarbeitung gibt es dafür nicht. Wer dort Kundendaten eingibt, gibt sie an ein anderes Unternehmen weiter, das sie auch für eigene Zwecke nutzen kann. Dafür gibt es im Betrieb kaum eine Rechtsgrundlage.
Bei ChatGPT Business, Enterprise, Edu und der API verwendet OpenAI Eingaben und Ausgaben standardmäßig nicht zum Training. Für diese Geschäftsangebote gibt es einen Vertrag zur Auftragsverarbeitung, in der seit 1. Januar 2026 geltenden Fassung. Daten aus dem EWR verarbeitet danach die irische Gesellschaft. Bei anderen Anbietern ist das Muster oft ähnlich, aber nicht immer. Prüfen Sie es je Werkzeug in den aktuellen Bedingungen.
Die DSK empfiehlt deshalb, dass der Arbeitgeber Konten und Geräte stellt. Mitarbeitende sollen nicht mit privaten Konten arbeiten. Konten bei externen Anbietern sollen möglichst nicht den Namen einzelner Beschäftigter tragen, sondern eine Funktionsadresse des Betriebs. Als datenschutzfreundliche Voreinstellung nennt die DSK, Training und eine über die Sitzung hinaus gespeicherte Eingabe-Historie von Anfang an abzuschalten.
Rechtsgrundlage und Vertrag zur Auftragsverarbeitung
Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage nach Art. 6 DSGVO, auch der Schritt durch die KI. Im Betrieb kommen vor allem zwei in Frage: die Erfüllung eines Vertrags (Art. 6 Abs. 1 lit. b), etwa wenn Sie mit KI-Hilfe die Anfrage eines Kunden beantworten, und das berechtigte Interesse (lit. f), wenn Ihr Interesse an effizienter Arbeit die Interessen der Betroffenen nicht überwiegt. Diese Abwägung halten Sie am besten schriftlich fest. Eine Einwilligung ist im Alltag selten praktikabel, weil sie jederzeit widerrufen werden kann.
Betreibt ein externer Anbieter das Werkzeug in seiner Cloud, ist er nach Auffassung der DSK häufig Ihr Auftragsverarbeiter. Dann brauchen Sie einen Vertrag nach Art. 28 Abs. 3 DSGVO. Er regelt unter anderem, dass der Anbieter die Daten nur nach Ihrer Weisung verarbeitet, welche Unterauftragnehmer er einsetzt und wie er Sie bei Auskunfts- und Löschanfragen unterstützt. Ohne diesen Vertrag gehört nichts Personenbezogenes in das Werkzeug.
Besonders vorsichtig sein sollten Sie bei Gesundheitsdaten, Angaben zu Religion, politischer Meinung oder Gewerkschaftszugehörigkeit und den anderen besonderen Kategorien nach Art. 9 DSGVO. Für sie gelten deutlich strengere Voraussetzungen. In ein allgemeines KI-Werkzeug gehören sie im Normalfall nicht.
Daten in die USA: Datenschutzrahmen und Standardvertragsklauseln
Viele bekannte KI-Anbieter sitzen in den USA oder verarbeiten Daten dort. Eine Übermittlung in ein Land außerhalb der EU ist nur unter den Bedingungen der Art. 44 ff. DSGVO erlaubt. Für die USA gibt es seit dem 10. Juli 2023 einen Angemessenheitsbeschluss zum EU-US Data Privacy Framework (Durchführungsbeschluss (EU) 2023/1795). Er deckt aber nur Unternehmen, die sich dafür zertifiziert haben und auf der offiziellen Liste stehen. Daneben stützen Anbieter die Übermittlung auf Standardvertragsklauseln der EU-Kommission (Art. 46 DSGVO), meist als Teil des Vertrags zur Auftragsverarbeitung.
Das Gericht der EU hat den Datenschutzrahmen im September 2025 bestätigt, ein Rechtsmittel beim Europäischen Gerichtshof ist nach unserem Kenntnisstand noch offen. Die beiden Vorgänger hat der Gerichtshof 2015 und 2020 für ungültig erklärt. Wer US-Werkzeuge nutzt, dokumentiert deshalb, worauf die Übermittlung beruht, und weiß, wie er notfalls wechseln könnte.
Einige US-Anbieter bieten inzwischen eine Datenhaltung in Europa an, OpenAI etwa für die API und für neue Workspaces von ChatGPT Enterprise und Edu. Die Alternative sind Anbieter aus der EU, etwa Mistral aus Frankreich, oder Modelle, die auf Servern in Deutschland laufen. Prüfen Sie auch dort, wo gerechnet wird und welche Unterauftragnehmer beteiligt sind. Die Drittlandfrage entfällt dann, Rechtsgrundlage und Auftragsverarbeitungsvertrag brauchen Sie trotzdem.
Folgenabschätzung, Informationspflichten und Entscheidungen
Bevor Sie personenbezogene Daten mit KI verarbeiten, schätzen Sie das Risiko ein. Ist es voraussichtlich hoch, ist eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO Pflicht. Die DSK schreibt, dass dies beim Einsatz von KI „vielfach der Fall“ sein wird. Auf ihrer Liste der Verarbeitungen, die stets eine DSFA brauchen, steht KI, die den Kontakt mit Betroffenen steuert oder persönliche Aspekte bewertet, etwa ein Chatbot, der Kunden mit ihren Daten berät. Für Textentwürfe ohne Personenbezug ist keine DSFA nötig. Das Ergebnis der Vorprüfung sollten Sie trotzdem festhalten.
Ihre Datenschutzhinweise für Kunden, Bewerber und Mitarbeitende müssen nach Art. 13 und 14 DSGVO die Empfänger oder Kategorien von Empfängern nennen, also auch KI-Dienstleister, sowie eine Übermittlung in Drittländer. Trifft ein System selbst Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung, gilt zusätzlich Art. 22 DSGVO. Die DSK nennt als Beispiel für einen Verstoß eine KI, die Bewerbungen auswertet und selbstständig zu Gesprächen einlädt. Ein Mensch muss tatsächlich entscheiden, ein bloßes Abnicken reicht nicht.
Der Europäische Datenschutzausschuss (EDSA) hat im Dezember 2024 außerdem festgehalten, dass eine rechtswidrige Entwicklung eines KI-Modells auf dessen späteren Einsatz durchschlagen kann, sofern das Modell nicht wirksam anonymisiert ist. Für Sie heißt das: Wählen Sie Anbieter, die offenlegen, wie sie mit Daten umgehen.
Geschäftsgeheimnisse und klare Regeln für Mitarbeitende
Nicht nur personenbezogene Daten sind heikel. Ein Geschäftsgeheimnis ist nach § 2 Nr. 1 Geschäftsgeheimnisgesetz nur geschützt, wenn Sie angemessene Geheimhaltungsmaßnahmen getroffen haben. Wer Kalkulationen, Rezepturen oder Konstruktionsdaten ungeregelt in KI-Werkzeuge kopieren lässt, kann im Streitfall seine eigene Position schwächen. Dazu kommen Vertraulichkeitsvereinbarungen mit Kunden, die eine Weitergabe an Dritte oft ausschließen.
Die DSK geht davon aus, dass Beschäftigte in vielen Betrieben KI schon eigenmächtig nutzen, und empfiehlt dokumentierte Regeln mit Beispielen, was erlaubt ist und was nicht. Gibt es einen Betriebsrat, binden Sie ihn ein. Kann das Werkzeug Verhalten oder Leistung überwachen, hat er ein Mitbestimmungsrecht (§ 87 Abs. 1 Nr. 6 BetrVG). Zudem gilt seit Februar 2025 die Pflicht zur KI-Kompetenz nach Art. 4 EU AI Act. Seit dem KI-Omnibus vom Juli 2026 heißt sie: Betriebe, die KI einsetzen, ergreifen Maßnahmen für die KI-Kompetenz ihrer Mitarbeitenden. An der DSGVO ändert der AI Act nichts. Eine kurze Einweisung mit einer Liste wie dieser ist ein guter Anfang. Ohne ausdrückliche Freigabe gehört nicht in ein KI-Werkzeug:
- Namen, Kontaktdaten und Kundennummern, solange kein freigegebenes Werkzeug mit Auftragsverarbeitungsvertrag bereitsteht
- Personalakten, Krankmeldungen, Leistungsbeurteilungen und Bewerbungsunterlagen
- Gesundheitsdaten und andere besondere Kategorien nach Art. 9 DSGVO
- Passwörter, Zugangsdaten, API-Schlüssel sowie Bank- und Kartendaten
- Kalkulationen, Preise, Konstruktionsdaten und andere Geschäftsgeheimnisse
- Unterlagen, die unter einer Vertraulichkeitsvereinbarung stehen
Wie wir das in Projekten handhaben
Wenn wir Automatisierungen mit KI bauen, die personenbezogene Daten verarbeiten, setzen wir bevorzugt Sprachmodelle von Anbietern aus der EU oder auf Servern in Deutschland ein, mit Vertrag zur Auftragsverarbeitung und abgeschaltetem Training. Protokolle halten wir so weit wie möglich frei von personenbezogenen Eingaben. Vor dem Start klären wir mit Ihnen, ob eine Folgenabschätzung nötig ist, und weisen Ihre Mitarbeitenden in die Werkzeuge ein. Die rechtliche Bewertung Ihres Einzelfalls ersetzt das nicht.