ChatGPT datenschutzkonform nutzen: Leitfaden für Unternehmen

ChatGPT datenschutzkonform zu nutzen ist für Unternehmen im Mittelstand kein optionales Feinpolieren mehr, sondern Pflicht: Jede Eingabe in den Chatbot von OpenAI ist eine Datenverarbeitung im Sinne der DSGVO und muss eine Rechtsgrundlage, einen Auftragsverarbeitungsvertrag und klare Einstellungen vorweisen. Laut Bitkom-Studie 2024 setzen bereits 27 Prozent der deutschen Unternehmen generative KI ein, weitere 37 Prozent planen den Einsatz. Gleichzeitig haben 50 bis 60 Prozent der Mitarbeiter ChatGPT ohne IT-Freigabe genutzt, wie eine McKinsey-Erhebung zeigt. Dieser Leitfaden erklärt, welche ChatGPT-Versionen DSGVO-konform sind, welche Einstellungen Pflicht sind, was im AVV mit OpenAI stehen muss und welche sieben Schritte den Einsatz rechtssicher machen.

Kennzahlen auf einen Blick

Kennzahl	Wert
Unternehmen mit Datenschutzbedenken bei KI	65 % (Cisco 2025)
Erstes DSGVO-Bußgeld gegen OpenAI	15 Mio. Euro (Garante Italia 2024)
Mitarbeiter mit ChatGPT-Nutzung ohne IT-Freigabe	50-60 % (McKinsey 2024)
Beschäftigte, die sensible Daten in KI-Tools eingeben	34,8 % (Cyberhaven 2024)
KI-Nutzung in deutschen Unternehmen	27 % (Bitkom 2024)
Maximales Bußgeld bei DSGVO-Verstoß	20 Mio. Euro oder 4 % Jahresumsatz

Quellen: Cisco Privacy Benchmark Study 2025, Garante per la protezione dei dati personali 2024, McKinsey State of AI 2024, Cyberhaven Report 2024, Bitkom 2024

Was bedeutet ChatGPT datenschutzkonform einsetzen?

ChatGPT datenschutzkonform einzusetzen heißt, den Chatbot so zu konfigurieren und zu vertraglich abzusichern, dass jede Verarbeitung personenbezogener Daten den Vorgaben der Datenschutz-Grundverordnung entspricht. Konkret braucht es eine dokumentierte Rechtsgrundlage nach Art. 6 DSGVO, einen Auftragsverarbeitungsvertrag (AVV) mit OpenAI, deaktiviertes Modell-Training, eine Datenschutz-Folgenabschätzung bei sensiblen Anwendungen sowie eine angepasste Datenschutzerklärung des eigenen Unternehmens. Ohne diese Bausteine ist die Nutzung formal rechtswidrig, unabhängig davon, wie harmlos die Eingabe wirkt.

Die rechtliche Verantwortung trägt nicht OpenAI, sondern das Unternehmen, das den Chatbot einsetzt. Wer Mitarbeitern erlaubt, ChatGPT zu verwenden, gilt im Sinne der DSGVO als Verantwortlicher. Damit haftet er für jede personenbezogene Information, die ein Nutzer in den Prompt eingibt - ob Kunden-Mail, Lebenslauf oder interne Notiz. Der Bayerische Landesbeauftragte für den Datenschutz hat in seiner Kurz-Information vom März 2025 klargestellt, dass die DSGVO bereits greift, sobald nur die Trainingsdaten Personenbezug aufweisen.

Ist ChatGPT überhaupt datenschutzkonform?

ChatGPT ist in der kostenlosen Version und im privaten Plus-Account nicht datenschutzkonform für den Einsatz im Unternehmen. Es fehlen ein Auftragsverarbeitungsvertrag, ausreichende Garantien zur Datenverarbeitung und kontrollierbare Einstellungen. In den kostenpflichtigen Business-Versionen ChatGPT Team und ChatGPT Enterprise lässt sich der Einsatz dagegen DSGVO-konform gestalten - sofern die Konfiguration stimmt und die organisatorischen Pflichten erfüllt sind. Bei rechtlichen Fragen lohnt sich der Blick in die aktuellen Hinweise der Aufsichtsbehörden.

Die italienische Datenschutzbehörde Garante hat OpenAI im Dezember 2024 mit einem Bußgeld von 15 Millionen Euro belegt. Die Begründung: fehlende Rechtsgrundlage für die Verarbeitung personenbezogener Daten zu Trainingszwecken, unzureichende Transparenz und kein Schutz Minderjähriger. Auch der Hamburgische Beauftragte für Datenschutz und die Berliner Datenschutzbeauftragte prüfen den Anbieter laufend. Eine endgültige Bewertung der EDSA-Taskforce zu ChatGPT steht noch aus, klar ist aber: Für die Standard-Version sieht es schlecht aus, für die Business-Versionen mit AVV deutlich besser.

Wo das Datenschutz-Problem konkret liegt

Die Datenschutz-Probleme von ChatGPT lassen sich auf fünf konkrete Punkte reduzieren, die Unternehmen kennen müssen:

1. Trainingsdaten: Das Modell wurde mit Daten aus dem Internet trainiert, darunter personenbezogene Informationen ohne Einwilligung der Betroffenen.
2. Standard-Datenverarbeitung: Eingaben werden in der kostenlosen Version standardmäßig zum Weitertraining verwendet.
3. Datenübermittlung in die USA: Jeder Prompt geht an OpenAI-Server in den USA, was einen Drittlandtransfer nach Art. 44 ff. DSGVO darstellt.
4. Eingeschränkte Betroffenenrechte: Auskunft, Berichtigung und Löschung sind technisch kaum umsetzbar, weil sich einzelne Datenpunkte aus einem Sprachmodell nicht entfernen lassen.
5. Hallucinationen über reale Personen: ChatGPT erzeugt teils falsche Aussagen über echte Menschen, was gegen den Grundsatz der Richtigkeit nach Art. 5 DSGVO verstößt.

In unserem ausführlichen Beitrag zum ChatGPT DSGVO-Problem finden Sie eine vollständige Analyse der rechtlichen Lage und der Behörden-Urteile. Welche Risiken speziell die Eingabe von Geschäftsgeheimnissen birgt, ordnen wir dort ebenfalls ein.

Welche ChatGPT-Versionen sind DSGVO-konform?

OpenAI bietet mittlerweile vier Hauptvarianten an, die sich beim Datenschutz deutlich unterscheiden. Für den Unternehmenseinsatz kommen praktisch nur die Business-Editionen Team und die große Geschäftslizenz in Frage. Die folgende Vergleichstabelle zeigt die zentralen Unterschiede aus DSGVO-Perspektive.

Die große Geschäftslizenz bietet die größte Sicherheit: Kein Training mit Kundendaten, SOC-2-Typ-2-Zertifizierung, verschlüsselte Speicherung, SAML SSO, Verwaltungs-Konsole und ein verbindliches Data Processing Addendum. ChatGPT Team ist die abgespeckte Variante für kleine Teams ab zwei Sitzen, ebenfalls mit AVV. Die Reutlinger IHK empfiehlt in ihrem aktuellen Hinweis vom April 2025 explizit, im Unternehmenskontext nur diese Versionen zu verwenden und das Modell-Training in den Einstellungen zu prüfen.

Wann lohnt sich der API-Zugang?

Der API-Zugang ist die zweite datenschutzfreundliche Option. OpenAI verarbeitet API-Anfragen laut Privacy Policy nicht zum Training und löscht Eingaben standardmäßig nach 30 Tagen. Wer eigene KI-Anwendungen, Chatbots oder Integrationen in bestehende Systeme bauen möchte, ist mit der API meist besser bedient als mit der Web-Oberfläche. Voraussetzung ist auch hier ein abgeschlossenes Data Processing Addendum mit OpenAI sowie eine durchdachte technische Architektur.

Diese 7 Schritte machen ChatGPT datenschutzkonform

Wer ChatGPT im Unternehmen rechtssicher einsetzen will, kommt um sieben Schritte nicht herum. Sie greifen ineinander - ein einzelner gut umgesetzter Punkt reicht nicht aus. Die folgende Übersicht zeigt die Reihenfolge, in der Sie vorgehen sollten:

1. Geschäftsversion wählen: ChatGPT Team oder Enterprise statt Free oder Plus.
2. AVV abschließen: Data Processing Addendum mit OpenAI unterzeichnen.
3. Modell-Training deaktivieren: In den Einstellungen für alle Nutzer kontrollieren.
4. Rechtsgrundlage dokumentieren: Berechtigtes Interesse oder Einwilligung schriftlich festhalten.
5. Datenschutz-Folgenabschätzung durchführen: Bei sensiblen Anwendungen Pflicht.
6. Mitarbeiter schulen: Klare Regeln, welche Daten nicht in den Chatbot gehören.
7. Datenschutzerklärung anpassen: Information der Betroffenen nach Art. 13 DSGVO.

Schritt 1: Geschäftsversion auswählen

Die Wahl der ChatGPT-Version ist die zentrale Weichenstellung. Für Einzelpersonen und kleine Teams reicht ChatGPT Team ab 25 US-Dollar pro Nutzer und Monat (jährliche Abrechnung). Größere Häuser mit Compliance-Anforderungen sollten direkt zur großen Geschäftslizenz greifen. OpenAI nennt für Enterprise keinen Listenpreis, in der Praxis liegen die Konditionen bei rund 60 US-Dollar pro Nutzer und Monat ab 150 Sitzen. Beide Versionen schließen das Training mit Kundendaten standardmäßig aus.

Schritt 2: Auftragsverarbeitungsvertrag abschließen

OpenAI stellt ein Data Processing Addendum (DPA) bereit, das den deutschen AVV-Anforderungen nach Art. 28 DSGVO entspricht. Das DPA wird beim Abschluss eines Team- oder Enterprise-Abos automatisch hinterlegt oder lässt sich über das Trust-Portal von OpenAI separat unterzeichnen. Wichtige Inhalte: Zweck und Dauer der Verarbeitung, Kategorien personenbezogener Daten, technische und organisatorische Maßnahmen, Sub-Auftragsverarbeiter und Drittlandtransfers. Der AVV ist Pflicht. Ohne ihn ist jede Verarbeitung personenbezogener Daten formal rechtswidrig.

Schritt 3: Modell-Training in den Einstellungen deaktivieren

In den Einstellungen unter “Datensteuerung” lässt sich das Training mit den eigenen Eingaben kontrollieren. In Team und der großen Geschäftslizenz ist es standardmäßig deaktiviert, sollte aber durch den Administrator zentral geprüft werden. Bei der API gilt diese Einstellung ohnehin systembedingt. Auch der Chat-Verlauf lässt sich abschalten - in dem Fall werden Konversationen nach 30 Tagen unwiderruflich gelöscht. Diese Konfiguration ist die technische Grundlage dafür, dass keine personenbezogenen Daten in zukünftige Modelle einfließen.

Schritt 4: Rechtsgrundlage dokumentieren

Für jede Verarbeitung personenbezogener Daten braucht es eine Rechtsgrundlage nach Art. 6 DSGVO. In der Praxis kommt meist das berechtigte Interesse nach Art. 6 Abs. 1 lit. f in Betracht. Voraussetzung ist eine schriftliche Interessenabwägung: Welches Unternehmensinteresse besteht, welche Risiken haben die Betroffenen, welche Schutzmaßnahmen sind getroffen? Bei sensiblen Anwendungen wie Bewerber-Screening oder Mitarbeiter-Bewertung greift das berechtigte Interesse oft nicht mehr - hier wird die Einwilligung nach Art. 6 Abs. 1 lit. a notwendig.

Schritt 5: Datenschutz-Folgenabschätzung durchführen

Eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO ist Pflicht, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen birgt. Bei KI-gestützter Verarbeitung personenbezogener Daten ist das fast immer der Fall. Die DSFA dokumentiert geplanten Einsatzzweck, Datenkategorien, Risiken und Schutzmaßnahmen. Die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) hat im Mai 2024 eine Orientierungshilfe für KI und Datenschutz veröffentlicht, die als Referenz dient.

Schritt 6: Mitarbeiter schulen

Die größte Schwachstelle sitzt vor dem Bildschirm. Eine Cyberhaven-Studie zeigt, dass 34,8 Prozent aller Beschäftigten sensible Informationen in KI-Tools eingeben - oft unbedacht. Schulungen sind daher Pflicht, nicht Kür. Seit dem 2. Februar 2025 fordert auch der EU AI Act in Art. 4 ausdrücklich KI-Kompetenz aller Mitarbeiter, die KI-Systeme einsetzen. Eine Schulung sollte folgende Punkte abdecken: erlaubte und verbotene Eingaben, Erkennen personenbezogener Daten, Umgang mit Geschäftsgeheimnissen, Meldewege bei Vorfällen.

Schritt 7: Datenschutzerklärung anpassen

Wer ChatGPT für die Bearbeitung von Kundenanfragen oder die Erstellung kundenbezogener Inhalte einsetzt, muss seine Datenschutzerklärung erweitern. Notwendig ist die Information der Betroffenen über den Einsatz künstlicher Intelligenz, den Anbieter (OpenAI), die Rechtsgrundlage, die Datenkategorien und die Drittlandübermittlung in die USA. Das gilt analog auch für KI-Chatbots auf der eigenen Website. Eine angepasste Datenschutzerklärung ist Voraussetzung für die Erfüllung der Transparenzpflichten nach Art. 13 und 14 DSGVO.

Welche Daten dürfen Sie nicht in ChatGPT eingeben?

In ChatGPT - auch in der Geschäftslizenz - dürfen bestimmte Datenkategorien grundsätzlich nicht eingegeben werden, selbst wenn ein AVV besteht. Dazu gehören Geschäftsgeheimnisse mit hohem Schutzbedarf, besondere personenbezogene Daten nach Art. 9 DSGVO sowie alle Inhalte, die einer berufsrechtlichen Verschwiegenheit unterliegen. Wer diese Daten verwendet, riskiert nicht nur Bußgelder, sondern auch Schadenersatzforderungen und Reputationsschäden.

Die folgende Übersicht zeigt typische Daten und ihren Status für die Eingabe in ChatGPT:

Bei jedem Prompt gilt die einfache Faustregel: Würden Sie diese Information auch in eine Mail an einen externen Dienstleister schicken, der in den USA sitzt? Wenn nein, gehört sie auch nicht in den Chatbot. Bei Unsicherheit hilft Anonymisierung oder die Verwendung eines lokal betriebenen Sprachmodells. Welche datenschutzfreundlichen Alternativen es gibt, ordnen wir im Beitrag zu DSGVO-konformen KI-Tools ein.

Auftragsverarbeitungsvertrag mit OpenAI: Was muss drinstehen?

Der Auftragsverarbeitungsvertrag mit OpenAI erfolgt über das Data Processing Addendum (DPA), das OpenAI für alle Business-, Team-, Enterprise- und API-Kunden bereitstellt. Das DPA ist auf der OpenAI-Trust-Seite als PDF verfügbar und gilt zusammen mit den Standardvertragsklauseln der EU-Kommission als Rechtsgrundlage für den Drittlandtransfer in die USA. Voraussetzung ist, dass das DPA aktiv akzeptiert oder unterzeichnet wird - der bloße Vertragsabschluss über die Webseite reicht nicht aus.

Pflichtinhalte nach Art. 28 DSGVO

Ein gültiger AVV nach Art. 28 DSGVO muss folgende Pflichtinhalte enthalten:

• Gegenstand, Dauer und Zweck der Verarbeitung
• Art der personenbezogenen Daten und Kategorien Betroffener
• Rechte und Pflichten des Verantwortlichen
• Weisungsgebundenheit des Auftragsverarbeiters
• Vertraulichkeit der eingesetzten Mitarbeiter
• Technische und organisatorische Maßnahmen nach Art. 32 DSGVO
• Regelung zu Sub-Auftragsverarbeitern
• Unterstützung bei Betroffenenrechten
• Löschung oder Rückgabe der Daten nach Vertragsende
• Audit- und Kontrollrechte des Verantwortlichen

OpenAIs DPA deckt diese Punkte vollständig ab. Es nennt Microsoft Azure als zentralen Sub-Auftragsverarbeiter, weist die Unternehmensdaten als getrennt von Trainingsdaten aus und verweist auf den SOC-2-Typ-2-Bericht. Die Bestandsaufnahme reicht aber nur, wenn das DPA tatsächlich abgeschlossen ist - das müssen Verantwortliche dokumentieren.

Drittlandtransfer und EU-U.S. Data Privacy Framework

OpenAI ist seit Juli 2023 unter dem EU-U.S. Data Privacy Framework zertifiziert. Damit gilt der Datentransfer in die USA grundsätzlich als angemessen geschützt. Doch der Beschluss steht unter Beobachtung: Die ersten beiden Vorgänger Safe Harbor und Privacy Shield hat der Europäische Gerichtshof gekippt. Verantwortliche sollten die Lage beobachten und ergänzend Standardvertragsklauseln einsetzen. OpenAI bietet beides parallel an, was im Falle eines Wegfalls des Frameworks zusätzliche Sicherheit gibt.

Welche Alternativen sind sicherer als ChatGPT?

Wer ChatGPT auch in den Business-Versionen vermeiden möchte, hat 2025 inzwischen mehrere praktikable Alternativen, die DSGVO-konformer sind oder einen klaren EU-Sitz haben. Die Wahl hängt vom Anwendungsfall, der Datensensibilität und dem technischen Anspruch ab. Für viele mittelständische Unternehmen ist eine Kombination aus europäischem Anbieter und lokalem Modell die beste Lösung.

Microsoft Copilot Enterprise nutzt zwar OpenAI-Modelle im Hintergrund, betreibt sie aber mit eigenen Garantien: Eingaben werden nicht zum Training verwendet, EU-Daten verbleiben in EU-Rechenzentren. Open-Source-Modelle wie Llama oder Mistral lassen sich auf eigener Hardware betreiben, was den Datenfluss komplett im Unternehmen hält. Das ist technisch anspruchsvoll, bietet aber maximale Kontrolle.

Reifegradmodell: Wo steht Ihr Unternehmen beim ChatGPT-Datenschutz?

Die Praxis zeigt: Unternehmen befinden sich auf sehr unterschiedlichen Stufen, wenn es um den datenschutzkonformen Einsatz von ChatGPT geht. Ein Reifegradmodell hilft, den eigenen Stand realistisch einzuschätzen und die nächsten Schritte zu priorisieren.

Laut einer KPMG-Erhebung 2024 befinden sich rund 40 Prozent der deutschen Unternehmen auf Stufe 1 oder 2 - sie setzen ChatGPT bereits ein, ohne die formalen Voraussetzungen erfüllt zu haben. Erst rund 15 Prozent erreichen Stufe 4 oder 5. Das Risiko: Datenschutzbehörden prüfen zunehmend genauer, und Bußgelder rücken näher.

Häufige Fehler beim datenschutzkonformen Einsatz

In der Beratungspraxis tauchen immer wieder dieselben Stolperfallen auf. Sie kosten Zeit, Geld und im schlimmsten Fall die Reputation. Wer sie kennt, kann sie vermeiden.

• Privates Plus-Konto im Job genutzt: Ohne Business-AVV ist das ein klarer DSGVO-Verstoß. Eine Cyberhaven-Auswertung zeigt: 73,8 Prozent der ChatGPT-Nutzungen am Arbeitsplatz laufen über private Accounts.
• Kundendaten unmaskiert eingegeben: Namen, Mail-Adressen oder Telefonnummern in Prompts sind ohne Rechtsgrundlage tabu. Anonymisieren oder pseudonymisieren reicht oft schon aus.
• Keine Schulung der Mitarbeiter: Wer keine klaren Regeln kommuniziert, riskiert, dass die Belegschaft sensible Informationen preisgibt - meist aus Unwissen.
• DSFA übersprungen: Bei Hochrisiko-Anwendungen ist sie Pflicht. Wer sie nicht durchführt, verliert im Zweifelsfall die Bußgeld-Verteidigung.
• Datenschutzerklärung nicht angepasst: Sobald ChatGPT für Kundenanfragen genutzt wird, muss die Datenschutzerklärung den KI-Einsatz transparent machen.
• AVV vergessen oder nicht dokumentiert: Das DPA von OpenAI muss aktiv akzeptiert und im Verzeichnis von Verarbeitungstätigkeiten dokumentiert sein.
• Externe Tools ohne Prüfung: Plug-ins, GPT-Stores und Integrationen lagern Daten an Dritte aus. Jeder Sub-Anbieter ist eigener Auftragsverarbeiter und braucht eigene Verträge.

ChatGPT, EU AI Act und DSGVO: Wie greift alles ineinander?

Seit August 2024 gilt der EU AI Act parallel zur DSGVO. Beide Regelwerke greifen ineinander, regeln aber unterschiedliche Aspekte. Die DSGVO regelt den Umgang mit personenbezogenen Daten, der AI Act adressiert KI-Systeme als solche. Für ChatGPT-Nutzer im Unternehmen heißt das: doppelte Compliance-Pflicht. Seit dem 2. Februar 2025 sind außerdem die Verbote bestimmter KI-Praktiken sowie die Schulungspflicht nach Art. 4 in Kraft.

Der AI Act sieht für Verstöße Bußgelder von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes vor - noch deutlich höher als die DSGVO-Sanktionen. Die vollen Hochrisiko-Anforderungen greifen ab August 2026 für neue Systeme und ab August 2027 für bestehende. Wer heute ChatGPT in Hochrisiko-Anwendungen einsetzt - etwa im Personalwesen oder bei Kreditentscheidungen - muss bis dahin Konformität nachweisen. Eine Einordnung der konkreten Pflichten finden Sie im Beitrag zum EU AI Act für Unternehmen.

Erste Schritte für Ihr Unternehmen

Der Weg zu einem datenschutzkonformen ChatGPT-Einsatz beginnt mit einer ehrlichen Bestandsaufnahme. Wer nutzt heute welche Version, mit welchem Account, für welche Aufgaben? Aus der Antwort ergibt sich die Dringlichkeit. Drei konkrete Schritte sind die ersten Wochen sinnvoll: erstens eine schriftliche KI-Richtlinie verabschieden, die festlegt, welche Versionen erlaubt sind und welche Daten nicht eingegeben werden dürfen. Zweitens den Wechsel auf ChatGPT Team oder Enterprise mit aktivem AVV einleiten. Drittens eine kurze Pflicht-Schulung für alle Mitarbeiter aufsetzen, die das Tool einsetzen.

Mittelfristig folgen Datenschutz-Folgenabschätzung, Anpassung der Datenschutzerklärung und die Integration in das Verzeichnis der Verarbeitungstätigkeiten. Wer diese Themen strukturiert abarbeitet, hat in zwei bis drei Monaten eine belastbare Basis. ChatGPT datenschutzkonform einzusetzen ist kein Hexenwerk - es braucht aber Klarheit, Disziplin und einen sauberen Plan. Tiefer in das Thema einsteigen können Sie auch in unserem Leitfaden ChatGPT im Unternehmen einsetzen und im Überblick zu KI DSGVO-konform einsetzen.

Sie möchten ChatGPT datenschutzkonform in Ihrem Unternehmen einsetzen? Sprechen Sie uns an - wir beraten Sie unverbindlich zu Auswahl, Vertrag und Schulung.