Kurze Antwort
Eine KI-App ist DSGVO-konform, wenn Datenschutz in die Architektur eingebaut ist: klare Rechtsgrundlage und Zweckbindung, Auftragsverarbeitungsverträge mit allen Modell- und Hostinganbietern, Datenminimierung bis hin zur Anonymisierung vor dem Modellaufruf, kontrollierte Logs und ein Löschkonzept. Wer diese Punkte von Anfang an plant, vermeidet teure Umbauten und schafft Vertrauen bei Nutzern und Aufsichtsbehörden.
Inhalt
- Datenschutz als Architekturentscheidung
- Schritt 1: Datenflüsse kartieren
- Schritt 2: Rechtsgrundlage und Zweck festlegen
- Schritt 3: Anbieter vertraglich einbinden
- Schritt 4: Datenminimierung technisch umsetzen
- Schritt 5: Logs, Evaluation und Löschung
- Schritt 6: Transparenz und Betroffenenrechte
- Schritt 7: Dokumentation
- Typische Fehler bei KI-Prototypen
- Wie wir unterstützen
- FAQ
- Tools aus dem jocapps-Ökosystem
Datenschutz als Architekturentscheidung
Viele KI-Projekte behandeln den Datenschutz als Prüfschritt am Ende. Das funktioniert bei KI-Anwendungen besonders schlecht, weil die relevanten Entscheidungen tief in der Architektur liegen: Welche Daten gehen an welches Modell? Was wird in Prompts, Kontextspeichern und Logs festgehalten? Wo laufen die Systeme? Wenn diese Fragen erst nach dem Prototyp gestellt werden, ist die Antwort oft ein Umbau.
Dieser Leitfaden beschreibt die Punkte, die bei der Entwicklung einer KI-App in der EU von Beginn an geklärt sein sollten. Er ersetzt keine Rechtsberatung, hilft aber, die richtigen Fragen zur richtigen Zeit zu stellen.
Schritt 1: Datenflüsse kartieren
Bevor über Rechtsgrundlagen gesprochen wird, muss klar sein, welche Daten wohin fließen. Für KI-Apps gibt es typische Stationen:
- Eingabe: Was geben Nutzer ein oder laden hoch? Freitext enthält oft unerwartet viele personenbezogene Daten.
- Kontextanreicherung: Welche Daten zieht die App aus Datenbanken, Dokumenten oder Drittsystemen in den Prompt?
- Modellaufruf: Welcher Anbieter, welche Region, welche Vertragsbedingungen?
- Ausgabe: Enthält die Antwort personenbezogene Daten, und wo wird sie gespeichert?
- Protokollierung: Was landet in Anwendungslogs, Monitoring-Werkzeugen und Evaluationsdatensätzen?
- Vektorspeicher: Bei Retrieval-Ansätzen werden Dokumente in Einbettungen umgewandelt und gespeichert. Auch diese können personenbezogene Informationen enthalten.
Diese Karte ist die Grundlage für alles Weitere, inklusive Verzeichnis der Verarbeitungstätigkeiten und gegebenenfalls Datenschutz-Folgenabschätzung.
Schritt 2: Rechtsgrundlage und Zweck festlegen
Für jede Verarbeitung braucht es eine Rechtsgrundlage, etwa Vertragserfüllung, berechtigtes Interesse oder Einwilligung, und einen klar definierten Zweck. Bei KI-Apps ist besonders die Zweckbindung heikel: Daten, die für die Bearbeitung einer Anfrage erhoben wurden, dürfen nicht ohne Weiteres zum Training oder zur Verbesserung von Modellen genutzt werden. Klären Sie das für Ihre eigene Nutzung und für die Ihres Modellanbieters.
Bei Beschäftigtendaten gelten zusätzliche Anforderungen, und in vielen Fällen ist der Betriebs- oder Personalrat einzubeziehen.
Schritt 3: Anbieter vertraglich einbinden
Jeder Dienst, der personenbezogene Daten in Ihrem Auftrag verarbeitet, braucht einen Auftragsverarbeitungsvertrag. Bei KI-Apps sind das oft mehr Anbieter als gedacht:
| Anbieter | Prüfpunkte |
|---|---|
| Modellanbieter | Verarbeitungsregion, Nutzung zum Training, Aufbewahrung von Eingaben, Unterauftragsverarbeiter |
| Hosting und Datenbank | Standort, Verschlüsselung, Zugriffskontrollen |
| Vektordatenbank | Standort, Löschbarkeit einzelner Einträge |
| Monitoring und Logging | Welche Inhalte werden erfasst, Aufbewahrungsdauer |
| App-Baukasten oder Plattform | Wer verarbeitet die Daten der Endnutzer |
Bei Anbietern außerhalb der EU kommt die Frage nach der Grundlage für die Übermittlung hinzu. Viele Modellanbieter bieten inzwischen Verarbeitung in der EU an; prüfen Sie die aktuellen Bedingungen für den konkreten Dienst und Vertrag.
Schritt 4: Datenminimierung technisch umsetzen
Der wirksamste Datenschutz ist, Daten gar nicht erst an das Modell zu senden. Praktische Maßnahmen:
- Nur notwendige Felder in den Prompt: Statt des ganzen Kundendatensatzes nur die Felder, die für die Aufgabe nötig sind.
- Pseudonymisierung: Namen und Kennungen vor dem Aufruf durch Platzhalter ersetzen und danach zurückübersetzen.
- Anonymisierung: Personenbezogene Daten vollständig entfernen, wenn sie für die Aufgabe nicht gebraucht werden.
- Lokale Modelle für besonders sensible Verarbeitungsschritte.
Für die Anonymisierung von Texten bietet sich Textwash Pro an: Die Software läuft mit lokaler KI, vollständig offline oder als Schutzschicht vor ChatGPT und Claude. Dadurch werden Namen, Adressen und andere personenbezogene Angaben entfernt, bevor ein Text das eigene Netzwerk verlässt. Das ist besonders nützlich bei Supportanfragen, Verträgen, Gesprächsnotizen oder Akten.
Schritt 5: Logs, Evaluation und Löschung
KI-Apps erzeugen Daten an Stellen, die klassische Löschkonzepte übersehen:
- Prompt- und Antwortprotokolle für Fehlersuche
- Evaluationsdatensätze, die aus echten Anfragen gebildet werden
- Zwischenspeicher und Konversationsverläufe
- Einbettungen in Vektorspeichern
Legen Sie für jede dieser Stellen Aufbewahrungsfristen fest und setzen Sie sie technisch um. Wenn ein Nutzer die Löschung verlangt, muss die App alle Stellen erreichen. Für Evaluationsdaten gilt: Anonymisieren, bevor sie in den Datensatz übernommen werden.
Schritt 6: Transparenz und Betroffenenrechte
Nutzer müssen erfahren, dass KI eingesetzt wird, welche Daten verarbeitet werden und welche Anbieter beteiligt sind. Bei automatisierten Entscheidungen mit erheblicher Wirkung gelten zusätzliche Anforderungen; in der Praxis ist eine menschliche Prüfung solcher Entscheidungen oft die sinnvollste Gestaltung. Mit dem EU AI Act kommen für bestimmte Anwendungen weitere Transparenz- und Dokumentationspflichten hinzu.
Schritt 7: Dokumentation
- Verzeichnis der Verarbeitungstätigkeiten mit allen KI-spezifischen Verarbeitungen
- Datenschutz-Folgenabschätzung, wenn ein hohes Risiko besteht
- Technische und organisatorische Maßnahmen
- Liste der Auftragsverarbeiter
- Dokumentation der Modellwahl und Evaluationsergebnisse
Typische Fehler bei KI-Prototypen
Prototypen aus App-Baukästen oder Coding-Agenten haben häufig KI-Schlüssel im Frontend, protokollieren vollständige Prompts mit Kundendaten und nutzen Modellanbieter über private Konten ohne Auftragsverarbeitungsvertrag. Bevor ein solcher Prototyp echte Daten sieht, sollte er geprüft werden, siehe unsere Audit-Checkliste für KI-generierten Code.
Wie wir unterstützen
OnlineAppCreator entwickelt seit 2014 individuelle Apps und KI-Lösungen für Unternehmen und Behörden. Die AI Code Engineers planen Datenschutz von Anfang an in die Architektur ein: Datenflüsse, Anbieterwahl, Minimierung, Löschkonzepte und Dokumentation. OnlineAppCreator gehört zur jocapps GmbH, die nach ISO 27001 und ISO 9001 zertifiziert ist.
Wenn KI-Agenten unternehmensweit in Prozessen arbeiten sollen, bietet kalAIDoCreate eine Plattform mit Audit-Trails, SSO und EU-Datenhaltung. Und für Projekte, die mit OnlineAppCreator umgesetzt werden, lässt sich Textwash Pro als Anonymisierungsschicht integrieren.
Weiterlesen: KI-Entwicklung: Dienstleister in Deutschland auswählen und KI-Programmieren in der öffentlichen Verwaltung.
FAQ
Darf ich ChatGPT oder Claude in einer Unternehmens-App mit Kundendaten nutzen?
Grundsätzlich ja, mit passender Rechtsgrundlage, Auftragsverarbeitungsvertrag, geklärter Übermittlung und Datenminimierung. Unternehmensverträge der Anbieter bieten dafür in der Regel andere Bedingungen als private Konten.
Brauche ich für eine KI-App eine Datenschutz-Folgenabschätzung?
Wenn die Verarbeitung voraussichtlich ein hohes Risiko für Betroffene birgt, etwa bei sensiblen Daten, umfangreicher Verarbeitung oder Bewertung von Personen. Klären Sie das früh mit Ihrer Datenschutzbeauftragten.
Reicht Pseudonymisierung aus?
Pseudonymisierte Daten bleiben personenbezogen, das Risiko sinkt aber deutlich. Wo der Personenbezug für die Aufgabe nicht nötig ist, ist Anonymisierung die stärkere Maßnahme.
Was ist mit Daten in Vektordatenbanken?
Einbettungen können personenbezogene Informationen enthalten und müssen im Löschkonzept berücksichtigt werden. Wählen Sie eine Lösung, die das gezielte Entfernen einzelner Dokumente erlaubt.