DSGVO-konforme KI-Chatbots: So bleiben Unternehmensdaten in der EU

Ein KI-Chatbot lässt sich datenschutzbewusst betreiben, wenn Modell, Datenbank und Logs in EU-Rechenzentren laufen, der Anbieter Ihre Daten nicht zum Training nutzt und mit jedem Dienstleister ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO besteht. Ebenso wichtig ist die Architektur selbst: Zugriffsrechte werden bei jeder Suche geprüft, an das Modell gehen nur die nötigen Daten, und Protokolle werden nach festen Fristen gelöscht.

Ich entwickle RAG-Chatbots für Unternehmen und habe an JARVIS RCSA mitgearbeitet, einer KI-Plattform für Risiko- und Compliance-Teams in Banken. In regulierten Umgebungen zeigt sich schnell: Datenschutz ist kein Häkchen am Ende, sondern eine Reihe technischer Entscheidungen, die man am Anfang trifft. Dieser Artikel gibt einen Überblick über diese Entscheidungen.

Wichtiger Hinweis: Dieser Beitrag ist eine technische Einordnung aus Entwicklersicht und keine Rechtsberatung. Ob eine konkrete Lösung in Ihrem Unternehmen zulässig ist, klären Sie bitte mit Ihrem Datenschutzbeauftragten oder einer spezialisierten Kanzlei.

Datenhaltung in der EU: Welche Optionen es gibt

Der erste Schritt ist, die Verarbeitung in EU-Regionen zu halten. Die großen Sprachmodelle sind inzwischen über Cloud-Plattformen verfügbar, die Rechenzentren in Europa anbieten:

• Claude über AWS Bedrock in der Region Frankfurt (eu-central-1): Das Modell läuft in der AWS-Infrastruktur, Anfragen werden laut AWS nicht an den Modellanbieter weitergegeben und nicht zum Training verwendet
• Azure OpenAI in EU-Regionen: GPT-Modelle in Microsoft-Rechenzentren, zum Beispiel in Schweden oder Frankreich. Achten Sie auf den Bereitstellungstyp: Regionale oder auf die EU begrenzte Bereitstellungen halten die Verarbeitung in Europa, globale Bereitstellungen nicht unbedingt
• Vektordatenbanken mit EU-Standort: etwa PostgreSQL mit pgvector bei einem EU-Hoster oder verwaltete Vektordatenbanken, bei denen Sie die Region Frankfurt oder eine andere EU-Region wählen
• Dokumentenspeicher, Backups und Logs ebenfalls in der EU, damit nicht ein vergessener Nebendienst die Daten doch in ein Drittland schickt

Zwei Punkte sollten Sie dabei im Blick behalten. Erstens bieten manche Plattformen eine regionsübergreifende Inferenz an, um Lastspitzen abzufangen. Prüfen Sie, ob diese Funktion aktiv ist und auf welche Regionen sie sich erstreckt. Zweitens sind AWS und Microsoft US-Konzerne. Ein EU-Rechenzentrum löst deshalb nicht jede Frage zur Drittlandübermittlung von selbst. Wie Ihr Unternehmen das bewertet, gehört in die Abstimmung mit dem Datenschutzbeauftragten.

Bei CloudPlaza, einem verschlüsselten Cloud-Speicher, habe ich eine Speicherlogik umgesetzt, die Daten je nach Region in der EU oder in den USA ablegt. Wichtig dabei: Die Region sollte bewusst festgelegt und regelmäßig geprüft werden, statt sich auf die Standardeinstellungen eines Anbieters zu verlassen.

Kein Training auf Ihren Daten und ein sauberer AVV

Die Consumer-Versionen bekannter Chat-Apps sind für Unternehmensdaten meist die falsche Wahl, weil Nutzungsbedingungen und Einstellungen dort nicht auf Unternehmensanforderungen zugeschnitten sind. Über die API- und Cloud-Angebote der Anbieter ist die Lage anders: Dort wird in der Regel vertraglich zugesichert, dass Eingaben und Ausgaben nicht zum Training der Modelle verwendet werden. Lesen Sie diese Zusicherung trotzdem nach, und zwar in den aktuellen Vertragsbedingungen, nicht in einem Blogartikel.

Für jeden Dienstleister, der in Ihrem Auftrag personenbezogene Daten verarbeitet, brauchen Sie einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO. Bei einem typischen Chatbot-Projekt betrifft das mehrere Parteien:

• den Cloud-Anbieter, über den das Sprachmodell läuft
• den Hoster der Vektordatenbank und der Anwendung
• Dienste für Monitoring, Fehlertracking oder E-Mail, falls dort Gesprächsinhalte landen können
• den Entwickler oder die Agentur, sofern diese Zugriff auf Produktivdaten haben

Zugriffsrechte bei der Suche durchsetzen, nicht im Prompt

Ein häufiger Fehler bei internen Chatbots: Alle Dokumente landen in einem gemeinsamen Index, und im Systemprompt steht, das Modell solle vertrauliche Inhalte nicht herausgeben. Das ist kein Rechtekonzept. Ein Sprachmodell lässt sich durch geschickte Fragen dazu bringen, solche Anweisungen zu ignorieren.

Sicherer ist es, die Rechte bereits beim Abruf durchzusetzen. Jeder Textabschnitt im Index trägt Metadaten wie Abteilung, Mandant oder Vertraulichkeitsstufe. Bei jeder Anfrage filtert die Suche nach den Rechten des angemeldeten Nutzers, bevor überhaupt ein Text an das Modell geht. Was der Nutzer nicht sehen darf, kann das Modell dann auch nicht verraten. Bei mandantenfähigen Systemen gehört dazu eine strikte Trennung der Daten pro Kunde, entweder über Filter oder über getrennte Indizes.

Weniger personenbezogene Daten an das Modell

Der Grundsatz der Datenminimierung aus Art. 5 DSGVO lässt sich bei KI-Chatbots sehr konkret umsetzen. Viele Fragen lassen sich beantworten, ohne dass Namen, E-Mail-Adressen oder Kundennummern das Modell je erreichen.

• Personenbezogene Daten schon bei der Aufbereitung der Dokumente entfernen oder pseudonymisieren, wenn sie für die Antworten nicht gebraucht werden
• Eingaben der Nutzer vor dem Modellaufruf auf erkennbare Muster wie E-Mail-Adressen, IBANs oder Telefonnummern prüfen und maskieren
• Nur die relevanten Textabschnitte an das Modell senden, nicht ganze Dokumente
• Besondere Kategorien wie Gesundheitsdaten nach Art. 9 DSGVO entweder gar nicht in den Index aufnehmen oder gesondert absichern

Protokolle, Löschfristen und Transparenz

Für Qualitätssicherung und Fehlersuche sind Gesprächsprotokolle wertvoll. Gleichzeitig sind sie oft der Ort, an dem sich unbemerkt die meisten personenbezogenen Daten ansammeln. Legen Sie deshalb vorab fest, was gespeichert wird, wer darauf zugreifen darf und wann es gelöscht wird. Technisch heißt das: automatische Löschung nach einer festen Frist, getrennte Rechte für Admins und Entwickler und die Möglichkeit, die Daten einzelner Nutzer auf Anfrage zu löschen.

Prüfen Sie auch die Protokollierung auf Anbieterseite. Manche Cloud-Dienste speichern Anfragen zeitweise zur Missbrauchserkennung. Welche Einstellungen es dafür gibt, steht in der Dokumentation des jeweiligen Dienstes. Nutzer sollten außerdem erkennen können, dass sie mit einer KI sprechen und wie ihre Eingaben verarbeitet werden.

Was Sie mit Ihrem Datenschutzbeauftragten klären sollten

1. Welche Kategorien personenbezogener Daten in Dokumenten und Gesprächen vorkommen können
2. Auf welcher Rechtsgrundlage die Verarbeitung erfolgt
3. Ob eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich ist
4. Wie die Nutzung US-amerikanischer Cloud-Anbieter mit EU-Rechenzentren bewertet wird
5. Welche AVVs vorliegen müssen und wie der Eintrag im Verzeichnis von Verarbeitungstätigkeiten aussieht
6. Welche Löschfristen für Protokolle gelten und wie Betroffenenrechte praktisch umgesetzt werden
7. Ob der Betriebsrat eingebunden werden muss, wenn Mitarbeitende den Chatbot nutzen

Datenschutz von Anfang an mitplanen

Die meisten dieser Punkte kosten wenig, wenn sie von Beginn an in der Architektur stecken, und viel, wenn man sie nachträglich einbauen muss. Wenn Sie einen KI-Chatbot auf Basis Ihrer eigenen Dokumente planen und die Daten in der EU halten möchten, beschreiben Sie mir kurz Ihr Vorhaben. Mehr zu meinem Angebot finden Sie unter KI-Chatbot-Entwicklung, oder Sie schreiben mir direkt.