DSGVO-konforme KI-Tools: der Praxis-Check für Unternehmen
Drei prüfbare Merkmale, vier Fragen an den Anbieter und eine Checkliste in sieben Schritten — so führen Sie KI-Werkzeuge ein, ohne Risiken zu erben.
DSGVO-konforme KI-Tools erkennen Sie an drei nachprüfbaren Merkmalen: einem unterschriebenen Auftragsverarbeitungsvertrag, einer Verarbeitung innerhalb der EU und einer schriftlichen Zusage, dass Ihre Eingaben nicht in das Training fremder Modelle fließen. Ein Zertifikatslogo auf der Anbieterseite ist kein Nachweis. Wer diese drei Punkte vor der Einführung klärt, muss die Diskussion mit der Aufsichtsbehörde später gar nicht erst führen.
Das Wichtigste in Kürze
- Konform ist nie ein Werkzeug als Produkt, sondern immer die Kombination aus Werkzeug, Datenart und Einsatzzweck.
- Ohne Auftragsverarbeitungsvertrag nach Art. 28 DSGVO ist jede Eingabe personenbezogener Daten eine ungedeckte Übermittlung.
- Seit dem 2. Februar 2025 verlangt die KI-Verordnung von jedem Betreiber ein Mindestmaß an KI-Kompetenz im Team – auch bei alltäglichen Werkzeugen.
- Der Serverstandort entscheidet allein nichts, wenn der Anbieter im Support oder im Modelltraining auf die Inhalte zugreift.
- Ein zweiseitiges Verzeichnis der eingesetzten Werkzeuge bringt in der Praxis mehr als jedes externe Gutachten.
Was macht ein KI-Tool DSGVO-konform?
Konform ist nie das Werkzeug, sondern der konkrete Einsatz. Dasselbe Textmodell kann für die Formulierung eines Blogtextes völlig unproblematisch sein und für die Auswertung von Bewerbungsunterlagen unzulässig. Die Frage lautet deshalb nie „Ist dieses Tool erlaubt?", sondern „Welche Daten gebe ich hinein, zu welchem Zweck, und wer sieht sie danach?".
Aus dieser Frage folgen vier Prüfpunkte, die Sie beim Anbieter belegen lassen können. Erstens: Gibt es einen Auftragsverarbeitungsvertrag, den Sie unterschreiben können, und nennt er die Unterauftragnehmer namentlich? Zweitens: Wo werden die Daten verarbeitet, und was passiert bei einem Supportfall – greift jemand außerhalb der EU auf Ihre Inhalte zu? Drittens: Werden Ihre Eingaben zum Training verwendet, und lässt sich das vertraglich, nicht nur per Schalter im Konto, ausschließen? Viertens: Wie lange werden Prompts und Ausgaben gespeichert, und können Sie eine Löschung verlangen?
Diese vier Punkte sind bewusst nüchtern gehalten, weil sie sich belegen lassen. Ein Anbieter, der sie beantwortet, liefert Dokumente: einen Vertragstext, eine Liste von Rechenzentren, eine Aussage zur Speicherdauer. Ein Anbieter, der stattdessen auf Sicherheitsversprechen und Auszeichnungen verweist, hat die Frage nicht beantwortet. Der Unterschied fällt in einem Verkaufsgespräch kaum auf und in einer Prüfung sofort.
Antworten auf diese vier Fragen bekommen Sie in der Regel innerhalb weniger Tage. Bleibt eine davon offen, ist das bereits das Ergebnis: Das Werkzeug ist für personenbezogene Daten nicht geeignet. Es kann trotzdem sinnvoll bleiben – für anonymisierte oder rein interne Inhalte ohne Personenbezug. Welche Kategorien für kleine Betriebe überhaupt in Frage kommen, haben wir in der Übersicht welche KI-Tools sich für kleine Unternehmen wirklich lohnen beschrieben.
Welche EU AI Act Pflichten gelten für Anwenderunternehmen?
Die meisten kleinen und mittleren Unternehmen sind keine Anbieter, sondern Betreiber – und für Betreiber ist die Liste kurz. Sie müssen wissen, wozu Sie ein System einsetzen, verbotene Anwendungen unterlassen, die Ergebnisse durch Menschen kontrollieren lassen und dafür sorgen, dass die Mitarbeitenden das eingesetzte System in Grundzügen verstehen. Diese Kompetenzpflicht aus Artikel 4 der KI-Verordnung (EU) 2024/1689 gilt bereits seit dem 2. Februar 2025.
| Ihre Rolle | Was daraus folgt | Ab wann |
|---|---|---|
| Betreiber: Sie nutzen ein fremdes System im Betrieb | KI-Kompetenz im Team, klarer Zweck, menschliche Kontrolle der Ergebnisse | seit 2. Februar 2025 |
| Verbotene Praktiken, etwa Emotionserkennung am Arbeitsplatz | Einsatz untersagt, unabhängig von der Größe des Betriebs | seit 2. Februar 2025 |
| Hochrisiko-Einsatz, etwa Vorauswahl von Bewerbungen | Zusätzliche Dokumentation, Aufsichts- und Sanktionsstruktur greift vollständig | ab 2. August 2026 |
| Anbieter: Sie bringen ein eigenes System auf den Markt | Vollständige Risiko-, Dokumentations- und Konformitätspflichten | gestaffelt |
Die Kompetenzpflicht wird oft überschätzt und deshalb aufgeschoben. Gemeint ist kein Programmierwissen, sondern ein Verständnis dafür, wie ein System zu seinen Ergebnissen kommt, wo es zuverlässig ist und wo nicht. Eine Einweisung von einer Stunde, ein Blatt mit Regeln für die tägliche Nutzung und eine feste Ansprechperson für Rückfragen erfüllen den Zweck in einem Betrieb mit fünfzehn Mitarbeitenden. Halten Sie Datum und Teilnehmerkreis fest, dann ist die Pflicht auch nachweisbar.
Wichtig ist die Abgrenzung zur DSGVO: Die KI-Verordnung regelt das Produkt und sein Risiko, die DSGVO regelt die personenbezogenen Daten. Beide gelten nebeneinander. Ein Werkzeug kann nach der KI-Verordnung unkritisch und nach der DSGVO trotzdem unzulässig sein – der häufigere Fall in der Praxis.
Warum ist die Auftragsverarbeitung KI-gestützter Werkzeuge der kritische Punkt?
Weil hier fast alle Prüfungen scheitern. Sobald Sie personenbezogene Daten in ein fremdes System eingeben, verarbeitet der Anbieter diese Daten in Ihrem Auftrag – und dafür verlangt Art. 28 der Datenschutz-Grundverordnung einen Vertrag mit festem Inhalt. Fehlt er, ist die Verarbeitung nicht gedeckt, auch wenn technisch nichts passiert ist.
Die Auftragsverarbeitung KI-gestützter Werkzeuge hat drei Besonderheiten gegenüber klassischer Software. Der Anbieter setzt oft weitere Dienstleister für Rechenleistung ein, die im Vertrag stehen müssen. Die Eingaben sind unstrukturiert, sodass niemand vorher weiß, welche Daten tatsächlich hineinlaufen. Und die Verarbeitung ist nicht reproduzierbar, was Auskunfts- und Löschansprüche technisch aufwendig macht.
Der Vertrag selbst ist schnell geprüft, wenn Sie wissen, wonach Sie suchen. Er muss den Gegenstand und die Dauer der Verarbeitung nennen, die Art der Daten und den Kreis der Betroffenen, die technischen und organisatorischen Maßnahmen, die Regeln für weitere Dienstleister sowie die Pflicht zur Löschung oder Rückgabe am Ende. Fehlt einer dieser Punkte, ist der Vertrag unvollständig, und die Verantwortung bleibt vollständig bei Ihnen.
Praktisch bedeutet das: Klären Sie die Vertragslage, bevor das erste Team das Werkzeug produktiv nutzt. Ein kostenloses Konto, das eine Mitarbeiterin am Freitagnachmittag anlegt, ist derselbe Vorgang wie eine Konzernbeschaffung – nur ohne Vertrag. Genau daraus entstehen die Fälle, die später niemand rekonstruieren kann. Wenn Sie Prozesse ohnehin neu aufsetzen, lohnt es sich, die Datenflüsse gleich sauber zu schneiden; das ist der Kern jeder KI-Automatisierung, die im Betrieb bleibt.
Wie sieht eine KI-Tools Datenschutz Checkliste für den Alltag aus?
Sie besteht aus sieben Schritten und ist in etwa einem halben Tag pro Werkzeug abgearbeitet. Wichtig ist die Reihenfolge: Der Zweck steht am Anfang, nicht das Produkt.
- Zweck in einem Satz aufschreiben: Welche wiederkehrende Aufgabe soll das Werkzeug übernehmen?
- Datenarten benennen: Enthält die Eingabe Namen, Kundendaten, Gesundheits- oder Bewerbungsdaten?
- Auftragsverarbeitungsvertrag anfordern und die Liste der Unterauftragnehmer prüfen.
- Trainingsnutzung vertraglich ausschließen, nicht nur im Konto deaktivieren.
- Verarbeitungsverzeichnis ergänzen: Werkzeug, Zweck, Datenarten, Rechtsgrundlage, Löschfrist.
- Team einweisen: Was darf hinein, was nicht, und wer prüft das Ergebnis vor der Verwendung?
- Zugriffe und Löschfristen festlegen und ein Wiedervorlagedatum für die Prüfung setzen.
Der fünfte Schritt ist der, den Betriebe am häufigsten überspringen, und zugleich der, nach dem eine Aufsichtsbehörde zuerst fragt. Das Verzeichnis der Verarbeitungstätigkeiten ist keine Formsache: Es ist die einzige Stelle, an der nachvollziehbar steht, welche Werkzeuge mit welchen Daten arbeiten. Eine Tabelle mit fünf Spalten reicht dafür aus, und sie ist in einer Stunde angelegt.
Die Konferenz der unabhängigen Datenschutzaufsichtsbehörden hat für die inhaltliche Bewertung eine Orientierungshilfe zu Künstlicher Intelligenz und Datenschutz veröffentlicht, die Sie als Prüfraster neben diese Liste legen können. Für den Einstieg reicht jedoch die Liste selbst: Sie zwingt zu einer Entscheidung pro Werkzeug und macht sichtbar, welche Werkzeuge im Betrieb überhaupt im Einsatz sind.
Welche Fehler kosten kleine Unternehmen am meisten Zeit?
Der teuerste Fehler ist die Grundsatzdiskussion. Betriebe beauftragen ein Gutachten über „KI im Unternehmen", während im Tagesgeschäft längst fünf Werkzeuge ohne Vertrag laufen. Die Reihenfolge ist umgekehrt sinnvoll: erst erfassen, was tatsächlich genutzt wird, dann pro Werkzeug entscheiden.
Der zweitteuerste Fehler ist das Vertrauen auf den Serverstandort. „Hosting in Frankfurt" sagt nichts darüber aus, wer im Supportfall in die Daten sieht oder welche Unterauftragnehmer für die Rechenleistung eingebunden sind. Das steht im Vertrag, nicht in der Produktbeschreibung.
Der dritte Fehler betrifft die Ausgabe statt der Eingabe. Ein Modell kann eine plausible, aber falsche Auskunft erzeugen; wenn diese Auskunft ungeprüft an Kundinnen und Kunden geht, ist der Schaden geschäftlich real, unabhängig vom Datenschutz. Deshalb gehört zu jedem produktiven Einsatz eine benannte Person, die freigibt. Wie das bei kundenseitigen Anwendungen aussieht, zeigt unser Beitrag zu KI-Chatbots im Kundenservice. Für die technische Absicherung des Betriebs sammelt das BSI Empfehlungen zum sicheren Einsatz von KI.
Ein vierter Punkt kommt aus unseren eigenen Projektdaten aus 2025 und 2026: Betriebe entscheiden sich zu früh für ein einzelnes großes Werkzeug und zu spät für klare Regeln. Zwei bis drei genau eingegrenzte Anwendungsfälle, sauber dokumentiert, tragen im Alltag weiter als eine breite Einführung, die nach vier Wochen niemand mehr benutzt.
Häufige Fragen zu DSGVO-konformen KI-Tools
Brauche ich für jedes KI-Tool einen Auftragsverarbeitungsvertrag?
Nur dann, wenn personenbezogene Daten hineinlaufen. Für ein Werkzeug, das ausschließlich anonyme Inhalte verarbeitet, entfällt der Vertrag – die Abgrenzung sollten Sie aber schriftlich festhalten, weil sie in der Praxis schnell verwischt.
Reicht es, das Training der Modelle in den Einstellungen abzuschalten?
Nein. Ein Schalter im Konto kann sich mit dem nächsten Update ändern und ist im Streitfall kein Nachweis. Verlangen Sie die Zusage im Vertrag oder in den Auftragsverarbeitungsbedingungen.
Gilt die KI-Verordnung auch für Betriebe mit zehn Mitarbeitenden?
Ja. Die Pflichten hängen an der Rolle und am Risiko der Anwendung, nicht an der Unternehmensgröße. Für kleine Betriebe bedeutet das in der Regel: Kompetenz im Team sicherstellen, verbotene Anwendungen unterlassen, Ergebnisse kontrollieren.
Was tun, wenn ein Werkzeug bereits ohne Prüfung im Einsatz ist?
Erfassen, bewerten, entscheiden – in dieser Reihenfolge und ohne Schuldzuweisung. Ein Werkzeug abzuschalten ist unkritisch; ein Werkzeug weiterlaufen zu lassen, von dem niemand weiß, ist es nicht.
DSGVO-konforme KI-Tools einführen mit ZeuZ IT
Wir arbeiten den Weg in der Reihenfolge ab, die oben beschrieben ist: Bestandsaufnahme der tatsächlich genutzten Werkzeuge, Bewertung pro Einsatzzweck, Vertragsprüfung, und erst danach die technische Anbindung an Ihre Prozesse. Dabei benennen wir offen, wenn ein Vorhaben den Aufwand nicht rechtfertigt – ein Werkzeug, das zwei Stunden im Monat spart und vier Stunden Prüfung kostet, empfehlen wir nicht.
Für die Umsetzung arbeiten wir mit Festpreisen, damit die Kosten vor dem Start feststehen. Nennen Sie uns in einem kurzen Erstgespräch die eine Aufgabe, bei der Sie KI einsetzen möchten – wir antworten mit einer datenschutzrechtlichen Einschätzung und einem Festpreis für die Einführung.