Ein Audit-Trail für KI-Nutzung ist die nachvollziehbare Aufzeichnung darüber, wer wann welches KI-Tool genutzt hat, auf welche Daten es dabei zugegriffen hat und was mit dem Ergebnis passiert ist. Er beantwortet im Nachhinein die Frage, die ein Verarbeitungsverzeichnis nicht beantworten kann: Was ist konkret geschehen?
Der Unterschied ist wichtig. Das Verzeichnis nach Art. 30 DSGVO beschreibt die Verarbeitung im Allgemeinen, also Zwecke, Datenkategorien und Empfänger. Die Protokollierung hält den Einzelfall fest. Wenn eine Mandantin fragt, ob ihre Unterlagen in ein KI-Tool geladen wurden, oder wenn ein Mitarbeiter versehentlich eine Gehaltsliste in den falschen Chat kopiert hat, hilft Ihnen das Verzeichnis nicht weiter. Dann brauchen Sie Protokolle.
Dieser Beitrag zeigt, warum Protokollierung bei KI-Tools zur Rechenschaftspflicht gehört, was ein brauchbarer Audit-Trail enthält und wo die Grenze liegt, ab der Protokollierung selbst zum Datenschutzproblem wird.
Muss ich die KI-Nutzung protokollieren?
Die DSGVO enthält keinen Paragrafen, der wörtlich sagt: Protokollieren Sie jede KI-Nutzung. Die Pflicht ergibt sich aus mehreren Vorschriften zusammen.
Rechenschaftspflicht. Nach Art. 5 Abs. 2 DSGVO müssen Sie die Einhaltung der Datenschutzgrundsätze nicht nur sicherstellen, sondern nachweisen können. Art. 24 Abs. 1 wiederholt das für die technischen und organisatorischen Maßnahmen. Eine Regel, deren Einhaltung Sie nicht belegen können, ist im Prüfungsfall nur eine Behauptung.
Sicherheit der Verarbeitung. Art. 32 DSGVO verlangt angemessene Maßnahmen zur Sicherheit, einschließlich eines Verfahrens zur regelmäßigen Überprüfung ihrer Wirksamkeit. Ohne Protokolle können Sie nicht überprüfen, ob Zugriffsregeln greifen.
Datenpannen. Art. 33 Abs. 5 DSGVO verlangt, dass Sie Verletzungen des Schutzes personenbezogener Daten dokumentieren, einschließlich der Fakten und Auswirkungen. Wer nicht nachvollziehen kann, welche Daten in welches Tool gegangen sind, kann die Auswirkungen nicht beschreiben und das Risiko für die Betroffenen nicht einschätzen. Für die Meldung an die Aufsichtsbehörde haben Sie in der Regel 72 Stunden.
EU AI Act. Für die meisten Büroanwendungen wie Textentwürfe oder Zusammenfassungen gibt es keine eigene Protokollpflicht aus der KI-Verordnung. Anders bei Hochrisiko-KI-Systemen: Dort müssen Betreiber nach Art. 26 Abs. 6 die automatisch erzeugten Protokolle mindestens sechs Monate aufbewahren, soweit diese unter ihrer Kontrolle stehen. Wenn Sie KI etwa für Personalentscheidungen oder Kreditwürdigkeitsprüfungen einsetzen, sollten Sie das genauer prüfen.
Zusammengefasst: Eine ausdrückliche Pflicht für jeden Prompt gibt es nicht. Aber ohne Protokollierung können Sie die meisten Ihrer Datenschutzpflichten bei KI-Tools nicht belegen.
Was gehört in einen KI-Audit-Trail?
Ich denke Protokollierung bei KI-Tools in fünf Ebenen. Nicht jede Ebene ist bei jedem Tool verfügbar, aber Sie sollten wissen, welche Sie haben und welche fehlen.
1. Nutzung. Wer hat das Tool genutzt, wann, mit welchem Konto und in welchem Tarif? Das ist die Grundlage. Wenn sich Mitarbeiter mit privaten Konten anmelden, fehlt sie bereits, und genau das ist der Kern von Schatten-KI.
2. Datenzugriff. Auf welche Dateien, Postfächer oder Ablagen hat die KI bei einer Anfrage zugegriffen, und welche Dateien wurden hochgeladen? Bei KI-Assistenten, die in Ihre Büroumgebung integriert sind, ist das die wichtigste Ebene, weil die KI mit den Rechten des Nutzers liest. Ein Audit-Trail zeigt dann, ob Berechtigungen zu weit gefasst sind, bevor jemand anders es bemerkt.
3. Konfiguration. Wer hat wann eine Einstellung geändert? Dazu gehören Training mit Kundendaten an oder aus, Datenregion, Web-Suche, angebundene Datenquellen und Plug-ins. Diese Ebene wird am häufigsten vergessen. Dabei ist eine geänderte Einstellung oft die Ursache dafür, dass eine sauber eingeführte KI-Nutzung nach einem halben Jahr nicht mehr dem entspricht, was in Ihrer DSFA steht. Welche Einstellungen bei Copilot zählen, steht im Beitrag zu den Copilot-Einstellungen nach DSGVO.
4. Ergebnisverwendung. Wurde das Ergebnis geprüft und übernommen, und von wem? Das protokolliert kein KI-Tool automatisch. Es gehört in Ihre eigenen Abläufe, etwa als kurzer Vermerk in der Akte, wenn ein KI-Entwurf in ein Mandantenschreiben eingeflossen ist. Für Kanzleien und Steuerberater ist das der Nachweis, dass eine Fachperson das Ergebnis verantwortet und nicht die Maschine.
5. Zugriff auf die Protokolle selbst. Wer hat die Protokolle eingesehen oder exportiert, und warum? Protokolle über KI-Nutzung enthalten Beschäftigtendaten und oft auch Mandantendaten. Der Zugriff darauf muss selbst nachvollziehbar sein.
Sollte ich die Inhalte von Prompts speichern?
In den meisten Fällen nein, jedenfalls nicht standardmäßig.
Ein Protokoll, das jeden Prompt und jede Antwort im Volltext speichert, legt eine zweite Kopie aller Daten an, die Ihre Mitarbeiter in die KI eingegeben haben. Wenn darin Mandantendaten, Gesundheitsangaben oder Gehälter stehen, haben Sie das Risiko nicht verringert, sondern verdoppelt. Art. 5 Abs. 1 lit. c DSGVO (Datenminimierung) und lit. e (Speicherbegrenzung) gelten auch für Ihre Protokolle.
Meine Empfehlung:
- Metadaten standardmäßig: Nutzer, Zeitpunkt, Tool, Art der Aktion, zugegriffene Dateien oder Quellen.
- Inhalte nur mit Zweck: etwa wenn Sie bestimmte Vorgänge aus berufsrechtlichen Gründen dokumentieren müssen, und dann mit kurzer, festgelegter Aufbewahrung und eng begrenztem Zugriff.
- Schutz vor dem Protokoll: Wenn sensible Daten gar nicht erst in der KI landen, landen sie auch nicht im Protokoll. Wie das technisch geht, steht im Beitrag zur automatisierten PII-Schwärzung.
Für Berufsgeheimnisträger kommt ein Punkt hinzu: Protokolle, die Mandanteninhalte enthalten, unterliegen derselben Verschwiegenheit wie die Akte. Wer Zugriff auf diese Protokolle hat, etwa ein externer IT-Dienstleister, muss entsprechend verpflichtet sein. Die Grundlagen dazu stehen im Beitrag zu Mandantendaten und § 203 StGB.
Was liefern die KI-Anbieter?
Das hängt fast vollständig vom Tarif ab.
Business- und Enterprise-Tarife bieten meist Audit-Logs, Admin-Berichte oder Exportschnittstellen. Bei Microsoft 365 werden Copilot-Interaktionen zum Beispiel im einheitlichen Überwachungsprotokoll in Microsoft Purview erfasst. Wie lange diese Einträge aufbewahrt werden und wie detailliert sie sind, hängt von Ihrer Lizenz und Ihren Einstellungen ab. Kostenlose und Einzelplatz-Versionen bieten in der Regel keine zentrale Protokollierung, die Sie als Arbeitgeber auswerten können.
Prüfen Sie für jedes KI-Tool vier Dinge:
- Gibt es ein Audit-Log, das Sie als Administrator einsehen können?
- Was enthält es: nur Anmeldungen, oder auch Datenzugriffe und Konfigurationsänderungen?
- Wie lange wird es aufbewahrt, und lässt sich die Frist anpassen?
- Können Sie es exportieren, bevor es beim Anbieter gelöscht wird?
Die Antworten gehören in Ihre Dokumentation. Wenn ein Tool keine dieser Funktionen hat, ist das ein Befund für Ihre Risikobewertung. Für Daten mit Personenbezug ist ein Tool ohne jede Nachvollziehbarkeit schwer zu rechtfertigen. Die Speicherfristen des Anbieters für Prompts und Protokolle sollten Sie ohnehin bei der AVV-Prüfung notiert haben.
Wie lange sollte ich KI-Protokolle aufbewahren?
Die DSGVO nennt keine feste Frist. Die Aufbewahrungsdauer muss sich am Zweck orientieren, und Sie müssen sie festlegen und begründen.
Eine praktische Herangehensweise: Fragen Sie, wofür Sie das Protokoll brauchen. Zur Aufklärung von Sicherheitsvorfällen brauchen Sie einen Zeitraum, der realistisch abdeckt, bis ein Vorfall bemerkt wird. Für Konfigurationsänderungen kann eine längere Frist sinnvoll sein, weil sie Ihre DSFA und Ihre Einstellungen über die Zeit belegen. Für Inhalte, falls Sie sie überhaupt speichern, gilt die kürzeste Frist, die den Zweck noch erfüllt.
Wenn Sie ein Hochrisiko-KI-System betreiben, sind sechs Monate nach Art. 26 Abs. 6 KI-Verordnung die Untergrenze. Für alle anderen Fälle schreiben Sie die gewählte Frist und die Begründung in Ihr Löschkonzept und in den Verzeichniseintrag.
Protokolle und Mitarbeiterkontrolle
KI-Protokolle zeigen, wer wann wie viel mit welchem Tool gearbeitet hat. Damit sind sie technisch geeignet, Leistung und Verhalten von Beschäftigten zu überwachen. In Betrieben mit Betriebsrat ist die Einführung solcher technischen Einrichtungen nach § 87 Abs. 1 Nr. 6 BetrVG mitbestimmungspflichtig, und zwar unabhängig davon, ob Sie die Überwachung beabsichtigen.
Das ist kein Grund, auf Protokollierung zu verzichten. Es ist ein Grund, vorher festzulegen, wofür Protokolle verwendet werden dürfen und wofür nicht. Wie das in einer Betriebsvereinbarung aussieht, steht im Beitrag zur KI-Betriebsvereinbarung für Copilot. Ohne Betriebsrat gehört dieselbe Regel in Ihre KI-Nutzungsrichtlinie, damit Ihre Mitarbeiter wissen, was protokolliert wird und warum.
Die drei häufigsten Fehler
Fehler 1: Annehmen, dass der Anbieter protokolliert. Viele gehen davon aus, dass der Anbieter alles aufzeichnet und man es im Ernstfall abrufen kann. Oft stimmt das nicht, oder die Aufbewahrungsfrist ist abgelaufen, bevor jemand nachschaut. Prüfen Sie es, bevor Sie es brauchen.
Fehler 2: Alles im Volltext speichern. Aus meiner Zeit in der Sicherheitspraxis kenne ich den Reflex, im Zweifel möglichst viel zu protokollieren. Bei KI-Tools ist das der falsche Reflex. Ein Protokoll mit vollständigen Prompts ist eine Sammlung genau der Daten, die Sie eigentlich schützen wollten, nur an einem zusätzlichen Ort.
Fehler 3: Protokolle, die niemand ansieht. Ein Audit-Log, das nie ausgewertet wird, erfüllt Art. 32 nur auf dem Papier. Legen Sie fest, wer die Protokolle in welchem Rhythmus stichprobenartig ansieht und worauf dabei geachtet wird, etwa auf ungewöhnliche Datenzugriffe oder geänderte Einstellungen. In kleinen Unternehmen reicht ein Termin im Monat mit einer kurzen Notiz, dass er stattgefunden hat.
Checkliste: KI-Protokollierung in einer Stunde prüfen
- Alle genutzten KI-Tools auflisten, auch die, die nicht über die IT eingekauft wurden.
- Pro Tool festhalten, ob ein Audit-Log existiert und wer Zugriff darauf hat.
- Inhalt prüfen: Nutzung, Datenzugriff, Konfigurationsänderungen.
- Aufbewahrungsfrist beim Anbieter notieren und mit Ihrem Bedarf abgleichen.
- Export klären, falls die Frist beim Anbieter zu kurz ist.
- Entscheiden, ob Inhalte gespeichert werden, und wenn ja, Zweck, Frist und Zugriff festlegen.
- Ergebnisverwendung regeln, etwa durch einen Vermerk in der Akte bei KI-gestützten Entwürfen.
- Zweckbindung der Protokolle in Betriebsvereinbarung oder Nutzungsrichtlinie festschreiben.
- Auswertungsrhythmus festlegen und dokumentieren, dass er eingehalten wird.
- Ergebnisse ins Verzeichnis und, falls vorhanden, in die DSFA übernehmen.
Der nächste Schritt
Nehmen Sie das KI-Tool, das in Ihrem Unternehmen am meisten genutzt wird, und beantworten Sie eine einzige Frage: Könnten Sie heute nachweisen, welcher Mitarbeiter letzte Woche welche Dateien damit verarbeitet hat? Wenn nicht, wissen Sie, wo Sie anfangen.
Wenn Sie sehen möchten, wo bei Ihnen sonst noch Lücken zwischen KI-Nutzung und Nachweis liegen, machen Sie den kostenlosen KI-Check. Er dauert zwei Minuten und zeigt Ihnen, welche Punkte zuerst dran sind.
Jose Lugo ist CISSP-zertifizierter KI-Compliance-Berater. Er berät Kanzleien, Steuerberater und Finanzdienstleister in Deutschland bei der DSGVO-konformen Einführung von KI-Tools.