Sicherheit und Datenschutz bei KI-Automatisierung
Die Fragen, die Geschäftsführung, IT, Datenschutzbeauftragte und Betriebsrat zu Recht stellen, und wie ein KI-System gebaut sein sollte, damit die Antworten gut ausfallen.
Kurz gesagt
Sicher wird KI-Automatisierung durch fünf Dinge: so wenig Rechte wie möglich, Freigabe vor jeder verbindlichen Aktion, ein lückenloses Protokoll, Verarbeitung bei vertraglich gebundenen Anbietern, wo möglich in der EU, und Schutz vor manipulierten Eingaben. Dazu kommen die Pflichten aus DSGVO und EU AI Act.
Die fünf Grundregeln
1. Minimale Rechte
Der Assistent bekommt einen eigenen Zugang mit genau den Rechten, die er für seine Aufgabe braucht. Wer Rechnungen prüft, muss keine Personalakten sehen. Die Zugriffe folgen Ihrem Rollen- und Rechtekonzept.
2. Freigabe vor verbindlichen Aktionen
Versand, Bestellung, Buchung und Zahlung legt der Assistent als Entwurf an. Ausgelöst werden sie von der zuständigen Person.
3. Protokoll
Jeder Schritt wird festgehalten: welche Daten gelesen wurden, was der Assistent vorgeschlagen hat, wer freigegeben hat. Das hilft bei Fehlern, bei der Revision und beim Vertrauen im Team.
4. Verarbeitung unter Vertrag
Sprachmodelle werden über Anbieter genutzt, mit denen ein Vertrag zur Auftragsverarbeitung nach Artikel 28 DSGVO besteht, wo möglich mit Verarbeitung in der EU. Für sehr sensible Daten kommt auch ein Betrieb auf eigenen Servern in Frage, etwa mit selbst betriebenem n8n.
5. Schutz vor manipulierten Eingaben
E-Mails, Dokumente oder Webseiten können Texte enthalten, die dem Assistenten Anweisungen unterschieben wollen. Das gilt als eines der größten Risiken bei Sprachmodell-Anwendungen (OWASP Top 10 für LLM-Anwendungen). Dagegen helfen begrenzte Rechte, die Freigabe vor jeder Aktion und Prüfschritte, die Anweisungen aus Eingangsdaten ignorieren.
Datenschutz nach DSGVO
- Rechtsgrundlage und Zweck für jede Verarbeitung festlegen und dokumentieren.
- Datensparsamkeit: Nur die Daten verarbeiten, die für die Aufgabe nötig sind; sensible Angaben vorher anonymisieren oder schwärzen.
- Verzeichnis der Verarbeitungstätigkeiten ergänzen.
- Datenschutz-Folgenabschätzung prüfen, wenn die Verarbeitung ein hohes Risiko für Betroffene mit sich bringt.
- Betriebsrat früh einbinden, wenn das System Leistung oder Verhalten von Beschäftigten erfassen kann.
Welche Daten wohin gehen, dokumentieren wir so, dass Datenschutzbeauftragte und Betriebsrat es nachvollziehen können. Eine Rechtsberatung ersetzt das nicht (DSGVO im Wortlaut).
Für Berufsgeheimnisträger und regulierte Branchen kommen eigene Regeln dazu: § 62a StBerG für Steuerkanzleien, § 50a WPO für Wirtschaftsprüfer, MDR und ISO 13485 in der Medizintechnik.
Was der EU AI Act verlangt
Seit Februar 2025 müssen Unternehmen, die KI einsetzen, für ausreichende KI-Kompetenz ihrer Beschäftigten sorgen. Seit August 2026 muss ein Chatbot erkennbar machen, dass eine KI antwortet. Strengere Pflichten für Hochrisiko-Anwendungen gelten später. Details stehen im Leitfaden.
Beispiele, wie das konkret aussieht
Rechnungsprüfung: Der Assistent darf Rechnungen und Bestellungen lesen und Buchungsvorschläge anlegen. Buchen und Zahlen kann er nicht. Jede Prüfung steht im Protokoll.
Wissensassistent: Er antwortet nur aus freigegebenen Dokumenten und nur mit den Rechten der fragenden Person. Wer keinen Zugriff auf Personalunterlagen hat, bekommt daraus auch keine Antwort.
Kundenchat auf der Website: Er weist zu Beginn darauf hin, dass eine KI antwortet, beantwortet Standardfragen und übergibt alles Verbindliche an Ihr Team.
Eigentum und Unabhängigkeit
Code, Server, Daten, Zugänge und Dokumentation liegen bei Ihnen. Auch das gehört zur Sicherheit: Sie können das System jederzeit selbst betreiben oder von einem anderen Dienstleister betreuen lassen.
Checkliste für IT und Datenschutz
- Eigener Zugang für den Assistenten, mit dokumentierten Rechten.
- Vertrag zur Auftragsverarbeitung mit jedem eingesetzten KI-Anbieter.
- Festgelegt, wo die Daten verarbeitet und wie lange sie gespeichert werden.
- Freigabe vor jeder verbindlichen Aktion, technisch erzwungen.
- Protokoll aller Schritte, mit Aufbewahrungsfrist.
- Verfahren für Fehler und Ausfälle: Wer wird benachrichtigt, was passiert mit offenen Fällen?
- Regelmäßige Prüfung der Antworten auf Qualität und Abweichungen.
Beispiel: ein Eintrag im Freigabeprotokoll
„29.10., 09:14: Rechnung 2026-1187 von Lieferant Beispiel GmbH gelesen. 36 von 37 Positionen passen, Position 12 Preis 4 % über Bestellung. Buchungsvorschlag angelegt, Abweichung markiert. 09:31: freigegeben durch Buchhaltung, Abweichung als Preiserhöhung akzeptiert.“ So lässt sich jeder Vorgang später nachvollziehen. Das Beispiel ist erfunden.
Häufige Fragen
Werden unsere Daten zum Training der KI genutzt?
Bei den Geschäftsangeboten der großen Anbieter ist das in der Regel vertraglich ausgeschlossen. Wir prüfen das für jeden eingesetzten Dienst und dokumentieren es.
Können wir alles auf eigenen Servern betreiben?
Ja, mit offenen Modellen auf eigener Hardware oder bei einem Hoster Ihrer Wahl. Das kostet mehr, ist aber für sehr sensible Daten eine Option.
Was passiert bei einem Fehler der KI?
Dafür gibt es Freigaben, Tests und Protokolle. Fehler fallen vor der Freigabe auf, und das Protokoll zeigt, woher sie kamen.
Passt das zu Ihrem Unternehmen?
Im kostenlosen Erstgespräch (30 Minuten) schildern Sie, welche Aufgaben Ihre Teams ausbremsen und mit welchen Systemen Sie arbeiten. Danach wissen Sie, welcher Ablauf sich zuerst lohnt.