Mitarbeitende gaben Kundendaten in ein öffentliches KI-Tool ein. Was die forensische Analyse ergab, welche drei Regeln gefehlt haben und wie Sie vorbeugen.

Der Anruf kam von einem neuen Kunden: Kundendaten waren in ein öffentliches KI-Tool eingegeben worden. Kein Angriff von außen, keine Schadsoftware, sondern gut gemeinte Alltagsarbeit. Mit dieser Kundenstory starten wir eine Serie über echte Fälle aus unserer Arbeit.

Wir zeigen, wie so etwas passiert, was eine forensische Analyse danach leistet und mit welchen drei Regeln Sie Ihr Unternehmen davor schützen. Den Kunden nennen wir nicht. Details wie Branche, Größe und Zeitpunkt haben wir bewusst weggelassen oder verändert, Diskretion gehört bei uns zum Konzept. Der Ablauf selbst ist typisch für viele kleine Unternehmen.

Der Vorfall: Kundendaten, die das Haus verlassen haben

Der Kunde stellte fest, dass Kundendaten in einem frei verfügbaren KI-Tool gelandet waren, eingegeben von Mitarbeitenden, die einfach nur schneller arbeiten wollten. Damit liegen diese Daten in fremden Händen, bei einem Anbieter ohne Vertrag und ohne Kontrolle darüber, wie lange und wofür sie gespeichert werden. Die Gewohnheiten stammten noch aus der Zeit vor unserer Zusammenarbeit, verbindliche Regeln gab es bis dahin nicht. In so einem Moment hilft Bauchgefühl nicht weiter. Ohne strukturierte Auswertung bleibt offen, welche Daten betroffen sind, seit wann das läuft und ob noch mehr Wege offenstehen.

Die forensische Analyse: erst verstehen, dann handeln

Wir haben daraufhin die Microsoft-365-Umgebung und die lokale IT systematisch untersucht, von Anmeldeprotokollen über Anwendungen, Geräte und Freigaben bis zu den Wegen, über die Daten das Unternehmen verlassen können. Das Bild, das sich zeigte, finden wir in ähnlicher Form in vielen gewachsenen Umgebungen. Und das größte Problem war nicht die KI selbst:

• Der Hauptbefund, ein privates OneDrive neben dem Firmen-OneDrive: Auf Arbeitsgeräten war zusätzlich zum Unternehmens-OneDrive ein privates OneDrive verknüpft. Firmendaten wanderten so laufend in einen Cloud-Speicher, den das Unternehmen weder kennt noch kontrolliert. Einmal eingerichtet, läuft so ein Abfluss still und dauerhaft weiter.
• Dazu Schatten-KI im Alltag: Kundendaten wurden über private Konten in ein öffentliches KI-Tool eingegeben, das nie offiziell freigegeben wurde. In einer richtig eingerichteten Umgebung lässt sich genau das technisch unterbinden: Nicht freigegebene Tools werden blockiert oder gemeldet, bevor Daten dorthin abfließen. Hier fehlte diese Kontrolle noch.
• Zu offene Freigaben: Ablagen und Links, bei denen längst nicht mehr klar war, wer eigentlich Zugriff hat. Jeder dieser Wege ist eine weitere Tür nach draußen.

Wichtig für die Einordnung: Keiner dieser Punkte entsteht aus böser Absicht. Sie entstehen aus Bequemlichkeit und fehlenden Regeln. Genau deshalb lassen sie sich auch abstellen.

Der eigentliche Schaden

Unmittelbar wiegt schwer, dass Firmen- und Kundendaten außerhalb des Unternehmens liegen, in einem privaten Cloud-Speicher und bei einem KI-Anbieter, ohne Vertrag, ohne Löschkontrolle, ohne Wissen der Kunden. Der mittelbare Schaden ist oft größer. Bis geklärt ist, welche Daten betroffen sind, steht die Frage einer meldepflichtigen Datenschutzverletzung im Raum, dazu die Vertrauensfrage gegenüber genau den Kunden, deren Daten es betrifft. Das kostet Zeit, Vertrauen und im Zweifel Aufträge, weit mehr, als Vorbeugung je gekostet hätte.

Drei Regeln, die jedes Unternehmen schriftlich beantworten sollte

Aus Fällen wie diesem folgen drei einfache Fragen. Nicht als Technikprojekt, sondern als Entscheidung der Geschäftsführung, die danach technisch durchgesetzt wird:

1. Welche KI-Tools sind freigegeben und welche Daten dürfen hinein? Eine kurze, gepflegte Liste erlaubter Werkzeuge nimmt der Schatten-KI den Nährboden. Die einfachste Grundregel: Ohne Freigabe gehören personenbezogene Daten und Geschäftsgeheimnisse grundsätzlich nicht in KI-Tools. Wie eine praktikable KI-Richtlinie aussieht, zeigt unser Beitrag KI im Unternehmen einführen.
2. Darf Firmen-IT privat verwendet werden und Privates dienstlich? Beides ist regelbar, aber es muss entschieden und aufgeschrieben sein. Damit die Entscheidung im Alltag auch gilt, wird sie anschließend als technische Richtlinie in den betroffenen Umgebungen hinterlegt, etwa in Microsoft 365 und auf den Geräten. Ohne Regel entsteht die Grauzone, in der private Konten mit Firmendaten arbeiten.
3. Welche Verknüpfungen und Freigaben sind erlaubt? Firmendaten gehören ausschließlich auf Konten und Geräte, die das Unternehmen verwaltet. Freigaben gehören regelmäßig aufgeräumt. Die Umgebung sollte das technisch durchsetzen, nicht nur per Bitte.

Was im konkreten Fall geschah

Genau dafür ist die Aufräumphase am Anfang jeder Betreuung da: Nach der Analyse haben wir die Umgebung mit unserer Microsoft-365-Grundabsicherung auf ein sauberes Fundament gestellt: Zugänge und Freigaben aufgeräumt, private Verknüpfungen getrennt, Anmeldeschutz und Geräteregeln durchgesetzt und die drei Fragen von oben gemeinsam mit der Geschäftsführung verbindlich beantwortet, inklusive einer einfachen KI-Regel für das ganze Team.

Vorbeugen statt aufarbeiten: Sicherheit als laufender Prozess

Eine einmal abgesicherte Umgebung bleibt nicht von allein sicher. Neue Mitarbeitende, neue Geräte, neue Tools und neue KI-Dienste verändern sie jede Woche ein Stück. Dafür gibt es unser Microsoft-365-Sicherheitskonzept mit monatlicher Revision und Optimierung: Wir prüfen die Umgebung in einem festen Rhythmus, räumen neue Risiken ab, bevor sie zum Vorfall werden, und halten die Regeln aktuell. So stellen Sie sich strukturiert gegen die Kette, die in diesem Fall zum Schaden geführt hat. Wenn Sie wissen möchten, wo Ihre Umgebung heute steht: Sprechen Sie uns an.

Quellen und weiterführende Informationen

• BSI: Informationen und Empfehlungen zu Künstlicher Intelligenz
• Art. 28 DSGVO: Auftragsverarbeiter (Gesetzestext)
• Microsoft Learn: Externe Freigaben in SharePoint und OneDrive im Überblick

← Zurück zur Übersicht