Unternehmen investieren massiv in immer leistungsfähigere künstliche Intelligenz. Doch ihr Nutzen hängt wesentlich davon ab, auf welche Informationen die Systeme zugreifen können und wie verlässlich diese Informationen sind. Die meisten Dokumentenumgebungen in Unternehmen wurden nicht für autonome KI-Systeme konzipiert: Dokumente verteilen sich über SharePoint-Websites, Cloud-Speicherplattformen, Dateiserver, Abteilungsanwendungen und persönliche Laufwerke. Projektordner überdauern häufig die Projekte, für die sie erstellt wurden, Zugriffsberechtigungen häufen sich an und Verantwortlichkeiten sind oft unklar. Die Einbindung von KI löst diese Probleme nicht, sondern macht sie leichter auffindbar, schneller ausnutzbar und schwerer einzudämmen.

KI greift auf bestehende Dokumente zu

Viele KI-Systeme in Unternehmen nutzen "Retrieval-Augmented Generation" (RAG), um relevante Informationen in bestehenden Datenquellen zu finden und daraus Antworten zu erstellen. Statt auf jedes interne Dokument trainiert zu werden, rufen sie Informationen bei Bedarf ab. Dabei sollten sie die Zugriffskontrollen der angebundenen Systeme berücksichtigen.

Sind diese Regeln veraltet, zu weit gefasst oder uneinheitlich umgesetzt, kann die KI bestehende Schwachstellen unmittelbar sichtbar machen. Ein vertrauliches Dokument, das Mitarbeitende in einem alten Projektverzeichnis kaum finden würden, kann ein KI-Assistent innerhalb von Sekunden aufspüren, zusammenfassen und mit Informationen aus anderen Repositorien kombinieren.

Bevor ein Repository mit einem KI-System verbunden wird, sollten Administratoren fünf Fragen beantworten können:

1. Wo sind die Informationen gespeichert?
2. Wer ist zum Zugriff darauf berechtigt?
3. Welche Version ist aktuell und vertrauenswürdig?
4. Was darf die KI abrufen, verarbeiten oder darauf basierend ausführen?
5. Wer ist für die Informationen und die daraus resultierenden Ergebnisse verantwortlich?

Gerade die fünfte Frage wird häufig übersehen. Fehlt eine verantwortliche Person oder Funktion, ist unklar, wer die Richtigkeit eines Dokuments prüft, seine Verwendung genehmigt oder eine darauf basierende KI-Antwort korrigiert.

Verantwortung bleibt beim Unternehmen

Generative KI arbeitet probabilistisch und kann Kontext falsch interpretieren, Quellen unpassend kombinieren oder Antworten mit größerer Sicherheit ausgeben, als es die zugrunde liegenden Informationen rechtfertigen. Unternehmen müssen deshalb sowohl die eingespeisten Informationen als auch die Ergebnisse kontrollieren. Die Folgen mangelnder Kontrolle sind längst praktisch sichtbar. Im Fall Moffatt gegen Air Canada verließ sich ein Kunde auf falsche Angaben zu Trauerflugtarifen, die der Chatbot der Fluggesellschaft bereitgestellt hatte. Das Civil Resolution Tribunal von British Columbia machte Air Canada für diese Informationen verantwortlich.

Die Verantwortung lässt sich also nicht an KI delegieren. Dokumentenverantwortung, Quellenvalidierung und die Überprüfung von Ergebnissen werden damit zu operativen Kontrollmaßnahmen statt zu bloßen Aufgaben des Informationsmanagements.

Governance beginnt vor dem Prompt

Viele KI-Governance-Programme beginnen mit Richtlinien zur akzeptablen Nutzung oder Vorgaben dazu, was Mitarbeitende in einen Chatbot eingeben dürfen. Das reicht jedoch nicht aus: Governance muss bereits greifen, bevor der Nutzer die KI-Oberfläche öffnet. Entscheidungen über Vertraulichkeit, zugelassene KI-Tools und notwendige Prüfungen sollten möglichst technisch in der Infrastruktur verankert sein. Für IT-Administratoren bedeutet das, sich auf Kontrollmechanismen zu konzentrieren, die sich konsequent anwenden lassen:

• Prinzip der geringsten Rechte: Personen, Anwendungen und KI-Dienstidentitäten sollten nur auf die Repositorien und Informationen zugreifen können, die sie für ihre Rolle benötigen.
• Verantwortlichkeiten zuweisen: Für wichtige Repositorien und Dokumentklassen sollte klar sein, wer Berechtigungen prüft, Inhalte freigibt und deren weitere Nutzung genehmigt.
• Informationen klassifizieren: Admins benötigen eine praktikable Unterscheidung etwa zwischen öffentlichen, internen, vertraulichen und streng eingeschränkten Informationen.
• Verbindliche Versionen identifizieren: KI sollte auf genehmigte Quellen zugreifen und nicht auf jedes verfügbare Duplikat. Versionsstatus und Verantwortlichkeit sollten mitgeführt werden.
• Zugriff kontinuierlich überprüfen: Governance ist keine einmalige Bereinigung. Rollen ändern sich, Mitarbeitende verlassen das Unternehmen und temporäre Berechtigungen bleiben sonst schnell dauerhaft bestehen.

Administratoren können kaum jedes Dokument im Unternehmen bereinigen. Sinnvoller ist es, zunächst die mit KI verbundenen Repositorien zu identifizieren und dort die Informationen mit den größten geschäftlichen oder regulatorischen Auswirkungen zu priorisieren.

KI-Antworten müssen nachvollziehbar sein

Ein Audit-Protokoll, das lediglich anzeigt, dass Mitarbeitende einen KI-Assistenten genutzt haben, reicht nicht aus. Bei relevanten KI-Interaktionen sollte sich der Ablauf rekonstruieren lassen:

• Wer hat die Anfrage gestellt?
• Welche Identität und welche Berechtigungen wurden verwendet?
• In welchen Repositorien hat die KI gesucht?
• Welche Dokumente und Dokumentversionen flossen in die Antwort ein?
• Welche Maßnahme hat das System ergriffen?
• War eine menschliche Genehmigung erforderlich oder wurde sie eingeholt?
• Welche Ausgabe wurde erzeugt, gespeichert oder weitergegeben?

Diese Aufzeichnungen helfen bei Vorfällen, behördlichen Anfragen und der Fehlerbehebung. Ohne sie lässt sich ein falsches oder unbefugtes Ergebnis nur schwer auf seine Ursache zurückführen.

Die Governance muss zudem über das ursprüngliche Dokumenten-Repository hinausreichen. KI-Plattformen können Kopien oder abgeleitete Daten etwa in Suchindizes, Caches, Vektordatenbanken und Konversationsverläufen speichern. Wird ein Dokument aus dem Quellarchiv gelöscht, können Teile seines Inhalts daher an anderer Stelle erhalten bleiben. Vorgaben zu Aufbewahrung, Löschung, Speicherorten und Zugriff sollten deshalb den gesamten Informationslebenszyklus abdecken.

Auch regulatorisch gewinnt Transparenz beim KI-Einsatz an Bedeutung. Seit dem 2. August 2026 gelten unter anderem die Transparenzpflichten nach Artikel 50 des EU AI Act für bestimmte KI-Systeme. Unabhängig von der konkreten regulatorischen Einstufung sollten Unternehmen nachvollziehen können, wie wichtige KI-Ergebnisse zustande kamen und welche Kontrollmaßnahmen dabei griffen.

KI-Agenten brauchen engere Grenzen

Das Risiko wächst, wenn KI nicht mehr nur Fragen beantwortet, sondern auch Aktionen ausführt. Ein Abrufsystem könnte etwa einen Vertrag zusammenfassen, während ein agentenbasiertes System ihn zur Genehmigung weiterleitet, einen Kundendatensatz aktualisiert oder einen Workflow auslöst. Übermäßige Berechtigungen gefährden dann nicht mehr nur die Vertraulichkeit von Informationen, sondern können auch unerwünschte Aktionen ermöglichen.

Administratoren sollten deshalb Lese- und Bearbeitungsrechte klar trennen. Ein Agent, der eine Nachricht entwerfen darf, sollte sie nicht zwangsläufig auch versenden dürfen. Ebenso sollte ein System, das eine Konfigurationsänderung empfiehlt, diese nicht automatisch in der Produktion umsetzen können.

Agentenidentitäten sollten mit derselben Sorgfalt verwaltet werden wie privilegierte Dienstkonten: mit klar definiertem Anwendungsbereich, geschützten Zugangsdaten, protokollierten Aktionen und regelmäßig überprüften Berechtigungen. Bei rechtlichen, finanziellen, sicherheitsrelevanten oder kundenbezogenen Auswirkungen sollte zudem eine menschliche Freigabe erforderlich bleiben.

Governance statt zentralem Repository

Eine einheitliche Dokumenteninfrastruktur bedeutet nicht, alle Dateien auf eine einzige Plattform zu verlagern. In größeren Unternehmen bleiben unterschiedliche Cloud-Umgebungen, SaaS-Plattformen, Dateisysteme und regionale Repositorien bestehen. Entscheidend ist daher ein gemeinsames Governance-Rahmenwerk mit einheitlichen Vorgaben zu Zugriffskontrolle, Klassifizierung, Aufbewahrung, Versionsstatus, Datenstandort, genehmigter KI-Nutzung und Nachvollziehbarkeit.

Cloud- und Plattformteams müssen wissen, wo sich Informationen befinden, wie sie zwischen Systemen übertragen werden und ob die eingesetzten Plattformen die Sicherheitsanforderungen erfüllen. Ohne gemeinsame Regeln bringt jedes Repository eigene Berechtigungsmodelle und Ausnahmen in das KI-System ein – und die KI führt diese Inkonsistenzen zusammen.

Governance in 30 Tagen verbessern

Administratoren müssen nicht auf ein unternehmensweites Transformationsprogramm warten, um die Grundlagen zu verbessern.

• Woche 1: Identifizieren Sie alle Repositorien, die mit einem KI-Assistenten, Suchdienst oder Agenten verbunden sind. Berücksichtigen Sie dabei auch Indizes und Vektordatenbanken.
• Woche 2: Weisen Sie jeder Quelle einen Verantwortlichen zu und ermitteln Sie, welche Informationskategorien bei Offenlegung, Veränderung oder falscher Verwendung die größten Auswirkungen hätten.
• Woche 3: Überprüfen Sie allgemeine Zugriffsgruppen, inaktive Konten und übertragene Berechtigungen in diesen vorrangigen Quellen. Stellen Sie sicher, dass KI-Identitäten enger begrenzt sind als menschliche Administratoren.
• Woche 4: Testen Sie, ob sich eine Beispielantwort auf Nutzer, Quelldokumente, Versionen und Genehmigungen zurückführen lässt. Jede fehlende Verknüpfung weist auf eine Lücke in der Nachvollziehbarkeit hin.

Der Ansatz löst nicht jedes Governance-Problem innerhalb eines Monats, zeigt aber, wie gut Unternehmen ihre Informationen kontrollieren und KI verantwortungsvoll einsetzen können.

Fazit

KI-Modelle werden leistungsfähiger und autonomer, ihre Dokumentenbasis verbessert sich jedoch nicht automatisch. Entscheidend bleiben deshalb klare Zuständigkeiten, das Prinzip der geringsten Rechte, vertrauenswürdige Quellen und einheitliche Kontrollen. KI behebt Governance-Schwächen nicht – sie macht sie sichtbarer und verschärft ihre Folgen.

Über die Autoren: Bill McElroy ist VP of Global Cloud Operations & Engineering bei Foxit. Mohammad Waseem ist Group DevOps Engineering Manager (DevSecOps) bei Foxit.