Shadow AI: Was es ist und warum es ein konkretes Cybersicherheitsrisiko für moderne Unternehmen darstellt

In den letzten zwei Jahren hat die generative künstliche Intelligenz die Art und Weise verändert, wie Menschen arbeiten. Chatbots, Tools zur automatischen Texterstellung, Code-Generatoren und virtuelle Assistenten sind Teil der täglichen Arbeitsabläufe in Marketing, IT, HR und Operations geworden. Häufig ist dieser Wandel jedoch außerhalb jeglicher Unternehmenskontrolle erfolgt. Das Phänomen hat einen Namen: Shadow AI.

Shadow AI ist die nicht autorisierte Nutzung von Werkzeugen der künstlichen Intelligenz durch Mitarbeitende, außerhalb der Richtlinien und der Aufsicht der IT-Abteilung. Es handelt sich um ein rasch wachsendes Phänomen, das konkrete Risiken für die IT-Sicherheit, die regulatorische Konformität und den Ruf von Unternehmen mit sich bringt.

Was ist Shadow AI, und warum spricht man heute so viel darüber

Shadow AI ist künstliche Intelligenz, die ohne Genehmigung, Kontrolle oder Aufsicht durch die IT-Abteilung in die Unternehmensprozesse gelangt. Das zeigt sich etwa, wenn ein Mitarbeiter einen AI-Chatbot nutzt, um ein vertrauliches Dokument zusammenzufassen, wenn ein Entwickler proprietären Code in ein öffentliches Sprachmodell einfügt, oder wenn eine Person aus dem HR-Bereich ein generatives KI-Tool zur Vorauswahl von Lebensläufen nutzt, ohne dass das Unternehmen davon weiß.

Verschiedenen Branchenstudien zufolge nutzt ein erheblicher Teil der Mitarbeitenden in westlichen Unternehmen generative KI-Tools im Arbeitsalltag. Die meisten tun dies, ohne vom Unternehmen klare Vorgaben dazu erhalten zu haben, welche Tools zugelassen sind und welche Daten geteilt werden dürfen.

In einem modernen Unternehmen, das intensiv Cloud- und SaaS-Tools nutzt, zeigt sich Shadow AI häufig auf unsichtbare Weise. Am häufigsten geschieht dies, wenn Mitarbeitende mit dem Ziel, besser zu arbeiten, KI-Tools einsetzen, ohne zu wissen, wohin die Unternehmensdaten gelangen.

Shadow AI vs. Shadow IT: Was sich für ein modernes Unternehmen ändert

Um die Tragweite des Phänomens zu verstehen, lohnt es sich, von einem Begriff auszugehen, der den meisten IT-Abteilungen bekannt ist: Shadow IT.

Was ist Shadow IT – kurz erklärt

Shadow IT bezeichnet die Nutzung von Technologien, Anwendungen und Cloud-Diensten, die nicht von der IT-Abteilung des Unternehmens genehmigt wurden. Projektmanagement-Tools, die ein Team eigenständig eingeführt hat, private Cloud-Speicher zum Teilen von Arbeitsdateien und nicht zentral verwaltete Kommunikations-Apps sind allesamt Beispiele für Shadow IT. Das Phänomen besteht seit Jahrzehnten und ist teilweise normal, kann aber Schwachstellen schaffen, wenn es nicht gesteuert wird.

Warum Shadow AI ein höheres Risikoniveau darstellt

Generative KI-Tools beschränken sich nicht darauf, Daten wie eine Datei auf Dropbox zu „speichern“. Sie verarbeiten Texte, Dokumente, Quellcode, Gespräche, Kundendaten und Geschäftsprozesse. In vielen Fällen nutzen öffentliche KI-Modelle die von den Nutzern eingegebenen Inhalte, um ihre eigenen Trainingssysteme zu verfeinern.

Das bedeutet, dass ein vertrauliches Dokument, das in einen öffentlichen Chatbot eingegeben wird, den Unternehmensperimeter unwiderruflich verlassen kann. Gleichzeitig können die Ergebnisse der KI-Unternehmensentscheidungen in kritischen Bereichen wie Personalauswahl, Preisgestaltung, externer Kommunikation oder Softwareentwicklung beeinflussen, ohne dass IT oder Management davon weiß.

Wie Shadow AI in einem Unternehmen entsteht, das KI intensiv nutzt

Shadow AI entsteht in erster Linie aus der Diskrepanz zwischen dem Tempo der technologischen Innovation und der Fähigkeit des Unternehmens, diese in Echtzeit zu steuern.

Mitarbeitende auf der Suche nach Produktivitäts-Abkürzungen

Stellen wir uns eine Vertriebsmitarbeiterin vor, die einen Chatbot nutzt, um Follow-up-E-Mails schneller zu schreiben, oder einen Analysten, der einen Datensatz in ein KI-Tool einfügt, um eine Zusammenfassung zu erhalten. Oder ein Entwickler bittet ein Sprachmodell, einen Codeblock zu vervollständigen. Diese Handlungen haben eine legitime Motivation: besser, schneller und mit weniger repetitivem Aufwand zu arbeiten.

In diesem Fall liegt das Problem nicht in der Produktivität, sondern im möglichen Risiko, dem die Unternehmensdaten ausgesetzt werden, wenn ein Mitarbeiter die KI-Tools und die Art, wie sie mit den in den Prompts angegebenen Informationen umgehen, nicht ausreichend kennt.

Versteckte KI-Funktionen in bereits genutzter Software

Viele SaaS-Plattformen und Produktivitätstools integrieren KI-Funktionen direkt in die Benutzeroberfläche: Office-Suiten, CRM-Systeme, Tools für Unified Communication & Collaboration oder Customer-Service-Plattformen. Häufig werden diese Funktionen vom Nutzer mit einem Klick aktiviert, ohne dass die IT-Abteilung die Auswirkungen auf Sicherheit und Datenschutz bewertet hat.

In diesem Fall entsteht Shadow AI nicht durch die Nutzung eines externen Tools, sondern durch die Aktivierung einer Funktion, die bereits in einer genehmigten Software vorhanden ist. Die Unsichtbarkeit des Phänomens ist dadurch noch größer.

Unklare Richtlinien oder als absolute Verbote wahrgenommene Vorgaben

Wenn ein Unternehmen auf die Verbreitung von KI mit einem pauschalen Verbot reagiert („Nutzt keine KI-Tools“), erzielt es oft den gegenteiligen Effekt: Die Nutzung geht weiter, allerdings noch verdeckter. Regeln, die als übertrieben oder unpraktikabel wahrgenommen werden, werden umgangen, weil betriebliche Notwendigkeiten es erfordern.

Deshalb besteht die größte Herausforderung für Unternehmen nicht darin, KI zu blockieren, sondern klare, verständliche und verhältnismäßige Regeln zu definieren, die es ermöglichen, ihre Vorteile zu nutzen und gleichzeitig die Risiken zu reduzieren.

Konkrete Risiken von Shadow AI für Cybersicherheit, Compliance und Reputation

Data Leaks und Data Breaches: sensible Daten in Chatbots

Jedes Mal, wenn ein Mitarbeiter ein Unternehmensdokument, eine Finanzanalyse, Kundendaten oder Quellcode in ein öffentliches KI-Tool eingibt, verlässt diese Information den vom Unternehmen kontrollierten Perimeter. In manchen Fällen wird sie für das Training des Modells verwendet, in anderen einfach auf Servern verarbeitet, deren Standort und Sicherheitsrichtlinien dem Unternehmen unbekannt sind.

Das Risiko von Datenlecks und Data Breach durch Shadow AI ist konkret und dokumentiert: Mehrere international bedeutende Vorfälle betrafen die versehentliche Offenlegung von proprietärem Code oder vertraulichen Informationen über öffentliche Chatbots. Data-Loss-Prevention-Tools (DLP) können helfen, solche Datenflüsse zu erkennen und zu blockieren – allerdings nur, wenn sich das Unternehmen des Problems bewusst ist.

Nichteinhaltung von DSGVO, AI-Act, NIS2 und internen Richtlinien

Die nicht autorisierte Nutzung von KI-Tools kann zu Verstößen gegen verschiedene Vorschriften führen. Die DSGVO verlangt, dass personenbezogene Daten transparent und sicher, mit angemessener Rechtsgrundlage, verarbeitet werden: Das Teilen von Kundendaten mit einer nicht genehmigten KI-Plattform kann einen Verstoß darstellen. Der EU AI Act führt Governance- und Transparenzpflichten für den Einsatz von KI-Systemen mit hohem Risiko ein. Die NIS2-Richtlinie und die DORA-Verordnung stellen Sicherheits- und Betriebskontinuitätsanforderungen, die durch Shadow AI gefährdet werden können.

Auch interne Richtlinien sind gefährdet: Unternehmensverfahren zu Vertraulichkeit, geistigem Eigentum und Datenmanagement können durch die Nutzung nicht genehmigter Tools unbewusst verletzt werden.

Unkontrollierte Fehler, Bias und algorithmische Halluzinationen

Generative KI-Modelle sind nicht unfehlbar. Sie produzieren Fehler, verstärken in den Trainingsdaten vorhandene Verzerrungen (Bias) und erzeugen mitunter plausibel klingende, aber falsche Informationen (die sogenannten „Halluzinationen“). Wenn diese Ergebnisse ohne menschliche Überprüfung in unternehmerische Entscheidungsprozesse einfließen, etwa bei der Personalauswahl, der Preisgestaltung oder der Kundenkommunikation, steigt das Risiko von operativen Fehlern, Diskriminierung oder Reputationsschäden erheblich.

Reputationsschaden und Vertrauensverlust

Ein Vorfall im Zusammenhang mit Shadow AI – etwa ein Datenleck, ein Verstoß gegen Vorschriften oder ein KI-generierter Fehler in einem kritischen Prozess – kann den Ruf des Unternehmens gegenüber Kunden, Partnern und Mitarbeitenden schädigen. In stark regulierten Branchen oder bei hoher Sensibilität in Bezug auf den Datenschutz können die Folgen erheblich und schwer umkehrbar sein.

Shadow AI steuern: Richtlinien, Schulung und Sicherheitstools

Die Antwort auf Shadow AI erfordert einen strukturierten Ansatz, der Sichtbarkeit, klare Regeln, eine digitale Kultur und geeignete technische Tools miteinander verbindet. Ziel ist es nicht, KI aus den Unternehmensprozessen zu verbannen, sondern sie zu steuern.

Sichtbarkeit schaffen: die genutzten KI-Tools erfassen

Der erste Schritt ist eine Bestandsaufnahme. Ein KI-Security Assessment oder eine Shadow-AI-Discovery-Maßnahme ermöglicht es, die im Unternehmen tatsächlich genutzten KI-Tools zu erfassen – sowohl die offiziellen als auch die eigenständig eingeführten – und zu verstehen, wo sensible Daten einfließen und welche Prozesse betroffen sind. Ohne dieses Ausgangsbild besteht die Gefahr, dass jede Richtlinie oder technische Maßnahme unvollständig bleibt.

Klare und einfache Richtlinien für die KI-Nutzung definieren

Eine wirksame KI-Nutzungsrichtlinie besteht aus konkreten Vorgaben: welche Tools zugelassen sind, welche Datenkategorien niemals in öffentliche KI-Plattformen eingegeben werden dürfen und welche Unternehmensrollen welche Tools unter welchen Einschränkungen nutzen dürfen.

Die Richtlinien müssen verständlich kommuniziert werden, regelmäßig aktualisiert werden, sobald sich die Tool-Landschaft weiterentwickelt, und in die Onboarding-Prozesse für neue Mitarbeitende integriert werden.

In Schulungen zu KI und Cybersicherheit investieren

Schulungen sind der Faktor, der eine geschriebene Richtlinie in tatsächliches Verhalten umsetzt. Den Mitarbeitenden zu erklären, welche Risiken Shadow AI birgt, wie generative KI-Modelle technisch funktionieren (einschließlich Bias und Halluzinationen) und welche rechtlichen Verpflichtungen gelten, reduziert riskantes Verhalten wirksamer als jede technische Lösung allein.

Schulungen betreffen nicht nur die IT-Abteilung, sondern auch HR, Marketing, Operations und Finance – also jeden, der digitale Tools in seiner täglichen Arbeit nutzt.

Sicherheitstools: DLP, Monitoring und Enterprise-KI-Instanzen

Auf technischer Ebene stehen Unternehmen verschiedene Lösungen zur Verfügung. Data-Loss-Prevention-Systeme (DLP) ermöglichen es, das Kopieren oder Hochladen von Dateien auf nicht autorisierte Tools zu überwachen und zu blockieren. Lösungen zur Überwachung des Netzwerkverkehrs helfen dabei, die Nutzung nicht genehmigter KI-Plattformen zu erkennen.

Für Organisationen, die die Vorteile generativer KI sicher nutzen möchten, ist der Einsatz privater oder unternehmenseigener KI-Instanzen, bei denen die Daten nicht für das öffentliche Training des Modells verwendet werden und im vom Unternehmen kontrollierten Perimeter verbleiben, die wirksamste Lösung, um Produktivität und Sicherheit miteinander zu vereinen.

Auf dem Weg zu einer sicheren und produktiven KI-Nutzung im Unternehmen

Generative künstliche Intelligenz ist ein Werkzeug mit echtem Potenzial für Produktivität, Automatisierung und Innovation. Um sie besser zu steuern, ist es jedoch wichtig, das Phänomen Shadow AI zu kennen, das den Einsatz der Technologie für das Unternehmen riskant und unkontrollierbar machen könnte.

Der ideale Weg ist schrittweise: zuerst die Sichtbarkeit (wissen, was vorhanden ist), dann klare Regeln (anwendbare und kommunizierte Richtlinien), dann geeignete Tools (DLP, Monitoring, Enterprise-Instanzen) und schließlich die digitale Kultur (kontinuierliche Schulung, die Regeln in Verhalten umsetzt).

Shadow AI zu erfassen erfordert bereichsübergreifende Kompetenzen, die das Wissen über KI-Tools mit dem Wissen über IT-Sicherheit und die IT-Infrastrukturen verbinden, auf denen diese Tools aufsetzen.

Ein Technologiepartner mit diesem doppelten Profil kann das Unternehmen von der anfänglichen Bestandsaufnahme der genutzten Tools bis zur Definition anwendbarer Richtlinien begleiten und dabei die Umsetzung technischer Lösungen sowie Schulungsmaßnahmen unterstützen, die die KI-Governance zu einem Teil der Unternehmenskultur machen.

FAQ zu Shadow AI

Was ist Shadow AI im Unternehmen?

Shadow AI ist die nicht autorisierte Nutzung von KI-Tools durch Mitarbeitende, außerhalb der Kontrolle und Sichtbarkeit der IT-Abteilung. Sie zeigt sich, wenn Chatbots, Schreibtools oder Code-Generatoren in die Unternehmensprozesse gelangen, ohne dass das Unternehmen die Risiken für die Datensicherheit bewertet hat.

Was ist der Unterschied zwischen Shadow AI und Shadow IT?

Shadow IT bezeichnet die Nutzung beliebiger Technologien oder Cloud-Dienste, die nicht von der Unternehmens-IT genehmigt wurden. Shadow AI ist eine spezifische Kategorie von Shadow IT, die ausschließlich generative KI-Tools betrifft und ein höheres Risikoprofil aufweist: Diese Tools verarbeiten Daten aktiv, mit Auswirkungen auf den Datenschutz und die Compliance, die weit über die einfache Speicherung einer Datei in einer nicht genehmigten Cloud hinausgehen.

Warum ist Shadow AI gefährlich für die IT-Sicherheit?

Es gibt vier zentrale Risiken: das Abfließen sensibler Daten an nicht kontrollierte externe Plattformen (Data Leak), Verstöße gegen Vorschriften wie DSGVO, AI-Act und NIS2, Fehler und algorithmische Halluzinationen, die ungeprüft in Entscheidungsprozesse einfließen, sowie mögliche Reputationsschäden im Falle eines Vorfalls. Der kritischste Aspekt ist die Unsichtbarkeit: Die IT-Abteilung weiß nicht, was geschieht, und kann daher weder überwachen noch schützen oder eingreifen.

Wie kann ein modernes Unternehmen das Phänomen Shadow AI reduzieren?

Der wirksame Weg beginnt mit einer Bewertung der genutzten KI-Tools, setzt sich mit der Definition klarer Richtlinien für die zugelassene Nutzung fort und wird durch Schulungen, Sicherheitstools (DLP, Monitoring) sowie die Einführung von Enterprise-KI-Plattformen für interne Anwendungsfälle abgeschlossen. Der wirksamste Ansatz verbindet Governance und Befähigung: Shadow AI zu reduzieren bedeutet auch, genehmigte und sichere Tools anzubieten, die jene Produktivitätsbedürfnisse erfüllen, die Mitarbeitende dazu bringen, nicht autorisierte Tools zu verwenden