- Published on
Schatten-KI stoppen: Zentrale KI-Plattform statt privater ChatGPT-Accounts
- Authors

- Name
- Phillip Pham
- @ddppham
Das Problem: Schatten-KI ist schon da
Die Zahlen sprechen für sich: In einem Unternehmen wurden 20 private ChatGPT-Accounts gezählt, 20 Copilot-Lizenzen und 15 bis 20 Midjourney-Subscriptions. Nicht alle bezahlt vom Unternehmen. Alle genutzt für Arbeit.
In einem anderen Betrieb mit etwa 1.000 Mitarbeitern notierte die IT: 18 erfasste Use-Case-Ideen plus mindestens ebenso viele nicht erfasste Schatten-Initiativen in den Fachbereichen.
Schatten-KI bezeichnet die unkontrollierte Nutzung von KI-Tools über private Accounts — ChatGPT, Copilot, Midjourney, Claude — ohne Freigabe der IT. Das Problem: sensible Firmendaten fliessen an externe Anbieter ab, niemand hat Überblick über Kosten, Nutzung oder Compliance.
Was auf dem Spiel steht
Sensible Daten verlassen das Unternehmen. Bei Werbeagenturen sind das Embargodaten und nicht veröffentlichte Kampagnen. Bei Automobilzulieferern sind es Produktbilder vor dem Launch. Bei Banken sind es regulierte Kundendaten. Jeder einzelne dieser Fälle ist dokumentiert.
Daneben: Kein Kostenüberblick, keine Nachvollziehbarkeit, kein Audit-Trail. Anbieter trainieren potenziell auf den Daten. Und Fachbereiche nutzen unterschiedlichste Tools — jeweils mit eigener Logik, eigener Qualität und eigener Datenschutzlage.
Die Lösung: eine zentrale, selbst kontrollierte KI-Plattform
Kein weiterer Chat-Wrapper. Sondern eine Governance-Architektur: Ein LLM-Gateway als einziger Modell-Egress, eine Chat-Oberfläche mit SSO, eine Vektordatenbank für die eigenen Dokumente, Cost-Tracking, Logging.
Das Prinzip: Leitplanken statt Wildwuchs. Fachbereiche dürfen verschiedene LLMs nutzen — aber alle Requests laufen durch ein zentrales Gateway. Keine Daten mehr im privaten Account.
SSO über Entra ID
Login ausschliesslich über die bestehende Entra ID, eingeschränkt auf definierte Nutzergruppen. Kein privater Account mehr nötig, keine Wildwuchs-Anmeldung.
Cost-Tracking pro Abteilung
Volle Kostentransparenz je Modell, Nutzergruppe und Use Case. Grundlage für interne Kostenverrechnung (Chargeback) und den Business-Case zwischen eigener Plattform und Pro-Kopf-Lizenzen. Kosten-Routing schickt einfache Anfragen an günstige Modelle, Premium-Modelle nur gezielt für Ausnahmefälle.
Audit-Trail und Logging
Jeder KI-Call wird protokolliert: Nutzer, Zeitstempel, Modell, Tokens, Kosten, Quelle. Administrationsänderungen (Modelle, Limits, Zugriffsrechte) werden separat geloggt. Der KI-Agent erhält nie mehr Rechte als der anfragende Nutzer.
DSGVO und EU-Hosting
Nicht verhandelbar: EU-Hosting, DSGVO-Konformität, keine Nutzung eigener Daten zu Trainingszwecken durch den Anbieter. PII-Redaction auf Gateway-Ebene, automatische Löschung von Chatverläufen (Standard 30 Tage), dokumentierter Freigabeprozess mit dem Datenschutzbeauftragten.
On-Premise oder Azure — beides möglich
Ein Betrieb startet komplett On-Premise auf vorhandener Server-Hardware, ohne zusätzliche Infrastrukturkosten. Ein anderer nutzt die bestehende Azure-Landingzone. Die Architektur ist containerisiert und modular. Eine spätere Azure-Migration ist ohne Neuaufbau möglich. Für hochsensible Fälle ist On-Prem-Betrieb lokaler Modelle auf GPU-Hardware möglich.
Sonderfall: Regulierung (Banking, Versicherung, KRITIS)
Schatten-KI stoppen ist im Bankenumfeld keine Option, sondern Pflicht. DORA, EU AI Act, DSGVO, Auslagerungs- und Drittparteienanforderungen — das sind keine Vorschläge, das sind gesetzliche Pflichten. EineKI-Plattform, die regulatorisch tragfähig ist, muss mehr als nur ein Chat-Interface liefern: Audit-Trails, DLP, PII-Redaction, Auslagerungs-Design nach DORA, Einbindung spezialisierter Legal- und Regulatorik-Partner.
FAQ: Schatten-KI stoppen
Was ist Schatten-KI und warum ist sie ein Problem?
Schatten-KI bezeichnet die unkontrollierte Nutzung von KI-Tools über private Accounts wie ChatGPT, Copilot oder Midjourney, ohne Freigabe der IT. Das Problem: sensible Firmendaten fliessen an externe Anbieter ab, niemand hat Überblick über Kosten, Nutzung oder Compliance. In der Praxis nutzen oft 20 bis 30 Mitarbeiter parallel private oder selbst gekaufte Accounts.
Wie ersetzen wir private Accounts, ohne die Mitarbeiter auszubremsen?
Indem die zentrale Plattform mindestens so gut ist wie das private Tool. Login läuft über das bestehende SSO (Entra ID), die Chat-Oberfläche (Open WebUI) ist vertraut, im Hintergrund routet ein LLM-Gateway auf mehrere Modelle. Der Mitarbeiter merkt kaum einen Unterschied, die IT gewinnt volle Kontrolle zurück.
Ist die Plattform DSGVO-konform und wo liegen die Daten?
Ja. Nicht verhandelbar sind EU-Hosting, DSGVO-Konformität und keine Nutzung der Daten zu Trainingszwecken durch den Anbieter. Dazu kommen PII-Redaction auf Gateway-Ebene, automatische Löschung von Chatverläufen nach 30 Tagen und ein dokumentierter Freigabeprozess mit dem Datenschutz.
Reicht die Plattform auch für regulierte Branchen?
Ja, mit erweitertem Governance-Rahmen. Für Banken adressieren wir DORA, EU AI Act, DSGVO sowie Auslagerungs- und Drittparteienanforderungen. Das Ergebnis ist eine regulatorisch tragfähige Zielarchitektur mit Governance- und Betriebsmodell.
Was kostet der Einstieg?
Der Einstieg läuft als Fixpreis-Startprojekt. Ein schlanker Plattform-Rollout inkl. Schulung ist in rund drei Wochen ab 13.000 EUR möglich. Ein grösseres, gestaffeltes Programm mit erstem Use-Case liegt bei 50.000 bis 70.000 EUR. Danach baut man modular aus.
On-Premise oder Cloud?
Beides. On-Premise auf vorhandener Hardware ohne zusätzliche Infrastrukturkosten oder Cloud über Azure. Die Architektur ist containerisiert und modular, für hochsensible Fälle ist On-Prem-Betrieb lokaler Modelle auf GPU-Hardware möglich.
Fazit: Schatten-KI stoppen ist kein Tech-Projekt, es ist Governance
Die Lösung heisst nicht „ChatGPT verbieten". Sie heisst „eine bessere Alternative bauen". Eine zentrale Plattform, die mindestens so gut ist wie das private Tool, aber mit Governance, Kostenkontrolle und DSGVO von Beginn an. In Wochen produktiv, nicht in Monaten.
📖 Verwandte Artikel
Weitere interessante Beiträge zu ähnlichen Themen
LLM-Router: Modelle austauschen ohne Vendor-Lock-in
LLM-Router: Modelle austauschen ohne Vendor-Lock-in. LiteLLM Gateway als zentraler Kontrollpunkt. Modell-Switch in Minuten statt Migrationsprojekt. EU-Betrieb, Kostenkontrolle, Governance.
KI-Plattform für den Mittelstand: Der offene Standard (LiteLLM, vLLM, eigene GPUs)
Der offene KI-Standard für den deutschen Mittelstand: LiteLLM Gateway, eigene GPUs, Wissensbasis, Governance. 3 Optionen — Copilot (Sitzpreis), KI-Tools von der Stange, offener Standard. TCO ab 124.600 EUR (3 Jahre) statt 469.600 EUR Copilot.
Copilot vs. eigene KI-Plattform: Wann Microsoft Copilot nicht mehr reicht
Copilot vs. eigene KI-Plattform: Wann Microsoft Copilot reicht und wann nicht. Ehrlicher Vergleich: Copilot, Copilot Studio, ChatGPT Enterprise gegen Azure-RAG-Plattform.
Bereit für KI im Mittelstand?
Nutzen Sie unsere 10 kostenlosen KI-Tools und Praxis-Guides – oder sprechen Sie direkt mit unseren Experten.
Pexon Consulting – KI-Beratung für den Mittelstand | Scaly Academy – Geförderte KI-Weiterbildung (KI-Spezialist, KI-Experte, Workflow-Automatisierung)