Was ein Betriebsvertrag für eine KI-Plattform abdecken muss

TL;DR

Ein KI-Betriebsvertrag, der aussieht wie ein Serververtrag, deckt das Wesentliche nicht ab. Verfügbarkeit und Patches sind der einfache Teil. Der schwierige besteht aus Modell-Lebenszyklus, Index-Pflege und Qualitätsüberwachung — drei Leistungen, die in Standardangeboten regelmäßig fehlen.

Warum der Standardvertrag nicht passt

Ein klassischer Betriebsvertrag regelt Verfügbarkeit, Reaktionszeiten, Sicherung und Aktualisierung. Für eine Datenbank oder einen Anwendungsserver ist das vollständig — solche Systeme verhalten sich morgen so wie gestern.

Eine KI-Plattform tut das nicht. Sie verschlechtert sich im laufenden Betrieb, ohne dass irgendetwas ausfällt:

Der Dokumentenbestand wächst, aber die Abschnittsbildung wurde für die alte Struktur ausgelegt. Neue Dokumenttypen kommen dazu, deren Parser nicht funktioniert. Ein Modellanbieter stellt eine Version ab. Nutzer stellen andere Fragen als bei der Einführung. Die Trefferquote sinkt über Monate von 0,88 auf 0,71, und die Überwachung meldet nichts, weil alles läuft.

Das ist der Unterschied. Ein Vertrag, der nur Verfügbarkeit zusichert, garantiert Ihnen ein erreichbares System, das schlechte Antworten gibt.

Die sieben Leistungen

1. Verfügbarkeit und Störungsbehebung. Der Standardteil. Achten Sie darauf, dass die Zusage sich auf die Antwortfähigkeit der Plattform bezieht und nicht nur auf die Erreichbarkeit der Container — ein vLLM-Prozess, der läuft, aber kein Modell geladen hat, ist formal verfügbar und praktisch tot.

2. Aktualisierung der Komponenten. Gateway, Oberfläche, Vektordatenbank, Inferenzserver. Hier ist die Frequenz das Thema: Diese Projekte veröffentlichen wöchentlich. Ein Vertrag, der "regelmäßige Aktualisierung" zusagt, ist wertlos; einer, der monatliche Aktualisierung auf getestete Stände zusagt, ist brauchbar.

3. Modell-Lebenszyklus. Der Punkt, der am häufigsten fehlt. Wer entscheidet, wann ein neues Modell eingesetzt wird? Wer prüft, ob es besser ist? Wer trägt das Risiko, wenn es schlechter ist?

Vertraglich sollte drinstehen: eine regelmäßige Bewertung neuer Modelle gegen Ihren Testsatz, ein Vorschlag mit Begründung, und die Entscheidung bei Ihnen. Ohne das haben Sie in zwei Jahren ein veraltetes Modell oder eines, das jemand ohne Prüfung gewechselt hat.

4. Index- und Pipeline-Pflege. Läuft die Ingestion? Wie viele Dokumente sind seit dem letzten Lauf fehlgeschlagen und warum? Sind gelöschte Dokumente aus dem Index entfernt worden? Das ist laufende Arbeit, nicht Störungsbehebung. Was dabei zu überwachen ist, steht im Beitrag zur Ingestion-Pipeline.

5. Qualitätsüberwachung. Eine monatliche Messung gegen den Testsatz mit Bericht. Ohne diese Leistung merkt niemand, dass die Antwortqualität sinkt. Die Verfahren dafür stehen im Beitrag zur Messung der RAG-Qualität.

Achtung bei der Vertragsgestaltung: Der Testsatz gehört Ihnen und muss von Ihrer Fachabteilung gepflegt werden. Ein Dienstleister, der seinen eigenen Testsatz mitbringt und daran misst, misst sich selbst.

6. Kosten- und Verbrauchsbericht. Monatlich, aufgeschlüsselt nach Abteilung oder Anwendungsfall. Das ist keine Zusatzleistung, sondern Voraussetzung dafür, dass Sie den Vertrag intern rechtfertigen können. Die Systematik steht im Beitrag zur Kostenverrechnung im Gateway.

7. Sicherheit und Berechtigungen. Abgleich der Zugriffsrechte mit dem Verzeichnis, Prüfung der Aufrufprotokolle auf Auffälligkeiten, Aktualisierung der Guardrail-Regeln. Auch das ist laufende Arbeit.

Die drei Klauseln, die teuer werden

Verbrauchskosten außerhalb des Vertrags. Üblich und in Ordnung: Der Dienstleister betreibt, die Modellkosten zahlen Sie direkt. Problematisch wird es, wenn niemand vertraglich verpflichtet ist, auf Kostenausreißer hinzuweisen. Nehmen Sie eine Meldepflicht bei Abweichungen über einem definierten Prozentsatz auf.

Bindung an einen Anbieter. Wenn der Dienstleister die Plattform in seiner eigenen Cloud betreibt, mit seiner eigenen Konfiguration und ohne dass Sie Zugriff auf die Infrastructure-as-Code-Definitionen haben, ist ein Wechsel faktisch ein Neuprojekt. Fordern Sie die vollständigen Definitionen in einem Repository, auf das Sie Zugriff haben. Das ist keine Misstrauensfrage, sondern eine Frage der Betriebsfähigkeit.

Unklare Verantwortung bei falschen Antworten. Der Dienstleister kann nicht für die Richtigkeit von Antworten haften — das wäre unseriös zuzusagen und unbezahlbar. Was er zusagen kann, sind Kennzahlen: Trefferquote über einem Schwellenwert, Treue über einem Schwellenwert, gemessen an Ihrem Testsatz. Formulieren Sie es so, und Sie bekommen einen belastbaren Vertrag statt eines Haftungsstreits.

Was es kosten sollte

Für eine Plattform in der Größenordnung von 300 bis 800 Nutzern mit zwei bis vier Anwendungsfällen: 2.500 bis 5.000 Euro im Monat für den Betrieb, ohne Modell- und Infrastrukturkosten.

Die Einordnung dazu: Das entspricht etwa 0,4 bis 0,7 Vollzeitäquivalenten. Wenn ein Angebot deutlich darunter liegt, ist die Frage berechtigt, welche der sieben Leistungen darin nicht enthalten sind — in der Regel sind es 3, 5 und 7, also genau die, die den Unterschied zwischen einer laufenden und einer guten Plattform ausmachen.

Der Vergleich zum Eigenbetrieb steht in der Kostenrechnung für eine KI-Plattform. Kurz: Der Preisunterschied ist gering. Ausgelagert wird nicht Geld gespart, sondern eine Stelle, die Sie sonst besetzen und halten müssten — und das ist bei Plattform-Kompetenz derzeit das knappere Gut.

Häufig gestellte Fragen

Was kostet der Betrieb einer KI-Plattform als Managed Service?

Für 300 bis 800 Nutzer mit mehreren Anwendungsfällen liegen marktübliche Angebote bei 2.500 bis 5.000 Euro monatlich, ohne Modell- und Infrastrukturkosten. Das entspricht etwa einer halben Personalstelle. Deutlich günstigere Angebote decken meist Modell-Lebenszyklus, Qualitätsüberwachung und Berechtigungspflege nicht ab.

Kann ein Dienstleister die Richtigkeit der KI-Antworten zusichern?

Nein, und ein Angebot, das es tut, sollte misstrauisch machen. Zusicherbar sind messbare Kennzahlen gegen einen definierten Testsatz — etwa eine Wiederfindungsrate und eine Treuequote über festgelegten Schwellenwerten. Der Testsatz muss dabei von Ihrer Fachabteilung stammen und gepflegt werden, sonst misst sich der Dienstleister an seinen eigenen Vorgaben.

Was passiert, wenn wir den Dienstleister wechseln wollen?

Das hängt davon ab, ob Sie die Infrastrukturdefinitionen besitzen. Verlangen Sie vertraglich, dass alle Konfigurationen als Code in einem Repository liegen, auf das Sie Zugriff haben — inklusive Gateway-Konfiguration, Ingestion-Pipeline und Bereitstellungsdefinitionen. Ohne diese Grundlage ist ein Wechsel praktisch ein Neuaufbau.

Wie oft sollte ein Modellwechsel geprüft werden?

Quartalsweise ist ein praktikabler Rhythmus. Der Ablauf sollte vertraglich festgelegt sein: Der Dienstleister bewertet neue Modelle gegen Ihren Testsatz, legt Ergebnis und Empfehlung vor, die Entscheidung treffen Sie. Ein automatischer Wechsel ohne Prüfung ist riskant, weil ein neueres Modell in Ihrem konkreten Anwendungsfall schlechter sein kann.

Gehört die Überwachung der Antwortqualität in den Betriebsvertrag?

Unbedingt, und sie ist die Leistung, die in Standardangeboten am häufigsten fehlt. Eine KI-Plattform verschlechtert sich schleichend, ohne auszufallen — wachsender Dokumentenbestand, veränderte Fragen, neue Dateiformate. Eine monatliche Messung gegen den Testsatz mit Bericht ist der einzige Weg, das zu bemerken, bevor die Fachabteilung sich beschwert.

Der nächste Schritt

Nehmen Sie ein vorliegendes Angebot und prüfen Sie es gegen die sieben Punkte. Wenn Modell-Lebenszyklus, Qualitätsüberwachung und Berechtigungspflege nicht ausdrücklich drinstehen, fehlt der Teil, der über den Wert der Plattform in zwei Jahren entscheidet. Bei der Prüfung schauen wir gern mit.