Claude oder ein selbst betriebenes Modell?

TL;DR

Die Kostenrechnung fällt fast immer für Claude aus — ein selbst betriebenes Modell der 30B-Klasse verlangt 35.000 bis 40.000 Euro Investition plus Betriebspersonal. Trotzdem entscheiden sich Häuser regelmäßig dagegen, und zwar aus einem Grund, der in keiner Kostenrechnung steht.

Die Kostenrechnung, kurz

Claude über die API: rund 126 Euro je aktivem Nutzer und Monat bei intensiver Nutzung mit funktionierendem Caching. Bei 30 Nutzern also etwa 45.000 Euro im Jahr. Die vollständige Herleitung steht im Beitrag zu den Kosten je Entwickler.

Selbst betrieben, 30B-Klasse: Eine Karte der 96-GB-Klasse liegt bei rund 12.000 Euro netto, Server und Infrastruktur bei weiteren 8.000 bis 12.000. Über drei Jahre abgeschrieben rund 7.000 Euro im Jahr, plus Strom und anteiliger Betrieb — realistisch 12.000 bis 15.000 Euro jährlich.

Auf den ersten Blick gewinnt der Eigenbetrieb bei 30 Nutzern deutlich. Der Blick ist unvollständig.

Was fehlt: das Personal. Eine selbst betriebene Plattform braucht 0,5 bis 0,8 Vollzeitäquivalente für Betrieb und Pflege — Modell-Lebenszyklus, Aktualisierungen, Überwachung, Nutzeranfragen. Bei 90.000 Euro Vollkosten sind das 45.000 bis 72.000 Euro im Jahr. Damit dreht sich das Ergebnis.

Und die Qualität ist nicht gleich. Ein Modell der 30B-Klasse auf einer Karte liegt bei Alltagsaufgaben nah an einem Spitzenmodell und fällt bei langen, mehrstufigen Aufgaben spürbar ab. Wer beides gleichsetzt, vergleicht nicht dasselbe.

Die vollständige Systematik für die Eigenbetriebs-Seite steht in der Kostenrechnung für eine KI-Plattform.

Warum sich Häuser trotzdem dagegen entscheiden

Weil die Frage in der Regel gar keine Kostenfrage ist. Vier Gründe, die wir tatsächlich hören:

1. Der Quellcode oder die Daten dürfen das Haus nicht verlassen. Nicht aus Datenschutzgründen — die sind mit einem Auftragsverarbeitungsvertrag und EU-Verarbeitung lösbar —, sondern wegen Geheimhaltungsklauseln in Kundenverträgen oder weil das Verfahrenswissen das eigentliche Betriebsgeheimnis ist. Die Einordnung steht im Beitrag zu Geheimhaltungsklauseln.

2. Herkunftsanforderungen aus Verträgen. Verteidigungsnahe Fertigung, kritische Infrastruktur, öffentliche Auftraggeber. Das ist eine vertragliche Bindung, die unabhängig vom Verarbeitungsort greift.

3. Kein ausgehender Netzzugang. Produktionsnetze, KRITIS-Umgebungen. Ein Dienst, der eine Verbindung nach außen braucht, ist dort nicht einsetzbar — unabhängig davon, wie gut er ist.

4. Die Geschäftsführung will es nicht. Kommt vor, und es ist eine legitime Haltungsentscheidung. Man sollte sie als solche führen und nicht mit einer erfundenen technischen Begründung unterlegen.

Punkt 1 bis 3 sind harte Kriterien. In diesen Fällen ist der Eigenbetrieb nicht die günstigere, sondern die einzige Option — und die Frage ist nur noch, welches Modell.

Der Mittelweg, der oft übersehen wird

Zwischen "alles über Claude" und "alles selbst" liegt der Aufbau, den wir in den meisten Häusern tatsächlich umsetzen: beides, hinter einem Gateway.

model_list:
  - model_name: standard          # der Alltag
    litellm_params:
      model: anthropic/claude-sonnet-5

  - model_name: vertraulich       # bewusst ohne Ausweichroute nach außen
    litellm_params:
      model: openai/qwen3-30b-a3b
      api_base: http://vllm.intern:8000/v1

Die Anwendung spricht einen logischen Namen an und merkt den Unterschied nicht. Projekte mit Geheimhaltungsklausel laufen über vertraulich, alles andere über standard.

Ein sicherheitsrelevantes Detail dabei: Das vertrauliche Modell darf keine Ausweichroute nach außen haben. Sonst schickt Ihr System bei einem Ausfall des lokalen Servers genau die Daten in die Cloud, für die die lokale Verarbeitung eingerichtet wurde — lautlos, ohne Fehler. Ein Fehler ist in diesem Fall das gewünschte Verhalten.

Die Systematik steht im Beitrag zum Modellwechsel über das Gateway.

Der Zwischenweg für Agenten

Ein Fall, der eine eigene Antwort hat: Wenn Sie Agenten brauchen, die Dateien lesen und Befehle ausführen, aber die Dateiinhalte Ihre Umgebung nicht verlassen dürfen.

Dafür gibt es die selbst betriebene Sandbox: Die Agentenschleife läuft weiterhin bei Anthropic, die Werkzeugausführung — Dateizugriffe, Shell-Befehle, Code — läuft in Ihrer Infrastruktur. Die Verbindung ist ausgehend; Anthropic wählt sich nie in Ihr Netz ein.

Das löst den häufigsten Zielkonflikt: Sie bekommen die Modellqualität, ohne dass Dateiinhalte abfließen. Die Einrichtung steht im Beitrag zur selbst betriebenen Sandbox.

Was Sie messen sollten, bevor Sie entscheiden

Nicht Benchmarkwerte — die beantworten Ihre Frage nicht. Nehmen Sie zwanzig echte Aufgaben aus Ihrem Alltag, lassen Sie sie von beiden Seiten bearbeiten und legen Sie die Ergebnisse ohne Kennzeichnung jemandem aus der Fachabteilung vor.

Wenn die Zuordnung nicht besser als geraten gelingt, ist Ihre Modellfrage beantwortet — und die Entscheidung fällt allein über Datenlage und Kosten.

In den Vergleichen, die wir begleitet haben, war das Ergebnis bei Alltagsaufgaben regelmäßig ein Unentschieden und bei langen mehrstufigen Aufgaben ein klarer Vorsprung für das Spitzenmodell. Wie hoch der Anteil langer Aufgaben bei Ihnen ist, weiß nur Ihr Team.

Häufig gestellte Fragen

Ist ein selbst betriebenes Modell günstiger als Claude?

Bei den reinen Technikkosten meist ja, in der Vollkostenrechnung meist nicht. Eine Karte der 96-GB-Klasse samt Server kostet rund 12.000 bis 15.000 Euro im Jahr über drei Jahre gerechnet — dazu kommen aber 0,5 bis 0,8 Vollzeitäquivalente für Betrieb und Pflege, also 45.000 bis 72.000 Euro. Damit kippt der Vorteil bei üblichen Nutzerzahlen.

Wann ist der Eigenbetrieb alternativlos?

Wenn Kundenverträge die Weitergabe an Dritte untersagen, wenn Herkunftsanforderungen aus Verträgen greifen, oder wenn die Umgebung keinen ausgehenden Netzzugang hat — etwa in Produktionsnetzen oder bei kritischer Infrastruktur. In diesen Fällen ist der Eigenbetrieb nicht die günstigere, sondern die einzige Option.

Wie groß ist der Qualitätsunterschied?

Bei Alltagsaufgaben — Zusammenfassen, Formulieren, Fragen zu abgerufenen Dokumenten — klein bis nicht erkennbar. Bei langen, mehrstufigen Aufgaben, bei denen über viele Schritte ein Zusammenhang gehalten werden muss, deutlich zugunsten des Spitzenmodells. Messen Sie mit zwanzig eigenen Aufgaben statt mit Benchmarkwerten.

Kann ich beides parallel betreiben?

Ja, und das ist in den meisten Häusern die richtige Antwort. Ein Gateway mit logischen Modellnamen führt Cloud-Modell und lokales Modell zusammen; die Anwendung spricht eine Rolle an und merkt den Unterschied nicht. Wichtig ist, dass das vertrauliche Modell keine Ausweichroute nach außen hat — sonst wandern bei einem Ausfall genau die Daten in die Cloud, die dort nicht hinsollen.

Gibt es einen Weg für Agenten ohne Datenabfluss?

Ja, über eine selbst betriebene Sandbox: Die Agentenschleife bleibt bei Anthropic, die Werkzeugausführung mit Dateizugriffen und Shell-Befehlen läuft in Ihrer Infrastruktur. Die Verbindung ist ausgehend, Anthropic wählt sich nie in Ihr Netz ein. Damit bekommen Sie die Modellqualität, ohne dass Dateiinhalte Ihre Umgebung verlassen.

Der nächste Schritt

Klären Sie zuerst, ob es überhaupt eine Kostenfrage ist. Wenn Kundenverträge, Herkunftsanforderungen oder fehlender Netzzugang im Weg stehen, ist die Rechnung irrelevant — dann geht es nur noch darum, welches Modell Sie selbst betreiben. Wir sortieren das gern mit Ihnen.