Ollama Cloud 2026: Lokale GPU, Ollama Cloud oder GPU-Server mieten? Kosten, DSGVO & Entscheidungshilfe

Ollama Cloud: Große KI-Modelle ohne eigene GPU — aber zu welchem Preis und mit welchem Risiko?

Die Modelle werden immer größer, die eigene Hardware bleibt gleich: Wer heute ein Open-Weight-Modell wie gpt-oss:120b oder ein aktuelles DeepSeek-Flaggschiff sinnvoll nutzen will, braucht 64 GB VRAM und mehr — hardwareseitig ein fünfstelliges Investment. Genau hier setzt Ollama Cloud an: Die vertraute Ollama-CLI und -API bleiben erhalten, aber die Rechenlast wird in die Cloud von Ollama verlagert. Free-Tier, Pro für rund 20 USD im Monat, Team-Tarif mit Europa-Hosting.

Die eigentliche Frage für IT-Verantwortliche im Mittelstand ist aber nicht, ob das technisch funktioniert. Sondern: Lohnt sich Ollama Cloud gegenüber einer lokalen GPU oder einem gemieteten GPU-Server — und was sagt der Datenschutz? Dieser Beitrag vergleicht die vier realistischen Wege zu Ollama-Workloads mit konkreten Kosten in EUR, einer DSGVO-Bewertung und einer Entscheidungsmatrix am Ende.

Die 4 Wege: So betreiben Sie Ollama-Modelle 2026

Weg 1: Ollama Cloud (Free, Pro oder Team)

Seit Einführung der Cloud-Modelle können Sie Modelle mit dem Suffix -cloud direkt über Ollama ausführen, ohne dass eine GPU im eigenen Haus steht. Die Anfrage wird automatisch an die Ollama-Cloud weitergeleitet — gleiche CLI, gleiche API, gleicher Client.

• Free (0 USD): Cloud-Modelle mit leichter Nutzung, 1 paralleles Cloud-Modell. Gedacht für Chat, Evaluation und Assistenten mit kleineren Modellen.
• Pro (20 USD/Monat bzw. 200 USD/Jahr): Größere Cloud-Modelle, 3 parallele Cloud-Modelle, 50-faches Nutzungsvolumen gegenüber Free, private Modelle.
• Team (25 USD/Seat/Monat, minimum 5 Seats): Hosting in den USA und Europa, Zero Data Retention, keine Logs, gemeinsame Abrechnung.
• Max (100 USD/Monat): 10 parallele Modelle, 5-faches Pro-Volumen — Neuanmeldungen sind aktuell pausiert, da die Cloud-Kapazität hinter der Nachfrage zurückbleibt.

Wichtig zu verstehen: Die Nutzung ist nicht unbegrenzt, sondern wird über Session-Limits (Reset alle 5 Stunden) und Wochen-Limits gesteuert. Jedes Modell hat ein Usage-Level von 1 (klein, z. B. gpt-oss:20b) bis 4 (sehr groß, z. B. Flaggschiff-Modelle aktueller DeepSeek-Generationen) — schwere Modelle verbrauchen das Kontingent entsprechend schneller.

Weg 2: Ollama auf eigener Hardware (lokal)

Der Klassiker: Ollama läuft auf einem eigenen Rechner oder Server im Haus. Lokal ausgeführte Modelle sind bei Ollama immer unbegrenzt — keine Kontingente, keine Abhängigkeit von fremder Infrastruktur, volle Datenhoheit. Der Engpass ist der VRAM: Für Modelle ab 70B Parametern brauchen Sie 32 GB VRAM aufwärts. Was welche GPU leistet, zeigt unser GPU-Vergleich für LLM-Inferenz, die komplette Hardware-Dimensionierung der KI-Server-Hardware-Guide.

Weg 3: GPU-Server mieten und Ollama selbst betreiben

Ein dedizierter GPU-Server bei einem deutschen oder europäischen Hoster, auf dem Sie Ollama selbst installieren. Beispiel: Hetzner GEX44 mit NVIDIA RTX 4000 SFF Ada (20 GB VRAM) für rund 184 EUR/Monat, gehostet in Deutschland. Sie haben volle Kontrolle über Modell, Konfiguration und Daten, zahlen aber Miete statt einmaliger Anschaffung — und brauchen Linux-Know-how für Setup und Betrieb.

Weg 4: Managed Ollama (Drittanbieter)

Dienste wie Elestio deployen eine vollständige Ollama-Instanz verwaltet auf der Infrastruktur Ihrer Wahl (Hetzner, Scaleway, OVH, AWS, Azure u. a.). Das reduziert Betriebsaufwand, kostet aber einen Aufpreis auf die Infrastruktur und fügt eine weitere Vertragspartei in die Verarbeitungskette ein — für die DSGVO-Bewertung relevant.

Achtung Sackgassen: Was mit Ollama Cloud nicht funktioniert

Sackgasse 1 — Free-Tier in der Produktion. Der Free-Tier ist für Ausprobieren und leichte Nutzung dimensioniert: 1 paralleles Cloud-Modell, engste Kontingente, Reset-Zyklen von 5 Stunden. Wer darauf produktive Workloads aufbaut, wird mitten im Arbeitstag in Limits laufen.

Sackgasse 2 — Vertrauliche Daten in der US-Cloud ohne Prüfung. Ollama hostet Cloud-Modelle nach eigenen Angaben primär in den USA; für Kapazität kann zusätzlich nach Europa und Singapur geroutet werden. Damit ist bei Free/Pro/Max keine ausschließliche EU-Datenverarbeitung garantiert. Für personenbezogene Daten ist das ohne AVV und geeignete Garantien nach Art. 44 ff. DSGVO ein reales Compliance-Problem — für Kanzleien und Praxen unter §203 StGB faktisch eine Sackgasse (Details unten).

Sackgasse 3 — Cloud-only ohne Fallback. Ollama mustert Cloud-Modelle regelmäßig aus und ersetzt sie durch Nachfolger (zuletzt u. a. ältere DeepSeek-, Kimi- und Gemma-Varianten). Wer Produktivprozesse hart auf ein Cloud-Modell verdrahtet, muss mit Modellwechseln leben. Ein lokales Fallback-Modell oder ein Gateway mit Fallback-Routing gehört dazu.

Sackgasse 4 — Stundenweise GPU-Cloud für 24/7-Betrieb. AWS, Azure und GCP sind für Spitzenlasten gebaut. Eine GPU-Instanz rund um die Uhr durchlaufen zu lassen kostet ein Vielfaches eines dedizierten Servers — das rechnet sich nur für Training oder Burst, nicht für dauerhafte Inferenz.

Sackgasse 5 — Geteilte Accounts. Ollama erlaubt einen Account pro Person; Team-Nutzung läuft über den Team-Tarif. Gebastelte Account-Teilungen verstoßen gegen die Nutzungsbedingungen und brechen jede saubere Lizenz- und Compliance-Dokumentation.

Schritt für Schritt: In 6 Schritten zur richtigen Ollama-Architektur

Schritt 1: Anforderung klären (1 Stunde)

Drei Fragen entscheiden alles:

1. Welches Modell braucht der Use-Case wirklich? Für viele Fachanwendungen reicht ein 8B–32B-Modell, das lokal auf 16–24 GB VRAM läuft.
2. Wie viele Nutzer, wie viel Durchsatz? Einzelplatz oder Abteilung mit 20 gleichzeitigen Anfragen?
3. Welche Datenklassen sind im Spiel? Öffentlich, intern, vertraulich, besonders geschützt (Mandantendaten, Patientendaten, Geschäftsgeheimnisse)?

Schritt 2: Lokale Baseline aufsetzen (30 Minuten)

Ollama installieren und ein kleines Modell lokal starten — das ist Ihre Referenz für Latenz und Qualität:

ollama run gpt-oss:20b

Diese Baseline kostet nichts und bleibt Ihr Fallback für alle Szenarien.

Schritt 3: Ollama Cloud testen (15 Minuten)

Account anlegen, einloggen, Cloud-Modell ausführen:

ollama signin
ollama run gpt-oss:120b-cloud

Über die API lässt sich dasselbe Modell ohne lokale Ollama-Instanz ansprechen — praktisch für Server ohne GPU:

export OLLAMA_API_KEY=***
curl https://ollama.com/api/chat \
  -H "Authorization: Bearer $OLLAMA_API_KEY" \
  -d '{"model": "gpt-oss:120b", "messages": [{"role": "user", "content": "Testanfrage"}], "stream": false}'

Schritt 4: Nutzung 14 Tage messen (laufend)

Beobachten Sie im Dashboard unter ollama.com/settings, wo Ihr Verbrauch landet: Wie viele Anfragen, welche Usage-Level der Modelle, wie oft laufen Sie in Session- oder Wochen-Limits. Erst diese Zahlen machen den Kostenvergleich ehrlich.

Schritt 5: Break-even rechnen (2 Stunden)

Faustregel aus den aktuellen Preisen:

• Bis ca. 20 EUR/Monat Cloud-Bedarf: Ollama Pro ist die einfachste Lösung.
• Zwischen 20 und 200 EUR/Monat: Prüfen Sie, ob ein gemieteter GPU-Server (ab ca. 184 EUR/Monat bei Hetzner) nicht bereits mehr Leistung und EU-Datenhoheit fürs gleiche Geld liefert.
• Über 200 EUR/Monat oder vertrauliche Daten: Eigene Hardware oder dedizierter EU-Server. Die On-Premise-Entscheidung systematisch: KI on Premise — Leitfaden.

Schritt 6: Produktivbetrieb absichern (1–3 Tage)

• Hybrid konfigurieren: Standardmodell lokal, große Modelle via Cloud — oder umgekehrt.
• Für reine On-Premise-Umgebungen: Cloud-Funktionen in Ollama explizit deaktivieren (Local-only-Modus).
• Fallback definieren: Welches lokale Modell springt ein, wenn die Cloud unerreichbar ist oder ein Modell retired wird? Ein leichtgewichtiges Gateway mit Fallback-Routing löst das sauber.
• Monitoring aufsetzen, damit Limits und Ausfälle sichtbar werden.
• Dokumentation: AVV, TOMs und Datenfluss für die Datenschutz-Dokumentation festhalten.

Kosten-Vergleich: Was Ollama Cloud wirklich kostet (Stand August 2026)

Alle USD-Preise mit ca.-Angaben in EUR umgerechnet (Kurs ca. 0,85 EUR/USD, schwankt):

Zwei Rechenbeispiele zur Einordnung:

• 5 Nutzer mit moderater Nutzung: Ollama Team = 5 × ca. 21 EUR ≈ 107 EUR/Monat — dafür große Modelle ohne eigene Infrastruktur, aber US-Anbieter.
• Dauerbetrieb eines 20B-Modells für eine Abteilung: Eigener GEX44 = 184 EUR/Monat, dafür 24/7 ohne Kontingente und Daten in Deutschland. Nach 12 Monaten: 2.208 EUR — günstiger als viele Cloud-Szenarien bei hoher Auslastung, und die Kapazität gehört Ihnen.

DSGVO und Recht: Der entscheidende Unterschied für deutsche Unternehmen

Ollama selbst gibt an, Prompt- und Response-Daten weder zu loggen noch für Training zu verwenden; auch die Hosting-Partner (NVIDIA Cloud Provider) würden zu No-Logging, No-Training und Zero Data Retention verpflichtet. Das ist eine gute Ausgangslage — ersetzt aber keine eigene Prüfung.

Data Residency: Individuelle Tarife (Free/Pro/Max) laufen primär über US-Infrastruktur, mit möglichem Routing nach Europa und Singapur. Damit liegt eine Datenübermittlung in ein Drittland vor. Erforderlich sind mindestens:

• AVV (Art. 28 DSGVO) mit Ollama als Auftragsverarbeiter,
• geeignete Garantien für die Drittlandübermittlung (Art. 44 ff. DSGVO),
• Dokumentation im Verzeichnis von Verarbeitungstätigkeiten.

Der Team-Tarif ist hier deutlich besser aufgestellt: Hosting in den USA und Europa, Zero Data Retention, keine Logs. Für viele Mittelständler ist das der erste Tarif, der sich mit einer sauberen Datenschutz-Prüfung überhaupt vertreten lässt — die Restverantwortung (Transfer-Documentation, TOM-Bewertung) bleibt trotzdem bei Ihnen.

§203 StGB — Kanzleien, Praxen, Steuerberatung: Für Berufsgeheimnisträger gilt die strafbewehrte Verschwiegenheitspflicht. Mandats-, Patienten- oder Steuerdaten in einer US-Cloud ohne belastbare, nachprüfbare Garantien zu verarbeiten, ist mit §203 StGB in der Praxis nicht vereinbar. Für diese Branchen gilt: Local-only-Modus (Cloud-Funktionen in Ollama lassen sich vollständig deaktivieren) oder eigener Server in Deutschland. Mehr zur Einordnung: Managed-KI-Server im Mittelstand.

Praxistaugliche Datenklassen-Regel:

Use-Cases: Zwei Branchen, zwei unterschiedliche Antworten

Fertigung: Hybrid aus Cloud-Test und lokalem Produktivbetrieb

Ein mittelständischer Zulieferer will Wartungswissen aus Maschinenhandbüchern und Störungsprotokollen per KI abfragbar machen. Vorgehen: Die Evaluation verschiedener Modelle läuft über Ollama Cloud Pro (ca. 17 EUR/Monat) — so testet das Team 120B-Klasse-Modelle, ohne Hardware zu beschaffen. Als die Lösung produktiv geht, wandern die Daten — darunter interne Prozess- und Maschinendaten — auf einen eigenen GPU-Server im Haus. Ergebnis: Die Cloud hat die Entscheidungszeit um Wochen verkürzt, der Produktivbetrieb läuft datenschutzsauber on Premise. Wie so ein Stack konkret aussieht, zeigt der On-Premise-Leitfaden für eigene GPUs.

Großhandel und Kanzlei: Gleiche Technik, entgegengesetzte Architektur

Ein technischer Großhandel automatisiert Produktbeschreibungen und mehrsprachigen Support. Die Daten sind überwiegend unkritisch — hier rechnet sich Ollama Cloud Pro direkt, ohne eigene Infrastruktur. Eine Kanzlei dagegen wollte dieselbe Architektur für die Dokumentanalyse einführen. Nach der Datenschutzprüfung war klar: Mandatsdaten unter §203 StGB gehen nicht in eine US-Cloud. Die Lösung: identische Toolchain, aber Ollama im Local-only-Modus auf einem lokalen Server — die Cloud-Funktionen wurden bewusst deaktiviert. Beide Projekte nutzen dieselbe Software; die Datenklasse bestimmt die Architektur, nicht umgekehrt.

Entscheidungsmatrix: Welcher Weg passt zu Ihnen?

Kurzempfehlung:

• Erst testen, dann investieren: Mit Ollama Cloud Free/Pro evaluieren Sie große Modelle in Minuten — das ist der schnellste Weg zur Modellentscheidung.
• Dauerlast und interne Daten: gemieteter GPU-Server in Deutschland oder eigene Hardware.
• Vertrauliche Daten, §203 StGB: lokal, Cloud-Funktionen deaktiviert.

Fazit

Ollama Cloud ist 2026 die bequemste Art, große Open-Weight-Modelle ohne eigene GPU zu nutzen — und mit rund 17 EUR/Monat für Pro preislich attraktiv. Der Preis ist aber nicht in Euro der entscheidende, sondern in Datenhoheit: Free und Pro laufen primär über US-Infrastruktur, erst der Team-Tarif bietet Europa-Hosting und Zero Data Retention. Für den Mittelstand ergibt sich daraus eine klare Strategie: Cloud für Evaluation und unkritische Workloads, eigene oder gemietete GPUs für Dauerlast und sensible Daten. Wer die Datenklassen ehrlich sortiert, bekommt beides: moderne Modellqualität und eine Datenschutz-Position, die jede Prüfung besteht.

Sie sind unsicher, welcher Weg für Ihre Datenklassen und Ihr Budget der richtige ist? Sprechen Sie uns an — wir rechnen Ihr Szenario konkret durch.

FAQ

Was kostet Ollama Cloud?

Free ist dauerhaft kostenlos (leichtes Nutzungskontingent, 1 paralleles Cloud-Modell). Pro kostet 20 USD/Monat bzw. 200 USD/Jahr (ca. 17 EUR/Monat) mit 50-fachem Free-Volumen und 3 parallelen Modellen. Team kostet 25 USD pro Seat und Monat bei mindestens 5 Seats (ca. 107 EUR/Monat) und enthält Europa-Hosting sowie Zero Data Retention. Lokal ausgeführte Modelle sind in allen Tarifen unbegrenzt und kostenlos.

Ist Ollama Cloud DSGVO-konform?

Das hängt vom Tarif und der Datenklasse ab. Free/Pro/Max werden primär in den USA gehostet, zusätzliches Routing nach Europa und Singapur ist möglich — für personenbezogene Daten brauchen Sie dann einen AVV und Garantien für die Drittlandübermittlung (Art. 44 ff. DSGVO). Der Team-Tarif hostet in den USA und Europa ohne Logs und ohne Datenspeicherung und ist damit der am ehesten prüffähige Tarif. Für Daten unter §203 StGB (Kanzleien, Praxen) ist jede Cloud-Variante kritisch — hier ist der Local-only-Betrieb die saubere Lösung.

Kann ich Ollama Cloud komplett abschalten?

Ja. Ollama unterstützt einen Local-only-Modus, in dem die Cloud-Funktionen deaktiviert werden. Das ist der empfohlene Betrieb für Umgebungen mit streng vertraulichen Daten: gleiche CLI, gleiche Modelle, aber keine Kommunikation mit fremder Infrastruktur.

Was ist der Unterschied zwischen Ollama Cloud und einem gemieteten GPU-Server?

Ollama Cloud ist ein Managed-Service: keine Hardware, kein Setup, Abrechnung pro Tarif, aber begrenzte Kontingente und Hosting außerhalb Ihrer Kontrolle. Ein gemieteter GPU-Server (z. B. Hetzner GEX44 für ca. 184 EUR/Monat) gibt Ihnen volle Kontrolle, unbegrenzte Nutzung und ein deutsches Rechenzentrum — erfordert aber Linux-Know-how für Installation, Absicherung und Betrieb von Ollama.

Welche Modelle laufen in Ollama Cloud?

Ollama bietet eine wachsende Liste Cloud-fähiger Modelle, erkennbar am Suffix -cloud bzw. am Cloud-Filter in der Modellbibliothek — darunter große Open-Weight-Modelle, die lokal 64 GB VRAM und mehr benötigen würden. Die Nutzung wird pro Modell in Usage-Leveln von 1 (sparsam) bis 4 (sehr rechenintensiv) abgerechnet. Modelle werden regelmäßig durch stärkere Nachfolger ersetzt; Ausmusterungen werden vorab angekündigt.

Was passiert, wenn mein Cloud-Modell abgekündigt wird?

Ollama kündigt Abkündigungen vorab per E-Mail und auf der Website an und empfiehlt jeweils ein Nachfolgemodell. Für Produktivsysteme heißt das: Modellnamen nicht hart verdrahten, sondern konfigurierbar halten und einen lokalen Fallback definieren. Lokal laufende Modelle sind von Abkündigungen nicht betroffen.