- Published on
GPU-Server mieten für KI: Anbieter, Preise und Praxis 2026
- Authors

- Name
- Phillip Pham
- @ddppham
Kurzantwort: GPU-Server mieten für KI 2026
GPU-Server mieten ist für den Mittelstand 2026 der schnellste Weg zu KI-Infrastruktur: keine Anschaffung, keine Wartung, keine Abschreibung. Die Kosten liegen bei 0,50 bis 3 Euro pro GPU-Stunde — ein Testmonat mit 20 Stunden kostet also 10 bis 60 Euro. Deutsche und EU-Anbieter wie Hetzner, StackIT und STACIT hosten in deutschen Rechenzentren, was die DSGVO-Diskussion deutlich vereinfacht. Mieten lohnt sich für Testphasen, unregelmäßige Nutzung und skalierende Workloads; ab etwa 8-12 Stunden GPU-Last pro Tag über mehrere Jahre wird ein eigener Server wirtschaftlicher.
Dieser Beitrag vergleicht die Anbieter mit realen Preisen, zeigt die Kostenlogik und erklärt den Einstieg Schritt für Schritt — ohne Vorwissen vorauszusetzen.
Warum GPU-Server mieten?
Die Vorteile liegen auf der Hand, aber es gibt auch Schattenseiten. Die ehrliche Einordnung:
Vorteile:
- Keine Investition: 0 Euro Anschaffung, monatliche Abrechnung nach Nutzung
- Sofort verfügbar: Server in Minuten statt in Wochen
- Skalierung: Von 1 GPU für Tests zu 8 GPUs für Training, ohne Hardware-Kauf
- Keine Wartung: Updates, Hardware-Ausfälle, Ersatzteile übernimmt der Anbieter
- EU-Hosting: Deutsche Anbieter mit Rechenzentren in Frankfurt oder Umgebung
Nachteile:
- Laufende Kosten statt Einmal-Investition: Bei Dauerlast wird Mieten teurer als Kaufen
- Datenverarbeitung beim Anbieter: Für höchste Sicherheitsanforderungen (KRITIS) oft nicht akzeptabel
- Abhängigkeit: Bei Anbieter-Problemen steht die KI-Nutzung
- Kein Vermögensaufbau: Gemietete Hardware ist keine Bilanzposition
Die Grundsatzfrage Mieten vs. Kaufen behandelt der KI-Server-Kauf-Leitfaden 2026 mit Vollkostenrechnung.
Anbieter im Vergleich: GPU-Server mieten in der EU
Die wichtigsten Anbieter für deutsche Mittelständler mit EU-Hosting:
| Anbieter | GPU-Typen | Preis (Richtwert) | Hosting | Besonderheit |
|---|---|---|---|---|
| Hetzner | RTX 4000 Ada, RTX 6000 Ada | ab ca. 0,60-1,20 EUR/h | Falkenstein, Helsinki | Günstigster Einstieg, gut für Tests |
| StackIT (Schwarz) | A100, H100, L40S | auf Anfrage | Deutschland | KRITIS-tauglich, öffentliche Verwaltung |
| STACIT (TH Köln/FZI) | A100, H100, RTX | auf Anfrage | Deutschland | Forschungsnah, akademische Kooperationen |
| Scaleway (Frankreich) | H100, L40S, RTX 4090 | ab ca. 0,50-1,50 EUR/h | Frankreich, Niederlande | EU-weit, guter Mittelweg |
| Azure (Frankfurt) | A100, H100, A6000 | ab ca. 1,50-5 EUR/h | Frankfurt | Enterprise-Integration, M365-Umfeld |
| AWS (Frankfurt) | A100, H100, L4, T4 | ab ca. 0,40-4 EUR/h | Frankfurt | Größtes Ökosystem, Bedrock-Integration |
Die Praxis-Berichte zu den deutschen Anbietern: Hetzner GPU-Server für KI-Workloads, StackIT GPU-Server: Ionos KI-Cloud und STACIT GPU-Cloud.
Preise verstehen: Was kostet eine GPU-Stunde wirklich?
Die Stundenpreise sind nur die halbe Wahrheit. Die echten Kosten setzen sich zusammen aus:
- GPU-Stundenpreis: 0,50 bis 5 EUR/h je nach GPU-Typ
- Speicher: 5 bis 20 Cent pro GB/Monat für Modell-Dateien (70B-Modelle: 40-150 GB)
- Datenverkehr (Egress): 0,05 bis 0,12 EUR/GB — bei RAG-Workloads schnell übersehen
- Uptime-Kosten: Viele Anbieter rechnen ab, solange die Instanz läuft — auch im Leerlauf
Praxisbeispiel Dokumentenanalyse: 40 Stunden/Monat auf einer RTX 4090-Instanz à 1 EUR/h = 40 EUR/Monat, plus 50 GB Speicher (5 EUR) plus Egress (10 EUR) = ca. 55 EUR/Monat. Das ist günstiger als jeder eigene Server — solange die Nutzung nicht täglich zur Dauerlast wird.
Praxisbeispiel LLM-Training: Ein LoRA-Feintuning über 72 Stunden auf einer H100 à 4 EUR/h = 288 EUR pro Training. Mehrere Trainings pro Monat machen einen eigenen High-End-Server (60.000+ EUR) interessant.
Die vollständige Kostenrechnung für eigene Server liefert KI-Server Kosten: Die laufende Rechnung und für den Kauf KI-Server kaufen: ROI-Rechner 2026.
Wann Mieten günstiger ist als Kaufen
Die Amortisationsrechnung ist einfach: Ein eigener KI-Server mit 2x RTX 4090 kostet etwa 10.000 bis 15.000 Euro Anschaffung plus 2.000 bis 4.000 Euro/Jahr Betrieb. Bei 1 EUR/h Mietpreis entspricht das etwa 10.000 bis 15.000 GPU-Stunden — also 27 bis 41 Stunden pro Tag über ein Jahr. Die Faustregel:
- Unter 4 Stunden GPU-Last/Tag: Mieten ist deutlich günstiger
- 4-12 Stunden GPU-Last/Tag: Mieten und Kaufen liegen nah beieinander, Mieten flexibler
- Über 12 Stunden GPU-Last/Tag: Kaufen wird wirtschaftlicher
Wichtig: Diese Rechnung ignoriert den DSGVO- und Sicherheitsfaktor. Wer personenbezogene Daten nicht in die Cloud geben darf, kauft oder nutzt eine private Cloud-Instanz mit Vertrag. Der Vergleich Self-Hosted vs. Cloud-KI vertieft diese Abwägung.
Der Einstieg in 30 Minuten: GPU-Server mieten und Ollama starten
Der schnellste Weg zu einer laufenden KI-Instanz:
- Anbieter wählen: Für den ersten Test Hetzner (günstig, deutschsprachig, EU). Account anlegen, Projekt erstellen.
- Instanz starten: GPU-Server-Typ wählen (z. B. RTX 4000 Ada), Linux-Image (Ubuntu 24.04), SSH-Key hinterlegen. Die Instanz ist in 2-5 Minuten bereit.
- Ollama installieren:
curl -fsSL https://ollama.com/install.sh | sh— dann ein Modell laden:ollama pull llama3.1:8b. - Testen:
ollama run llama3.1:8b— erste Anfrage stellen. - Produktiv schalten: Für mehrere Nutzer vLLM statt Ollama verwenden. Die Anleitung: vLLM-Server für den Mittelstand.
Die lokale Alternative auf dem eigenen Rechner erklärt Ollama unter Ubuntu installieren.
Typische Fehler beim GPU-Server-Mieten
Aus Projekten lassen sich vier wiederkehrende Fehler benennen:
- Instanz läuft im Leerlauf: Wer die Instanz nicht stoppt, zahlt 24/7. Automatisches Stoppen nach Feierabend spart 60-70 Prozent der Kosten.
- Falsche GPU-Wahl: Für Chat-Assistenten reicht eine RTX 4090-Instanz. Eine H100 für Tests zu mieten, ist wie ein Formel-1-Wagen für den Supermarkt-Einkauf.
- Egress unterschätzt: Bei RAG-Workloads mit vielen Dokumenten explodieren die Transferkosten. Vorher das Preisblatt der Egress-Gebühren prüfen.
- Kein Monitoring: Wer GPU-Auslastung nicht misst, weiß nicht, ob die Instanz arbeitet oder Geld verbrennt. Prometheus + Grafana + DCGM liefert die Metriken.
Mieten, Kaufen oder Managed: Die Entscheidungsmatrix
| Situation | Empfehlung |
|---|---|
| Erste KI-Tests, Proof of Concept | GPU-Cloud mieten (Hetzner, Scaleway) |
| Regelmäßige Nutzung, DSGVO-normal | Eigener KI-Server kaufen oder private Cloud |
| Skalierende Workloads, wechselnde Last | GPU-Cloud mit Autoscaling |
| Kein eigenes IT-Team | Managed KI-Server oder Cloud mit Support |
| KRITIS, Behörden, strengste Vorgaben | StackIT oder eigene Hardware |
Die Kauf-Option mit allen Details: KI-Server kaufen: Der Leitfaden 2026. Die Selbstbau-Variante: KI-Server selbst bauen.
FAQ
Was kostet es, einen GPU-Server zu mieten?
GPU-Server mieten kostet 0,50 bis 5 Euro pro GPU-Stunde, je nach GPU-Typ. Eine RTX-4090-Instanz liegt bei etwa 1 EUR/h, eine H100 bei 3-5 EUR/h. Dazu kommen Speicher (5-20 Cent/GB/Monat) und Datenverkehr (5-12 Cent/GB).
Kann ich GPU-Server stundenweise mieten?
Ja. Die meisten Cloud-Anbieter rechnen GPU-Server nach Stunden oder sogar Minuten ab. Die Instanz kann jederzeit gestoppt und gelöscht werden — abgerechnet wird nur die tatsächliche Laufzeit.
Welcher Anbieter für GPU-Server in Deutschland?
Hetzner (günstig, Frankfurt/Falkenstein), StackIT von der Schwarz-Gruppe (KRITIS-tauglich, Deutschland) und STACIT von TH Köln/FZI (forschungsnah) sind die bekanntesten deutschen Anbieter. Azure und AWS bieten GPU-Instanzen ebenfalls in Frankfurt an.
Wann lohnt sich Mieten statt Kaufen?
Mieten lohnt sich bei weniger als 4 Stunden GPU-Last pro Tag, bei Testphasen und bei skalierenden Workloads. Ab etwa 12 Stunden Dauerlast pro Tag über mehrere Jahre ist ein eigener Server meist wirtschaftlicher.
Ist gemietete GPU-Hardware DSGVO-konform?
Ja, wenn der Anbieter in der EU hostet und einen Auftragsverarbeitungsvertrag (AVV) anbietet. Deutsche Anbieter wie Hetzner, StackIT und STACIT hosten in deutschen Rechenzentren. Für personenbezogene Daten sollte die Datenverarbeitung und der AVV vor Vertragsschluss geprüft werden.
Kann ich auf einem gemieteten GPU-Server Ollama nutzen?
Ja. Ollama lässt sich auf jeder GPU-Instanz mit Linux in wenigen Minuten installieren (curl -fsSL https://ollama.com/install.sh | sh). Für mehrere Nutzer empfiehlt sich vLLM als Server-Engine.
📖 Verwandte Artikel
Weitere interessante Beiträge zu ähnlichen Themen
KI-Hosting Deutschland: Anbieter, Optionen und Kosten 2026
KI-Hosting in Deutschland 2026: eigene Server, EU-Cloud oder managed Hosting? Anbieter im Vergleich, DSGVO-Einordnung und Kostenrechnung für den Mittelstand.
Hetzner GPU-Cloud: KI-Server mieten statt kaufen
Hetzner GPU-Cloud: KI-Workloads auf Dedicated-Server-Rental. RTX 4090, A100 und H100-Instanzen — wann sich Cloud-Lösung für deutsche Unternehmen lohnt.
Hetzner GPU-Server: KI-Workloads mit der Cloud
Hetzner GPU-Server für KI-Workloads: RTX 4090, A4000 und H100-Instanzen gemietet statt gekauft. Wann sich Cloud lohnt, wann der On-Premise-Server günstiger ist.
Bereit für KI im Mittelstand?
Nutzen Sie unsere 10 kostenlosen KI-Tools und Praxis-Guides – oder sprechen Sie direkt mit unseren Experten.
Pexon Consulting – KI-Beratung für den Mittelstand | Scaly Academy – Geförderte KI-Weiterbildung (KI-Spezialist, KI-Experte, Workflow-Automatisierung)