Published on29. Juli 2026Ollama-Cluster über mehrere Rechner: Shardingollamallama-cppself-hostedgpumittelstanddeutschlandEin LLM über zwei Rechner verteilen: Ollama kann es nicht, llama.cpp schon. Befehle, echte Benchmarks — und warum meist eine größere GPU gewinnt.
Published on29. Juli 2026Ollama Load-Balancer ohne Kubernetes einrichtenollamaself-hostedgpunginxmittelstanddeutschlandOllama serialisiert Anfragen pro Modell. Mehrere Instanzen hinter nginx mit least_conn: systemd-Units, Config und die Timeouts, die wirklich zählen.
Published on18. Juli 2026KI-Server-API-Design: OpenAI-kompatible APIs im Unternehmenapiopenai-compatibelvllmollamaki-serverOpenAI-kompatible APIs für den KI-Server: vLLM, Ollama und LiteLLM im Vergleich — API-Design, Authentifizierung und Enterprise-Integration.
Published on18. Juli 2026Ollama vs vLLM vs LM Studio: Welches LLM-Frontend für den Mittelstand?ollamavllmlm-studiollm-frontendsself-hostedOllama, vLLM und LM Studio im Vergleich: Welches LLM-Frontend passt für den deutschen Mittelstand? Performance, Features, Deployment und Kosten.
Published on2. Juli 2026Ollama auf Kubernetes: LLM-Cluster mit Autoscalingollamakubernetesgpuself-hostedinfrastrukturmittelstanddeutschlandOllama auf Kubernetes deployen: StatefulSet, NVIDIA GPU-Scheduling, Helm Chart und HPA-Autoscaling für einen produktiven LLM-Cluster.