Llm

Modell allein reicht nicht. Fünf Schichten — Infrastruktur, Modell, Daten/RAG, Orchestrierung, Application — entscheiden über Qualität, Tempo, Kosten und Sicherheit.

llama.cpp vs. Ollama 2026: GGUF, API, GPU-Offload und wann welche Runtime auf dem KI-Server die bessere Wahl ist.

VRAM-Rechner für LLMs: Wie viel GPU-Speicher brauchen Llama, DeepSeek, Qwen & Co.? Formel, Tabellen für 7B bis 284B und die richtige GPU-Wahl 2026.

Sieben der zehn meistgenutzten Modelle kommen aus China, mit offenen Gewichten. Was das für deutsche Unternehmen heißt — Lizenz- und VRAM-Tabelle.

Ein 30B-MoE belegt die vollen 19 GB VRAM — sparsam ist nur die Rechenlast pro Token. Die Speicherrechnung Posten für Posten, mit Modelltabelle.