Self-hosted

RAG, Chat, OCR, Code oder Sichtprüfung — jede Anwendung braucht anderes Sizing. Fünf Faustformeln plus die KV-Cache-Rechnung, die 70B-Pläne killt.

KI-Server erklärt: Was ihn von einem normalen Server unterscheidet, welche drei Bauformen es gibt und wann die Cloud die bessere Wahl bleibt.

DeepSeek-v3 auf eigenem Server betreiben: Chinas Open-Source-LLM mit 671B Parametern — für deutsche Unternehmen mit Datenschutz-Bedenken.

Gemma 2 27B von Google auf dem eigenen Server: Open-Weight-Modell mit hervorragender Sprachqualität. Hardware, Performance und Deployment-Guide.

GLM-4 von ZhipuAI auf eigenem Server betreiben: Das Open-Source-LLM der Tsinghua-Universität mit 128K-Kontext für deutsche Unternehmen — on-premise und DSGVO-konform.