Self-hosted

KI-Server mit Docker und Docker Compose: LLM, Vektordatenbank und Frontend in Containern — reproduzierbar, skalierbar und einfach zu warten.

RAG-Pipeline von PDF zur Wissensdatenbank: Dokumenten-Extraktion, Chunking, Embedding und Vektorsuche — komplette Implementierung.

Llama3.3 70B von Meta auf dem eigenen Server betreiben — Hardware, Kosten, Performance und Deployment-Guide für den deutschen Mittelstand.

Mistral Large 2 von der französischen Startup auf dem eigenen Server — europäische Alternative zu US-Modellen, DSGVO-konform und on-premise.

Ollama, vLLM und LM Studio im Vergleich: Welches LLM-Frontend passt für den deutschen Mittelstand? Performance, Features, Deployment und Kosten.