https://www.ki-mittelstand.eu/blog Faktenbasierte News, Technologien und Praxislösungen zu Künstlicher Intelligenz für mittelständische Unternehmen. Ohne Hype, mit klaren Quellen. de-de phillip.pham@pexon-consulting.de (KI Mittelstand Team) phillip.pham@pexon-consulting.de (KI Mittelstand Team) Tue, 04 Aug 2026 00:00:00 GMT https://www.ki-mittelstand.eu/blog/deepseek-v4-flash-eigene-hardware https://www.ki-mittelstand.eu/blog/deepseek-v4-flash-eigene-hardware 284 Milliarden Parameter unter MIT-Lizenz. Was der Betrieb im eigenen Rechenzentrum wirklich kostet — Speicherrechnung, Konfiguration, Grenzen. Tue, 04 Aug 2026 00:00:00 GMT phillip.pham@pexon-consulting.de (KI Mittelstand Team) deepseekopen-weightsvllmgpuon-premisemittelstanddeutschland https://www.ki-mittelstand.eu/blog/ki-server-api-design-openai-kompatibel https://www.ki-mittelstand.eu/blog/ki-server-api-design-openai-kompatibel OpenAI-kompatible APIs für den KI-Server: vLLM, Ollama und LiteLLM im Vergleich — API-Design, Authentifizierung und Enterprise-Integration. Sat, 18 Jul 2026 00:00:00 GMT phillip.pham@pexon-consulting.de (KI Mittelstand Team) apiopenai-compatibelvllmollamaki-server https://www.ki-mittelstand.eu/blog/ollama-vs-vllm-vs-lm-studio-llm-frontendvergleich https://www.ki-mittelstand.eu/blog/ollama-vs-vllm-vs-lm-studio-llm-frontendvergleich Ollama, vLLM und LM Studio im Vergleich: Welches LLM-Frontend passt für den deutschen Mittelstand? Performance, Features, Deployment und Kosten. Sat, 18 Jul 2026 00:00:00 GMT phillip.pham@pexon-consulting.de (KI Mittelstand Team) ollamavllmlm-studiollm-frontendsself-hosted https://www.ki-mittelstand.eu/blog/ollama-zu-vllm-migration-produktionsreife https://www.ki-mittelstand.eu/blog/ollama-zu-vllm-migration-produktionsreife Ollama trägt den Piloten, nicht den Betrieb. Die vier Signale für den Wechsel auf vLLM — und die Migration Schritt für Schritt. Tue, 04 Aug 2026 00:00:00 GMT phillip.pham@pexon-consulting.de (KI Mittelstand Team) ollamavllmmigrationinferenzproduktivbetriebmittelstanddeutschland https://www.ki-mittelstand.eu/blog/strukturierte-llm-ausgaben-json-schema https://www.ki-mittelstand.eu/blog/strukturierte-llm-ausgaben-json-schema Wer erzeugtes JSON parst und auf Gültigkeit hofft, baut eine Fehlerquelle ein. Wie Sie das Format technisch erzwingen — lokal und in der Cloud. Tue, 04 Aug 2026 00:00:00 GMT phillip.pham@pexon-consulting.de (KI Mittelstand Team) json-schemastructured-outputvllmautomatisierungmittelstanddeutschland https://www.ki-mittelstand.eu/blog/vllm-cluster-multi-gpu-70b-modelle-self-hosted-2026 https://www.ki-mittelstand.eu/blog/vllm-cluster-multi-gpu-70b-modelle-self-hosted-2026 vLLM Cluster für Multi-GPU-Inferenz: Llama-3.3-70B auf 2-4 GPUs verteilen, Tensor-Parallelismus und Ray-Multi-Node konfigurieren — mit echten Configs. Thu, 02 Jul 2026 00:00:00 GMT phillip.pham@pexon-consulting.de (KI Mittelstand Team) vllmgpu-clusterself-hostedllm-inferenzmittelstanddeutschland https://www.ki-mittelstand.eu/blog/vllm-server-deutsch-anleitung-mittelstand https://www.ki-mittelstand.eu/blog/vllm-server-deutsch-anleitung-mittelstand vLLM auf eigenem Server installieren: GPU-Setup, API-Anbindung und Produktivbetrieb. Deutsche Anleitung für den Mittelstand. Sun, 08 Mar 2026 00:00:00 GMT phillip.pham@pexon-consulting.de (KI Mittelstand Team) vllmself-hosted-kimittelstanddeutschlandllm-serveron-premise https://www.ki-mittelstand.eu/blog/vllm-vs-ollama-durchsatz-benchmark-self-hosted-2026 https://www.ki-mittelstand.eu/blog/vllm-vs-ollama-durchsatz-benchmark-self-hosted-2026 vLLM vs Ollama im Durchsatz-Benchmark: bis 19x mehr Tokens/s unter Last durch Continuous Batching. Welches Tool wann self-hosted passt. Thu, 02 Jul 2026 00:00:00 GMT phillip.pham@pexon-consulting.de (KI Mittelstand Team) vllmollamaself-hostedllm-inferencebenchmarkmittelstanddeutschland https://www.ki-mittelstand.eu/blog/vllm-vs-sglang-vs-tensorrt-llm https://www.ki-mittelstand.eu/blog/vllm-vs-sglang-vs-tensorrt-llm Drei Inferenzserver im Vergleich. Wo die Unterschiede real sind, wo sie in Benchmarks größer wirken als im Betrieb — und was Sie selbst messen müssen. Tue, 04 Aug 2026 00:00:00 GMT phillip.pham@pexon-consulting.de (KI Mittelstand Team) vllmsglangtensorrt-llminferenzdurchsatzmittelstanddeutschland