KI im Mittelstand – News & Technologie-Übersicht https://www.ki-mittelstand.eu/blog Faktenbasierte News, Technologien und Praxislösungen zu Künstlicher Intelligenz für mittelständische Unternehmen. Ohne Hype, mit klaren Quellen. de-de phillip.pham@pexon-consulting.de (KI Mittelstand Team) phillip.pham@pexon-consulting.de (KI Mittelstand Team) Sun, 02 Aug 2026 00:00:00 GMT https://www.ki-mittelstand.eu/blog/mamba-hybrid-kv-cache-langer-kontext Mamba-Hybrid: KV-Cache bei langem Kontext https://www.ki-mittelstand.eu/blog/mamba-hybrid-kv-cache-langer-kontext Der KV-Cache frisst bei 32k Kontext mehr VRAM als das Modell selbst. Was Mamba-Hybride wie Soofi S daran ändern — und wann FP8 die billigere Antwort ist. Sun, 02 Aug 2026 00:00:00 GMT phillip.pham@pexon-consulting.de (KI Mittelstand Team) llm-inferenzvramself-hostedragmittelstanddeutschland https://www.ki-mittelstand.eu/blog/moe-vram-bedarf-aktive-parameter MoE erklärt: warum 30B nicht 30B VRAM braucht https://www.ki-mittelstand.eu/blog/moe-vram-bedarf-aktive-parameter Ein 30B-MoE belegt die vollen 19 GB VRAM — sparsam ist nur die Rechenlast pro Token. Die Speicherrechnung Posten für Posten, mit Modelltabelle. Sun, 02 Aug 2026 00:00:00 GMT phillip.pham@pexon-consulting.de (KI Mittelstand Team) moellmgpuvrammittelstanddeutschland