- Published on
Was KI on-premise wirklich verlangt: Hardware, Stellplatz, Betrieb, Update-Konzept — und die drei Einstiegsszenarien, die in vier Wochen stehen.
KI im Mittelstand
News, Technologien und Praxislösungen für mittelständische Unternehmen
Faktenbasierte Informationen über Künstliche Intelligenz, ohne Hype – für IT-Entscheider und Geschäftsführer
Chatbots & LLMs
Large Language Models, Conversational AI und kundenservice-orientierte Chatbot-Lösungen
Computer Vision
Bilderkennung, OCR, Qualitätskontrolle und automatisierte Bildverarbeitung in der Produktion
Process Mining
Automatisierte Prozessanalyse, Workflow-Optimierung und intelligente Datenauswertung
Predictive Analytics
Vorhersagemodelle, Maintenance-Algorithmen und datengetriebene Entscheidungsunterstützung
Relevante Themen (Top 25 Tags)
Kostenlose KI-Tools
Aktuelle Beiträge
Die neuesten Entwicklungen und Praxisberichte aus der KI-Welt
- Published on
Der KV-Cache frisst bei 32k Kontext mehr VRAM als das Modell selbst. Was Mamba-Hybride wie Soofi S daran ändern — und wann FP8 die billigere Antwort ist.- Published on
Ein 30B-MoE belegt die vollen 19 GB VRAM — sparsam ist nur die Rechenlast pro Token. Die Speicherrechnung Posten für Posten, mit Modelltabelle.- Published on
Soofi S hat 3,2 Mrd. aktive Parameter, braucht aber VRAM für 31,6 Mrd. Was das für die GPU-Wahl heißt — mit offener Rechnung und Stand der Tools.- Published on
Soofi S, Llama 3.3 und Qwen3.5 im Vergleich für deutsche Texte: Lizenz, VRAM, Verfügbarkeit — und ein Testaufbau mit den eigenen Dokumenten.- Published on
Datenresidenz, Betriebssouveränität, Technologiewahl: was souveräne KI wirklich meint — mit Prüfliste für Anbieter und offener Kostenrechnung.- Published on
Wie KI Smart Meter Daten nutzt, um Lastspitzen gemäß §14a EnWG zu steuern. Senken Sie Netzengpässe um 15% und steigern Sie Erträge um €100.000.- Published on
KI automatisiert MaRisk AT 9 Vertragsprüfungen in Finanzinstituten. Sparen Sie bis zu 80.000€ p.a. und reduzieren Sie den Prüfaufwand um 70%. Compliance sichern, Effizienz steigern.- Published on
Für Training reicht die RTX 4090 oft nicht: VRAM-Bedarf, NVLink, ECC und Lizenzfrage. Plus die Rechnung, warum Mieten den Kauf meistens schlägt.- Published on
Entdecken Sie, wie KI-Anomalieerkennung die Qualität Ihrer MSCONS-Messdaten um bis zu 30% verbessert. Vermeiden Sie kostspielige Fehler in Abrechnung & Bilanzkreisen.- Published on
Sechs KI-Server-Händler in Deutschland im Check: wer Preise offen zeigt, wer in 4 Stunden vor Ort ist — und was in deine Ausschreibung gehört.- Published on
Strom, Kühlung, Wartung, Ersatzteile: was ein KI-Server über 36 Monate wirklich kostet — mit offengelegter Rechnung und Kipp-Punkt gegen Cloud-APIs.- Published on
Ein LLM über zwei Rechner verteilen: Ollama kann es nicht, llama.cpp schon. Befehle, echte Benchmarks — und warum meist eine größere GPU gewinnt.- Published on
Ollama serialisiert Anfragen pro Modell. Mehrere Instanzen hinter nginx mit least_conn: systemd-Units, Config und die Timeouts, die wirklich zählen.- Published on
RAG, Chat, OCR, Code oder Sichtprüfung — jede Anwendung braucht anderes Sizing. Fünf Faustformeln plus die KV-Cache-Rechnung, die 70B-Pläne killt.- Published on
KI-Server erklärt: Was ihn von einem normalen Server unterscheidet, welche drei Bauformen es gibt und wann die Cloud die bessere Wahl bleibt.- Published on
Netzbetreiber optimieren Redispatch 2.0 mit KI-Engpassprognosen. Senken Sie Betriebskosten um bis zu 15% und steigern die Netzstabilität für eine sichere Energiewende.- Published on
DORA Art. 10 fordert robuste Schwachstellenanalyse. Erfahren Sie, wie KI False Positives um 40% reduziert und Compliance-Kosten für mittelständische Finanzinstitute um €70.000 senkt.- Published on
Reduzieren Sie False Positives in der Betrugserkennung für OSPlus-Zahlungsverkehr. KI-Modelle senken manuelle Prüfungen um 30% und sparen Sparkassen jährlich bis zu €120.000.- Published on
BaFin-Compliance und effiziente Dokumentensuche sind essenziell. On-Premise Vektorsuche mit Weaviate oder Elasticsearch senkt die Recherchezeit um 30% und sichert Datenhoheit im Finanzwesen.- Published on
Sparen Sie mit LiteLLM und Ollama monatlich bis zu 15.000€ bei KI-Modellkosten. Erfahren Sie, wie Sie flexible, datenschutzkonforme On-Premise-LLM-Infrastruktur aufbauen.- Published on
Entdecken Sie, wie LLMs agree21-Protokolle analysieren, um Kundenabwanderung bis zu 15% früher zu erkennen. Sparen Sie Compliance-Kosten und verbessern Sie die Datenqualität mit KI.- Published on
Kommunale Wärmeplanung fordert präzise Geothermie-Analysen. KI beschleunigt dies um 30-50% und reduziert Kosten um bis zu €80.000. Für Stadtwerke und Energieversorger.- Published on
DORA-Resilienztests sind komplex. Erfahren Sie, wie KI-gestütztes Chaos Engineering die Testeffizienz um 25% steigert, Ausfälle reduziert und Finanzunternehmen sicher durch Audits führt.- Published on
DGX Spark als KI-Server für Anwaltskanzleien: Mandantenakten automatisch auswerten, Gesetzesänderungen tracken und Rechtsrecherche beschleunigen — DSGVO-konform on-premise.- Published on
DeepSeek-v3 auf eigenem Server betreiben: Chinas Open-Source-LLM mit 671B Parametern — für deutsche Unternehmen mit Datenschutz-Bedenken.- Published on
DGX Spark vs NVIDIA H100: Der komplette Vergleich für deutsche Unternehmen — Performance, Preis, Stromverbrauch und wann welches System passt.- Published on
KI-Systeme in Finanzinstituten müssen DORA-konform sein. Dieser Leitfaden zeigt IT-Leitern, wie sie Risiken managen und Audit-Aufwand um 20% reduzieren, um Strafen zu vermeiden.- Published on
Gemma 2 27B von Google auf dem eigenen Server: Open-Weight-Modell mit hervorragender Sprachqualität. Hardware, Performance und Deployment-Guide.- Published on
GLM-4 von ZhipuAI auf eigenem Server betreiben: Das Open-Source-LLM der Tsinghua-Universität mit 128K-Kontext für deutsche Unternehmen — on-premise und DSGVO-konform.