Published on4. August 2026KI-Plattform als Managed Service: was abgedeckt sein mussmanaged-serviceki-plattformbetriebslamittelstanddeutschlandEin Betriebsvertrag für KI ist kein Serververtrag. Die sieben Leistungen, die drinstehen müssen — und die drei Klauseln, die teuer werden.
Published on4. August 2026Langfuse on-premise: LLM-Aufrufe nachvollziehbar machenlangfuseobservabilitymonitoringllm-gatewayon-premisedeutschlandOhne Nachverfolgung ist jede Fehlersuche im RAG-System Raten. Der Aufbau im eigenen Rechenzentrum — und was protokolliert werden darf.
Published on4. August 2026LiteLLM mit LLM Guard und NeMo Guardrails verkettenlitellmllm-guardnemo-guardrailsguardrailsllm-gatewaymittelstanddeutschlandGuardrails gehören ins Gateway, nicht in jede Anwendung. Die Verkettung mit LiteLLM-Hooks, inklusive der Latenz, die das wirklich kostet.
Published on4. August 2026LLM-Gateway 2026: LiteLLM, Kong, Portkey, Azure APIMllm-gatewaylitellmkongportkeyazuremittelstanddeutschlandVier Wege, Modellzugriffe zu bündeln. Der Unterschied liegt nicht im Routing, sondern darin, wer Ihre Token zählt und wo die Daten dabei liegen.
Published on4. August 2026LLM Guard, NeMo Guardrails, Presidio: welcher wofürguardrailsllm-guardnemo-guardrailspresidiodsgvomittelstanddeutschlandDrei Guardrail-Werkzeuge, drei völlig verschiedene Aufgaben. Wer sie gegeneinander abwägt, hat die Frage falsch gestellt — die Aufteilung im Detail.