Gpu

Cursor mit lokalem LLM über Ollama: Setup, ngrok-Brücke, Verify-Falle — und warum VPN die bessere Private-AI-Variante ist als ein öffentlicher Tunnel.

GPUs in Containern brauchen CDI. Time-Slicing, MPS und MIG haben klare Trade-offs. DRA ersetzt starre Device-Plugins — der Deep-Dive für effizienten GPU-Betrieb.

AI-Modelle brauchen GPUs — Kubernetes verwaltet sie. Drei Schritte zur AI-Readiness und warum Partitionierung der größte Kostenhebel ist.

AI bricht starre GPU-Allokation. KubeVirt als Tenancy-Layer plus DRA ermöglicht flexible Passthrough-, vGPU- und MIG-Zuweisung in Multi-Tenant-GPU-Clouds.

llama.cpp vs. vLLM: Quantisierung und GGUF auf kleiner Hardware gegen Paged Attention und Durchsatz auf dem GPU-Cluster — welcher Runtime-Pfad 2026.