Linux legt Ollama-Modelle unter /usr/share/ollama/.ollama/models. OLLAMA_MODELS zeigt auf die NVMe. Der Nutzer ollama braucht Schreibrecht auf dem Pfad.
Ollama bringt KI-Modelle lokal auf Ihre Server. Sparen Sie bis zu €2.000/Monat an API-Kosten und sichern Sie Datensouveränität. Eine Schritt-für-Schritt-Anleitung für den Mittelstand.
VRAM ist der Engpass für lokale KI. Vier Wege zu mehr GPU-Speicher im Vergleich — und warum die verbreiteten BIOS-Tricks und Shared-Memory-Tipps für KI-Modelle nichts bringen.