Ollama LLaVA: lokal pullen und starten

TL;DR

Ollama LLaVA ist der Bibliotheks-Tag llava, nicht llava-llama3, nicht bakllava, nicht llava-phi3 und nicht llama3.2-vision. Die Ollama-Bibliothek startet mit ollama run llava. Das Default-Tag llava:latest ist laut Tag-Seite identisch mit llava:v1.6 und llava:7b (Digest 8dd30f6b0cb1, Artefakt 4,7 GB, Kontext 32K, Text und Bild). Die Familie reicht bis llava:13b (8,0 GB, Digest 0d0eb4d7f485, 4K) und llava:34b (20 GB, Digest 3d2d24f46674, 4K). Die Bibliothek zählt 15,2 Mio. Downloads und 98 Tags. Die Readme nennt Version 1.6 und beschreibt LLaVA als multimodales Modell aus Vision-Encoder plus Vicuna. Die Chat-API liegt auf http://localhost:11434/api/chat. Gelesen in Bibliothek, Tags, Übersicht und Chat-Doku am 2026-10-26. Kein Ranking, kein Kaufguide.

Modell-Tag, nicht Gemma 3 und nicht Produktfamilie

IT-Leiter suchen „ollama llava“, wenn sie den Tag llava ziehen und lokal starten — nicht, wenn sie Gemma 3 an die GPU koppeln. Der Vision-Text-Tag ohne diesen Pull-Befehl bleibt Ollama Gemma 3. Der Llama-3.2-Text-Tag ohne Bild bleibt Ollama Llama 3.2. Die allgemeine Modellwahl bleibt Ollama Models.

Die Engine kommt von Ollama Download oder dem Linux-Dienst. Port und Bind-Adresse bleiben 11434. Der Python-Client spricht dieselbe API, beschrieben in Ollama Python.

Start: ollama run llava

Die Bibliotheksseite, erster Befehl:

ollama run llava

Das zieht llava:latest und öffnet die Chat-Sitzung. Die Tag-Seite setzt latest auf denselben Digest wie llava:v1.6 und llava:7b. Ein festes Tag setzen Sie per Suffix, zum Beispiel llava:13b. Vor dem Pull die aktuelle Liste auf der Tag-Seite prüfen.

Nur ziehen, ohne Sitzung:

ollama pull llava

Ohne laufenden Server antwortet der Client nicht. Unter systemd ist das die Unit aus Ollama Service.

Die Readme zeigt danach den Bildpfad in der Eingabezeile, etwa What's in this image? plus Pfad zur Datei. Das ist die Herstellerbeschreibung in der Bibliothek, kein eigener Test.

Welche Tags die Bibliothek führt

Stand 2026-10-26 auf ollama.com/library/llava und der Tag-Seite. Größen sind Artefaktgrößen der Bibliothek, kein freier GPU-Speicher. Die Übersicht markiert den Eintrag mit vision und den Größen 7b, 13b, 34b.

Die übrigen der 98 Tags sind weitere Quantisierungen derselben Familie (unter anderem 7b-v1.5-q2_K bis höhere Quants), keine zweite Runtime.

Die Readme beschreibt LLaVA als multimodales Modell (Vision-Encoder plus Vicuna) und nennt als Stand Version 1.6. Neu in 1.6 laut Readme: höhere Eingabeauflösung bis zum Vierfachen der Pixelzahl, genannt sind 672×672, 336×1344 und 1344×336; dazu bessere visuelle Begründung, OCR, visuelle Konversation und Weltwissen. Das ist die Herstellerbeschreibung in der Bibliothek, keine eigene Messung.

Hardware-Optionen bleiben im KI-Server Hardware-Guide. Hier geht es nur um den Modell-Tag auf einem bereits laufenden Ollama.

Was dieser Tag nicht ist

Ein anderer Bibliotheks-Eintrag ist gemma3 (41,4 Mio. Downloads in der Übersicht, 270M bis 27B, Text und Bild). llama3.2-vision ist der Llama-Bild-Eintrag (5,5 Mio., 11B und 90B). qwen2.5vl (5,6 Mio.) und minicpm-v (5,6 Mio.) sind getrennte Vision-Familien. llava-llama3 (2,3 Mio., 8B) ist laut Übersicht ein Fine-Tune von Llama 3 Instruct. bakllava (909,9 Tsd., 7B) kombiniert Mistral 7B mit der LLaVA-Architektur. llava-phi3 (819,6 Tsd., 3,8B) ist ein Fine-Tune von Phi 3 Mini. Dieser Text behandelt nur llava.

Lizenz: die Bibliotheksseite verweist auf Website, GitHub und Hugging Face. Vor dem Einsatz die aktuelle Lizenzzeile dort prüfen.

Chat-API auf Port 11434

Die Bibliothek zeigt denselben Host wie die Ollama-Chat-Doku (http://localhost:11434). Beispiel der Bibliotheksseite:

curl http://localhost:11434/api/chat \
  -d '{
    "model": "llava",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Die OpenAPI der Chat-Route bestätigt Server http://localhost:11434 und POST /api/chat. Für multimodale Modelle listet die Chat-Doku optional images als Base64-Liste im Nachrichtenobjekt. Die Bibliothek zeigt zusätzlich POST /api/generate mit dem Feld images. Die Tags llava:latest, llava:13b und llava:34b führen Text und Bild. Python-Paket laut Bibliothek:

from ollama import chat

response = chat(
    model='llava',
    messages=[{'role': 'user', 'content': 'Hello!'}],
)
print(response.message.content)

Läuft Ollama im Container, zeigt der Host auf das gemappte 11434, siehe Ollama Docker.

Häufige Fragen

Ist llava dasselbe wie gemma3, llama3.2-vision oder bakllava?

Nein. Die Bibliothek führt llava als eigene Familie (7B, 13B, 34B). gemma3, llama3.2-vision, qwen2.5vl, llava-llama3, bakllava und llava-phi3 sind getrennte Einträge. Dieser Text behandelt nur llava.

Reicht ollama pull ohne run?

ollama run zieht und startet. ollama pull zieht nur. Die Bibliotheksbeispiele für Chat und CLI bleiben ollama run llava.

Warum antwortet die API leer?

Zuerst Serve und Tag prüfen (ollama list, ollama ps). Der Port bleibt 11434, beschrieben in Ollama Port 11434. Ohne laufenden Server liefert der Client keinen stillen Fallback.

Brauche ich Docker extra?

Nein für den Desktop- oder Linux-Dienst. Läuft Ollama im Container, zeigt der Host auf das gemappte 11434, siehe Ollama Docker.

Ist das ein zweiter Hardware-Kaufguide?

Nein. Hardware-Optionen bleiben im KI-Server Hardware-Guide. Hier geht es nur um den Modell-Tag auf einem bereits laufenden Ollama.

Fazit

„Ollama LLaVA“ ist der Pull- und Start-Pfad: ollama run llava, Tag mit Suffix (:7b, :13b, :34b), Serve dauerhaft, Chat nativ auf /api/chat. Größen stammen aus der Bibliothek, nicht aus einer eigenen VRAM-Rechnung. Kein Ranking, keine Preise.