Ollama Llama 3: lokal pullen und starten

TL;DR

Ollama Llama 3 ist der Bibliotheks-Tag llama3, nicht llama3.1, nicht llama3.2 und nicht llama3.2-vision. Die Ollama-Bibliothek startet mit ollama run llama3. Das Default-Tag llama3:latest teilt laut Tag-Seite den Digest 365c0bd3c000 mit llama3:8b und llama3:instruct (Artefakt 4,7 GB, Kontext 8K, Text). Die Familie reicht von diesem 8B-Tag bis llama3:70b (40 GB, Digest 786f3184aec0). Die Übersicht zählt 25,9 Mio. Downloads und 68 Tags und markiert den Eintrag mit 8B und 70B. Die Readme nennt instruction-tuned Varianten für Dialog/Chat und vortrainierte Text-Varianten. Die Chat-API liegt auf http://localhost:11434/api/chat. Gelesen in Bibliothek, Tags, Übersicht und Chat-Doku am 2026-11-08. Kein Ranking, kein Kaufguide.

Der 8B/70B-Tag, nicht Llama 3.1 und nicht Llama 3.2

IT-Leiter suchen „ollama llama3“, wenn sie den Tag llama3 ziehen und lokal starten — nicht, wenn sie Llama 3.1 gegen Qwen2 abwägen oder den kleinen 1B/3B-Tag ziehen. Der 1B/3B-Text-Tag bleibt Ollama Llama 3.2. Der Bild-Tag derselben Generation bleibt Ollama Llama 3.2 Vision. Llama 3.1 (Vergleich, nicht dieser Tag) bleibt Welches Ollama-Modell. Der 70B-Pfad ohne diesen Bibliotheks-Tag bleibt Llama 3.3 70B auf eigenem Server. Die allgemeine Modellwahl bleibt Ollama Models.

Die Engine kommt von Ollama Download oder dem Linux-Dienst. Port und Bind-Adresse bleiben 11434. Der Python-Client spricht dieselbe API, beschrieben in Ollama Python.

Start: ollama run llama3

Die Bibliotheksseite, erster Befehl:

ollama run llama3

Das zieht llama3:latest und öffnet die Chat-Sitzung. Die Tag-Seite setzt latest auf denselben Digest wie llama3:8b und llama3:instruct. Ein festes Tag setzen Sie per Suffix, zum Beispiel llama3:70b. Vor dem Pull die aktuelle Liste auf der Tag-Seite prüfen.

Nur ziehen, ohne Sitzung:

ollama pull llama3

Ohne laufenden Server antwortet der Client nicht. Unter systemd ist das die Unit aus Ollama Service.

Die Readme der Bibliothek nennt dieselbe 8B-Zeile und die 70B-Zeile als eigene Startbefehle:

ollama run llama3:70b

Für die vortrainierte Text-Variante ohne Instruct-Tuning listet die Readme ollama run llama3:text und ollama run llama3:70b-text.

Welche Tags die Bibliothek führt

Stand 2026-11-08 auf ollama.com/library/llama3 und der Tag-Seite. Größen sind Artefaktgrößen der Bibliothek, kein freier GPU-Speicher. Die gelisteten Default-Tags zeigen 8K Kontext und Texteingabe. Die Tag-Seite zählt 68 Modelle.

Die übrigen der 68 Tags sind weitere Quantisierungen und Base-Varianten derselben 8B- und 70B-Familie (instruct oder text), keine zweite Runtime. Die Übersicht markiert den Eintrag mit 8B und 70B.

Die Readme beschreibt Meta Llama 3 als Familie in 8B und 70B (vortrainiert oder instruction-tuned) und ordnet die instruction-tuned Varianten Dialog- und Chat-Fällen zu. Das ist die Herstellerbeschreibung in der Bibliothek, keine eigene Messung.

Hardware-Optionen bleiben im KI-Server Hardware-Guide. Hier geht es nur um den Modell-Tag auf einem bereits laufenden Ollama.

Was dieser Tag nicht ist

Ein anderer Bibliotheks-Eintrag ist llama3.1 (120,9 Mio. Downloads in der Übersicht, 93 Tags, 8B, 70B und 405B). llama3.2 ist der kleine Text-Eintrag (87,2 Mio., 63 Tags, 1B und 3B). llama3.2-vision ist der Bild-Eintrag (5,6 Mio., 9 Tags, 11B und 90B). mistral bleibt Ollama Mistral. Dieser Text behandelt nur llama3.

Vor dem Einsatz die aktuelle Lizenzzeile auf der Bibliotheksseite prüfen.

Chat-API auf Port 11434

Die Bibliothek zeigt denselben Host wie die Ollama-Chat-Doku (http://localhost:11434). Beispiel der Bibliotheksseite:

curl http://localhost:11434/api/chat \
  -d '{
    "model": "llama3",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Die OpenAPI der Chat-Route bestätigt Server http://localhost:11434 und POST /api/chat. Die Bibliotheks-Readme zeigt zusätzlich POST /api/generate mit demselben Modellnamen. Python-Paket laut Bibliothek:

from ollama import chat

response = chat(
    model='llama3',
    messages=[{'role': 'user', 'content': 'Hello!'}],
)
print(response.message.content)

Läuft Ollama im Container, zeigt der Host auf das gemappte 11434, siehe Ollama Docker.

Häufige Fragen

Ist llama3 dasselbe wie llama3.1, llama3.2 oder llama3.2-vision?

Nein. Die Bibliothek führt llama3 als 8B/70B-Textfamilie (68 Tags, 8K). llama3.1 ist ein getrennter Eintrag mit 8B, 70B und 405B. llama3.2 ist die 1B/3B-Textfamilie, llama3.2-vision der Bild-Eintrag. Dieser Text behandelt nur llama3.

Reicht ollama pull ohne run?

ollama run zieht und startet. ollama pull zieht nur. Die Bibliotheksbeispiele für Chat und CLI bleiben ollama run llama3.

Warum antwortet die API leer?

Zuerst Serve und Tag prüfen (ollama list, ollama ps). Der Port bleibt 11434, beschrieben in Ollama Port 11434. Ohne laufenden Server liefert der Client keinen stillen Fallback.

Brauche ich Docker extra?

Nein für den Desktop- oder Linux-Dienst. Läuft Ollama im Container, zeigt der Host auf das gemappte 11434, siehe Ollama Docker.

Ist das ein zweiter Hardware-Kaufguide?

Nein. Hardware-Optionen bleiben im KI-Server Hardware-Guide. Hier geht es nur um den Modell-Tag auf einem bereits laufenden Ollama.

Fazit

„Ollama Llama 3“ ist der Pull- und Start-Pfad: ollama run llama3, Tag mit Suffix (:8b, :70b, :text), Serve dauerhaft, Chat nativ auf /api/chat. Größen stammen aus der Bibliothek, nicht aus einer eigenen VRAM-Rechnung. Kein Ranking, keine Preise.