Ollama Llama 2: lokal pullen und starten

TL;DR

Ollama Llama 2 ist der Bibliotheks-Tag llama2, nicht llama3 und nicht tinyllama. Die Ollama-Bibliothek startet mit ollama run llama2. Das Default-Tag llama2:latest teilt laut Tag-Seite den Digest 78e26419b446 mit llama2:7b, llama2:chat und llama2:7b-chat (Artefakt 3,8 GB, Kontext 4K, Text). Die Familie reicht von diesem 7B-Tag über llama2:13b (7,4 GB, Digest d475bf4c50bc) bis llama2:70b (39 GB, Digest e7f6c06ffef4). Die Übersicht zählt 7,6 Mio. Downloads und 102 Tags und markiert den Eintrag mit 7b, 13b und 70b. Die Readme beschreibt Llama 2 als Sammlung von Foundation-Modellen von Meta Platforms, Inc., trainiert auf 2 trillion Tokens, Default-Kontext 4096. Die Chat-API liegt auf http://localhost:11434/api/chat. Gelesen in Bibliothek, Tags, Übersicht und Chat-Doku am 2026-11-14. Kein Ranking, kein Kaufguide.

Der 7B/13B/70B-Tag, nicht Llama 3

IT-Leiter suchen „ollama llama2“, wenn sie den Tag llama2 ziehen und lokal starten — nicht, wenn sie den 8B/70B-Tag llama3 ziehen oder den 1,1B-Tag tinyllama. Der 8B/70B-Pfad bleibt Ollama Llama 3. Der 1B/3B-Text-Tag bleibt Ollama Llama 3.2. Der Code-Tag auf Llama-2-Linie bleibt Ollama CodeLlama. Die allgemeine Modellwahl bleibt Ollama Models.

Die Engine kommt von Ollama Download oder dem Linux-Dienst. Port und Bind-Adresse bleiben 11434. Der Python-Client spricht dieselbe API, beschrieben in Ollama Python.

Start: ollama run llama2

Die Bibliotheksseite, erster Befehl:

ollama run llama2

Das zieht llama2:latest und öffnet die Chat-Sitzung. Die Tag-Seite setzt latest auf denselben Digest wie llama2:7b, llama2:chat und llama2:7b-chat. Ein festes Tag setzen Sie per Suffix, zum Beispiel llama2:13b oder llama2:70b. Vor dem Pull die aktuelle Liste auf der Tag-Seite prüfen.

Nur ziehen, ohne Sitzung:

ollama pull llama2

Ohne laufenden Server antwortet der Client nicht. Unter systemd ist das die Unit aus Ollama Service.

Die Readme der Bibliothek nennt Chat als Default in Ollama und die vortrainierte Text-Variante ohne Chat-Tuning als Tag -text:

ollama run llama2:text

Welche Tags die Bibliothek führt

Stand 2026-11-14 auf ollama.com/library/llama2 und der Tag-Seite. Größen sind Artefaktgrößen der Bibliothek, kein freier GPU-Speicher. Die gelisteten Default-Tags zeigen 4K Kontext und Texteingabe. Die Tag-Seite zählt 102 Modelle.

Die übrigen der 102 Tags sind weitere Quantisierungen derselben 7B-, 13B- und 70B-Familie (chat oder text), keine zweite Runtime. Die Übersicht markiert den Eintrag mit 7b, 13b und 70b.

Die Readme beschreibt Llama 2 als Sammlung von Foundation-Modellen von Meta Platforms, Inc., Parameter 7B bis 70B. Der Default-Kontext steht dort mit 4096. Chat-Varianten sind laut Readme auf über 1 Million menschlichen Annotationen feinabgestimmt. Als Arbeitsspeicher nennt die Readme mindestens 8 GB RAM für 7B, mindestens 16 GB RAM für 13B und mindestens 64 GB RAM für 70B. Standard in Ollama ist laut Readme 4-Bit-Quantisierung. Das ist die Herstellerbeschreibung in der Bibliothek, keine eigene Messung.

Hardware-Optionen bleiben im KI-Server Hardware-Guide. Hier geht es nur um den Modell-Tag auf einem bereits laufenden Ollama.

Was dieser Tag nicht ist

Ein anderer Bibliotheks-Eintrag ist llama3 (26 Mio. Downloads in der Übersicht, 68 Tags, 8B und 70B); den Pull-Pfad beschreibt Ollama Llama 3. tinyllama ist der 1,1B-Eintrag (6,8 Mio., 36 Tags). llama2-uncensored (2,8 Mio., 34 Tags, 7B und 70B) und llama2-chinese (1,2 Mio., 35 Tags, 7B und 13B) sind getrennte Bibliotheks-Einträge, keine Aliase von llama2. codellama bleibt Ollama CodeLlama. Dieser Text behandelt nur llama2.

Vor dem Einsatz die aktuelle Lizenzzeile auf der Bibliotheksseite prüfen.

Chat-API auf Port 11434

Die Bibliothek zeigt denselben Host wie die Ollama-Chat-Doku (http://localhost:11434). Beispiel der Bibliotheksseite:

curl http://localhost:11434/api/chat \
  -d '{
    "model": "llama2",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Die OpenAPI der Chat-Route bestätigt Server http://localhost:11434 und POST /api/chat. Die Bibliotheks-Readme zeigt zusätzlich POST /api/generate mit demselben Modellnamen. Python-Paket laut Bibliothek:

from ollama import chat

response = chat(
    model='llama2',
    messages=[{'role': 'user', 'content': 'Hello!'}],
)
print(response.message.content)

Läuft Ollama im Container, zeigt der Host auf das gemappte 11434, siehe Ollama Docker.

Häufige Fragen

Ist llama2 dasselbe wie llama3, tinyllama oder llama2-uncensored?

Nein. Die Bibliothek führt llama2 als 7B/13B/70B-Familie (102 Tags, Default 3,8 GB, 4K). llama3 ist die 8B/70B-Familie. tinyllama ist der 1,1B-Eintrag. llama2-uncensored und llama2-chinese sind getrennte Einträge. Dieser Text behandelt nur llama2.

Reicht ollama pull ohne run?

ollama run zieht und startet. ollama pull zieht nur. Die Bibliotheksbeispiele für Chat und CLI bleiben ollama run llama2.

Warum antwortet die API leer?

Zuerst Serve und Tag prüfen (ollama list, ollama ps). Der Port bleibt 11434, beschrieben in Ollama Port 11434. Ohne laufenden Server liefert der Client keinen stillen Fallback.

Brauche ich Docker extra?

Nein für den Desktop- oder Linux-Dienst. Läuft Ollama im Container, zeigt der Host auf das gemappte 11434, siehe Ollama Docker.

Ist das ein zweiter Hardware-Kaufguide?

Nein. Hardware-Optionen bleiben im KI-Server Hardware-Guide. Hier geht es nur um den Modell-Tag auf einem bereits laufenden Ollama.

Fazit

„Ollama Llama 2“ ist der Pull- und Start-Pfad: ollama run llama2, Tag mit Suffix (:7b, :13b, :70b, :text), Serve dauerhaft, Chat nativ auf /api/chat. latest, 7b, chat und 7b-chat teilen Digest und 3,8 GB. Größen stammen aus der Bibliothek, nicht aus einer eigenen VRAM-Rechnung. Kein Ranking, keine Preise.