Ollama CodeLlama: lokal pullen und starten

TL;DR

Ollama CodeLlama ist der Bibliotheks-Tag codellama, nicht qwen2.5-coder und nicht deepseek-coder. Die Ollama-Bibliothek startet mit ollama run codellama. Das Default-Tag codellama:latest teilt laut Tag-Seite den Digest 8fdf8f752f6e mit codellama:7b und codellama:instruct (Artefakt 3,8 GB, Kontext 16K, Text). Die Familie reicht von codellama:7b (3,8 GB) über codellama:13b (7,4 GB) und codellama:34b (19 GB) bis codellama:70b (39 GB, Kontext 2K). Die Übersicht zählt 8,2 Mio. Downloads und 199 Tags und markiert den Eintrag mit 7b, 13b, 34b und 70b. Die Readme beschreibt Code Llama als Modell zum Erzeugen und Besprechen von Code, aufgebaut auf Llama 2. Die Chat-API liegt auf http://localhost:11434/api/chat. Gelesen in Bibliothek, Tags, Übersicht und Chat-Doku am 2026-11-12. Kein Ranking, kein Kaufguide.

Code-Tag der Llama-2-Linie, nicht Qwen-Coder

IT-Leiter suchen „ollama codellama“, wenn sie den Tag codellama ziehen und lokal starten — nicht, wenn sie den neueren Code-Tag qwen2.5-coder oder DeepSeek-Coder ziehen. Der Qwen-Code-Pfad bleibt Ollama Qwen2.5-Coder. Die DeepSeek-Tags bleiben Ollama DeepSeek. Der 8B/70B-Chat-Tag llama3 ist eine andere Generation und bleibt Ollama Llama 3. Die allgemeine Modellwahl bleibt Ollama Models.

Die Engine kommt von Ollama Download oder dem Linux-Dienst. Port und Bind-Adresse bleiben 11434. Der Python-Client spricht dieselbe API, beschrieben in Ollama Python.

Start: ollama run codellama

Die Bibliotheksseite, erster Befehl:

ollama run codellama

Das zieht codellama:latest und öffnet die Chat-Sitzung. Die Tag-Seite setzt latest auf denselben Digest wie codellama:7b und codellama:instruct. Ein festes Tag setzen Sie per Suffix, zum Beispiel codellama:13b. Vor dem Pull die aktuelle Liste auf der Tag-Seite prüfen.

Nur ziehen, ohne Sitzung:

ollama pull codellama

Ohne laufenden Server antwortet der Client nicht. Unter systemd ist das die Unit aus Ollama Service.

Die Readme der Bibliothek nennt dieselben Größen als eigene Startzeilen, etwa ollama run codellama:34b für 34B.

CLI-Beispiel der Bibliothek:

ollama run codellama "Write me a function that outputs the fibonacci sequence"

Welche Tags die Bibliothek führt

Stand 2026-11-12 auf ollama.com/library/codellama und der Tag-Seite. Größen sind Artefaktgrößen der Bibliothek, kein freier GPU-Speicher. Die gelisteten Default-Tags 7B, 13B und 34B zeigen 16K Kontext und Texteingabe. codellama:70b steht mit 2K Kontext. Die Tag-Seite zählt 199 Modelle.

Die übrigen der 199 Tags sind weitere Quantisierungen derselben Familie, keine zweite Runtime.

Die Readme nennt vier Parameterzahlen (7, 13, 34 und 70 Milliarden) und drei Varianten: instruct (feinabgestimmt auf hilfreiche Antworten in natürlicher Sprache), python (zusätzlich auf 100B Tokens Python-Code feinabgestimmt, Herstellerangabe in der Readme) und code (Basismodell für Code-Vervollständigung). Das ist die Herstellerbeschreibung in der Bibliothek, keine eigene Messung. Genannte Sprachen dort: Python, C++, Java, PHP, TypeScript/JavaScript, C#, Bash und weitere.

Fill-in-the-middle (FIM) laut Readme nur über das Completion-Tag, Format <PRE> {prefix} <SUF>{suffix} <MID>:

ollama run codellama:7b-code '<PRE> def compute_gcd(x, y): <SUF>return result <MID>'

Hardware-Optionen bleiben im KI-Server Hardware-Guide. Hier geht es nur um den Modell-Tag auf einem bereits laufenden Ollama.

Was dieser Tag nicht ist

Ein anderer Bibliotheks-Eintrag ist qwen2.5-coder (Code-Familie von Qwen, 0,5B bis 32B); den Pull-Pfad beschreibt Ollama Qwen2.5-Coder. deepseek-coder und deepseek-r1 bleiben Ollama DeepSeek. llama3 ist die Llama-3-Chat-Familie, nicht dieser Llama-2-Code-Tag (Ollama Llama 3). Dieser Text behandelt nur codellama.

Vor dem Einsatz die aktuelle Lizenzzeile auf der Bibliotheksseite prüfen.

Chat-API auf Port 11434

Die Bibliothek zeigt denselben Host wie die Ollama-Chat-Doku (http://localhost:11434). Beispiel der Bibliotheksseite:

curl http://localhost:11434/api/chat \
  -d '{
    "model": "codellama",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Die OpenAPI der Chat-Route bestätigt Server http://localhost:11434 und POST /api/chat. Generate-Beispiel derselben Bibliotheksseite:

curl -X POST http://localhost:11434/api/generate -d '{
  "model": "codellama",
  "prompt": "Write me a function that outputs the fibonacci sequence"
}'

Python-Paket laut Bibliothek:

from ollama import chat

response = chat(
    model='codellama',
    messages=[{'role': 'user', 'content': 'Hello!'}],
)
print(response.message.content)

Läuft Ollama im Container, zeigt der Host auf das gemappte 11434, siehe Ollama Docker.

Häufige Fragen

Ist codellama dasselbe wie qwen2.5-coder oder llama3?

Nein. Die Bibliothek führt codellama als eigene Code-Familie (199 Tags, 7B bis 70B, auf Llama 2). qwen2.5-coder ist der Qwen-Code-Eintrag. llama3 ist Chat, nicht dieser Code-Tag. Dieser Text behandelt nur codellama.

Reicht ollama pull ohne run?

ollama run zieht und startet. ollama pull zieht nur. Die Bibliotheksbeispiele für Chat und CLI bleiben ollama run codellama.

Warum hat 70B nur 2K Kontext?

So steht es auf der Bibliotheks- und der Tag-Seite: codellama:70b Artefakt 39 GB, Kontext 2K. Die Tags 7B, 13B und 34B stehen mit 16K. Das ist die Bibliotheksangabe, keine eigene Messung.

Warum antwortet die API leer?

Zuerst Serve und Tag prüfen (ollama list, ollama ps). Der Port bleibt 11434, beschrieben in Ollama Port 11434. Ohne laufenden Server liefert der Client keinen stillen Fallback.

Brauche ich Docker extra?

Nein für den Desktop- oder Linux-Dienst. Läuft Ollama im Container, zeigt der Host auf das gemappte 11434, siehe Ollama Docker.

Ist das ein zweiter Hardware-Kaufguide?

Nein. Hardware-Optionen bleiben im KI-Server Hardware-Guide. Hier geht es nur um den Modell-Tag auf einem bereits laufenden Ollama.

Fazit

„Ollama CodeLlama“ ist der Pull- und Start-Pfad: ollama run codellama, Tag mit Suffix (:7b, :13b, :34b, :70b), Serve dauerhaft, Chat nativ auf /api/chat. latest, 7b und instruct teilen Digest und 3,8 GB. Größen stammen aus der Bibliothek, nicht aus einer eigenen VRAM-Rechnung. Kein Ranking, keine Preise.