Ollama Qwen3: lokal pullen und starten

TL;DR

Ollama Qwen3 ist der Bibliotheks-Tag, nicht ein zweites Runtime. Die Ollama-Bibliothek startet mit ollama run qwen3. Die Qwen-Doku empfiehlt Ollama ab Version 0.9.0, hält ollama serve dauerhaft und zieht ein Tag per Suffix, zum Beispiel qwen3:8b. Die Bibliothek listet Artefaktgrößen von 523 MB (qwen3:0.6b) bis 142 GB (qwen3:235b); das sind Download-Größen, kein freier VRAM. Think-Modus ist bei Qwen3-2504 der Default (/set think, /set nothink). Die OpenAI-kompatible API liegt auf http://localhost:11434/v1/. Gelesen in der Ollama-Bibliothek und im Qwen3-README am 2026-10-13. Kein Ranking, kein Kaufguide.

Modell-Tag, nicht Modellwahl-Übersicht

IT-Leiter suchen „ollama qwen3“, wenn sie ein konkretes Qwen3-Tag ziehen und lokal starten — nicht, wenn sie Llama gegen Mistral abwägen. Die allgemeine Modellwahl bleibt Ollama Models. Die ältere Qwen2-Gegenüberstellung steht in Welches Ollama-Modell. Die Produktfamilie ohne Ollama-Befehlspfad bleibt Qwen auf eigenem Server. DGX-Spark- und NVFP4-Pfade gehören zu Qwen3.8-27B auf DGX Spark und sind nicht dieser Pull.

Die Engine kommt von Ollama Download oder dem Linux-Dienst. Port und Bind-Adresse bleiben 11434. Der Python-Client spricht dieselbe API, beschrieben in Ollama Python.

Voraussetzung: Serve und Version

Das Qwen3-README, Abschnitt Ollama:

• Ollama ist installiert.
• Empfohlen: Version 0.9.0 oder höher.
• ollama serve bleibt gestartet, solange Sie das Modell nutzen.

ollama serve

Ohne laufenden Server liefert der Client keinen stillen Fallback. Unter systemd ist das die Unit aus Ollama Service.

Start: ollama run qwen3

Die Bibliotheksseite, erster Befehl:

ollama run qwen3

Das zieht das Default-Tag (qwen3:latest, in der Bibliothek identisch mit qwen3:8b, Artefakt 5,2 GB, Kontext 40K) und öffnet die lokale Sitzung. Die Qwen-Doku nennt dasselbe Muster mit Suffix:

ollama run qwen3:8b

Weitere Tags aus derselben README-Zeile: :8b oder :30b-a3b. Die Bibliothek zeigt zusätzlich die aktualisierten großen Varianten:

ollama run qwen3:30b
ollama run qwen3:235b

In der Sitzung, laut Qwen-README:

• /set parameter num_ctx 40960
• /set parameter num_predict 32768
• /bye beendet die Sitzung.

Für Qwen3-2504-Modelle: /set think (Default) oder /set nothink.

Nur ziehen, ohne interaktive Sitzung, geht über denselben Tag mit ollama pull. Die REST-Variante steht in der Pull-API; das Bibliotheksbeispiel bleibt ollama run.

Tags und Artefaktgrößen (Ollama-Bibliothek)

Stand dieser Seite, gelesen auf ollama.com/library/qwen3. Die Bibliothek zählt 58 Tags. Die Tabelle nennt die dort angezeigten Download-Größen und Kontextfenster — nicht den benötigten freien GPU-Speicher.

Die Familie ist laut Bibliothek und Qwen-README dicht und MoE. Offene Gewichte stehen unter Apache 2.0 (Qwen-README, Lizenzabschnitt). Kein Tag ist eine Kaufempfehlung.

Qwen warnt: Die Ollama-Tag-Namen weichen von den Originalnamen ab. Beispiel im README, Stand August 2025: qwen3:30b-a3b zeigt auf qwen3:30b-a3b-thinking-2507-q4_K_M. Vor dem Pull die Tag-Liste prüfen.

Kontext: Default 2048 ist für Qwen3 knapp

Dasselbe README: Ollama übernimmt die rotierende Kontextverwaltung von llama.cpp. Die Defaults num_ctx 2048 und num_predict -1 (unbegrenzte Ausgabe bei 2048 Token Kontext) können bei Qwen3 Probleme machen. Deshalb die interaktiven /set parameter-Zeilen oben. Das ist ein Herstellerhinweis, keine eigene Messung.

Längeren Kontext an der Engine beschreibt Ollama Port 11434 nicht; der Port bleibt 11434, der Kontext ist Modellparameter.

API: /api/chat und /v1

Die Bibliothek zeigt den nativen Chat gegen localhost:11434:

curl http://localhost:11434/api/chat \
  -d '{
    "model": "qwen3",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Python laut derselben Seite:

from ollama import chat

response = chat(
    model='qwen3',
    messages=[{'role': 'user', 'content': 'Hello!'}],
)
print(response.message.content)

Die Qwen-Doku nennt zusätzlich den OpenAI-kompatiblen Endpunkt http://localhost:11434/v1/. Zwei Bedingungen dort: ollama serve läuft, und ollama run qwen3:8b hat das Checkpoint mindestens einmal vorbereitet. Coding-Agenten, die /v1 erwarten, hängen an OpenCode Ollama. Der Gateway-Assistent über /api/chat bleibt OpenClaw Ollama.

Die Bibliothek listet Launch-Wrapper mit demselben Modellnamen:

ollama launch opencode --model qwen3
ollama launch openclaw --model qwen3
ollama launch claude --model qwen3

Das ersetzt weder die Engine-Installation noch den ersten Pull.

Häufige Fragen

Ist qwen3 dasselbe wie qwen3.5?

Nein. Die Bibliothek führt qwen3 als eigene Familie. Ein qwen3.5-Tag gehört zu einem anderen Eintrag. Dieser Text behandelt nur qwen3, wie auf der Bibliotheksseite.

Reicht ollama pull ohne run?

ollama run zieht und startet. ollama pull zieht nur. Für die API verlangt die Qwen-Doku, dass das Checkpoint einmal vorbereitet wurde; ihr Beispiel bleibt ollama run qwen3:8b.

Warum antwortet die API leer oder bricht früh ab?

Zuerst Serve und Tag prüfen (ollama list, ollama ps). Dann Kontext: Qwen nennt Default num_ctx 2048 als Risiko. In der Sitzung /set parameter num_ctx 40960 setzen oder denselben Wert im Client-Options-Feld übergeben.

Brauche ich Docker extra?

Nein für den Desktop- oder Linux-Dienst. Läuft Ollama im Container, zeigt der Host auf das gemappte 11434, siehe Ollama Docker.

Ist das ein zweiter Hardware-Kaufguide?

Nein. Hardware-Optionen bleiben im KI-Server Hardware-Guide. Hier geht es nur um den Modell-Tag auf einem bereits laufenden Ollama.

Fazit

„Ollama Qwen3“ ist der Pull- und Start-Pfad: ollama run qwen3, Tag mit Suffix, Serve dauerhaft, Think-Schalter laut Qwen-Doku, API nativ oder /v1. Größen stammen aus der Bibliothek, nicht aus einer eigenen VRAM-Rechnung. Kein Ranking, keine Preise.