Ollama gpt-oss: lokal pullen und starten

TL;DR

Ollama gpt-oss ist der Bibliotheks-Tag gpt-oss, nicht ein Cloud-Hosting-Vergleich und nicht ein anderer Open-Weight-Chat-Tag. Die Ollama-Bibliothek startet mit ollama run gpt-oss. Das Default-Tag gpt-oss:latest teilt laut Tag-Seite den Digest f38aa0c53da5 mit gpt-oss:20b (Artefakt 14 GB, Kontext 128K, Text). Die Familie reicht von diesem 20B-Tag bis gpt-oss:120b (65 GB, Digest 714d86958b6e, Kontext 128K, Text). Die Übersicht zählt 14,8 Mio. Downloads und 5 Tags und markiert den Eintrag mit 20b und 120b sowie den Markern tools, thinking und cloud. Die Readme nennt dieselben Größen als ollama run gpt-oss:20b und ollama run gpt-oss:120b und die Lizenzzeile Apache 2.0. Die Chat-API liegt auf http://localhost:11434/api/chat. Gelesen in Bibliothek, Tags, Übersicht und Chat-Doku am 2026-11-10. Kein Ranking, kein Kaufguide.

Der lokale 20B/120B-Tag, nicht Ollama Cloud

IT-Leiter suchen „ollama gpt-oss“, wenn sie den Tag gpt-oss ziehen und lokal starten — nicht, wenn sie Cloud-Tarife, AVV oder GPU-Miete abwägen. Der Cloud-Pfad bleibt Ollama Cloud. Die allgemeine Modellwahl bleibt Ollama Models. Der 8B/70B-Text-Tag bleibt Ollama Llama 3. Der Mini/Medium-Tag bleibt Ollama Phi-3. Der 7B-Code-Tag bleibt Ollama Qwen2.5-Coder.

Die Engine kommt von Ollama Download oder dem Linux-Dienst. Port und Bind-Adresse bleiben 11434. Der Python-Client spricht dieselbe API, beschrieben in Ollama Python.

Start: ollama run gpt-oss

Die Bibliotheksseite, erster Befehl:

ollama run gpt-oss

Das zieht gpt-oss:latest und öffnet die Chat-Sitzung. Die Tag-Seite setzt latest auf denselben Digest wie gpt-oss:20b. Ein festes Tag setzen Sie per Suffix, zum Beispiel gpt-oss:120b. Vor dem Pull die aktuelle Liste auf der Tag-Seite prüfen.

Nur ziehen, ohne Sitzung:

ollama pull gpt-oss

Ohne laufenden Server antwortet der Client nicht. Unter systemd ist das die Unit aus Ollama Service.

Die Readme der Bibliothek nennt dieselben Größen als eigene Startbefehle:

ollama run gpt-oss:20b
ollama run gpt-oss:120b

Die Tag-Seite führt zusätzlich die Cloud-Suffixe gpt-oss:20b-cloud (Digest 875e8e3a629a, 128K, Text) und gpt-oss:120b-cloud (Digest 569662207105, 128K, Text). Diese Suffixe gehören zum Cloud-Pfad, beschrieben in Ollama Cloud, nicht zu diesem lokalen Pull.

Welche Tags die Bibliothek führt

Stand 2026-11-10 auf ollama.com/library/gpt-oss und der Tag-Seite. Größen sind Artefaktgrößen der Bibliothek, kein freier GPU-Speicher. Die gelisteten lokalen Default-Tags zeigen 128K Kontext und Texteingabe. Die Tag-Seite zählt 5 Modelle.

Die Übersicht markiert den Eintrag mit 20b und 120b. Die Cloud-Zeilen zeigen auf der Tag-Seite keine Artefaktgröße.

Die Readme beschreibt gpt-oss als Open-Weight-Modelle von OpenAI, in zwei Größen: 20B und 120B. Zur 20B-Zeile steht dort: ausgelegt für niedrigere Latenz, lokalen Betrieb oder spezialisierte Fälle. Zur Quantisierung nennt die Readme MXFP4 für die Mixture-of-Experts-Gewichte (4,25 Bit je Parameter); diese Gewichte machten „90+%“ der Parameterzahl aus. Dieselbe Readme schreibt, das kleinere Modell laufe damit auf Systemen mit 16 GB Speicher, das größere auf einer einzelnen 80-GB-GPU. Lizenzzeile dort: Apache 2.0. Das ist die Herstellerbeschreibung in der Bibliothek, keine eigene Messung.

Hardware-Optionen bleiben im KI-Server Hardware-Guide. Hier geht es nur um den Modell-Tag auf einem bereits laufenden Ollama.

Die Bibliotheksseite listet außerdem Startzeilen für Agent-Frontends, darunter ollama launch opencode --model gpt-oss. OpenCode selbst bleibt OpenCode mit Ollama.

Was dieser Tag nicht ist

Ein anderer Betriebsmodus desselben Modellnamens sind die Cloud-Suffixe -cloud; die Entscheidung Cloud gegen lokale GPU bleibt Ollama Cloud. llama3 bleibt Ollama Llama 3. phi3 bleibt Ollama Phi-3. Dieser Text behandelt nur den lokalen Tag gpt-oss.

Vor dem Einsatz die aktuelle Lizenzzeile auf der Bibliotheksseite prüfen.

Chat-API auf Port 11434

Die Bibliothek zeigt denselben Host wie die Ollama-Chat-Doku (http://localhost:11434). Beispiel der Bibliotheksseite:

curl http://localhost:11434/api/chat \
  -d '{
    "model": "gpt-oss",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Die OpenAPI der Chat-Route bestätigt Server http://localhost:11434 und POST /api/chat. Python-Paket laut Bibliothek:

from ollama import chat

response = chat(
    model='gpt-oss',
    messages=[{'role': 'user', 'content': 'Hello!'}],
)
print(response.message.content)

Läuft Ollama im Container, zeigt der Host auf das gemappte 11434, siehe Ollama Docker.

Häufige Fragen

Ist gpt-oss dasselbe wie Ollama Cloud?

Nein. gpt-oss ist der Bibliotheks-Tag (5 Tags, 20B und 120B). Die Cloud-Suffixe gpt-oss:20b-cloud und gpt-oss:120b-cloud liegen auf derselben Tag-Seite, gehören aber zum Cloud-Pfad. Dieser Text behandelt den lokalen Pull.

Reicht ollama pull ohne run?

ollama run zieht und startet. ollama pull zieht nur. Die Bibliotheksbeispiele für Chat und CLI bleiben ollama run gpt-oss bzw. ollama run gpt-oss:20b und ollama run gpt-oss:120b.

Warum antwortet die API leer?

Zuerst Serve und Tag prüfen (ollama list, ollama ps). Der Port bleibt 11434, beschrieben in Ollama Port 11434. Ohne laufenden Server liefert der Client keinen stillen Fallback.

Brauche ich Docker extra?

Nein für den Desktop- oder Linux-Dienst. Läuft Ollama im Container, zeigt der Host auf das gemappte 11434, siehe Ollama Docker.

Ist das ein zweiter Hardware-Kaufguide?

Nein. Hardware-Optionen bleiben im KI-Server Hardware-Guide. Hier geht es nur um den Modell-Tag auf einem bereits laufenden Ollama.

Fazit

„Ollama gpt-oss“ ist der Pull- und Start-Pfad: ollama run gpt-oss, Tag mit Suffix (:20b, :120b), Serve dauerhaft, Chat nativ auf /api/chat. Größen stammen aus der Bibliothek, nicht aus einer eigenen VRAM-Rechnung. Kein Ranking, keine Preise.