Ollama Phi-3: lokal pullen und starten

TL;DR

Ollama Phi-3 ist der Bibliotheks-Tag phi3, nicht phi4 und nicht ein anderer Mini-Tag. Die Ollama-Bibliothek startet mit ollama run phi3. Das Default-Tag phi3:latest teilt laut Tag-Seite den Digest 4f2222927938 mit phi3:3.8b, phi3:instruct und phi3:mini (Artefakt 2,2 GB, Kontext 128K, Text). Die Familie reicht von diesem Mini-Tag bis phi3:14b / phi3:medium (7,9 GB, Digest cf611a26b048, Kontext 128K). Die Übersicht zählt 18,4 Mio. Downloads und 72 Tags und markiert den Eintrag mit 3.8b und 14b. Die Readme nennt Phi-3 Mini und Phi-3 Medium sowie 4K- und 128K-Startzeilen. Die Chat-API liegt auf http://localhost:11434/api/chat. Gelesen in Bibliothek, Tags, Übersicht und Chat-Doku am 2026-11-09. Kein Ranking, kein Kaufguide.

Der Mini/Medium-Tag, nicht Phi-4

IT-Leiter suchen „ollama phi3“, wenn sie den Tag phi3 ziehen und lokal starten — nicht, wenn sie Phi-4 als Produktfamilie planen. Phi-4 bleibt Phi-4 von Microsoft. Die allgemeine Modellwahl bleibt Ollama Models. Ein kleines Modell auf dem NAS bleibt Ollama auf Synology. Der 8B/70B-Text-Tag bleibt Ollama Llama 3. Der 7B-Tag bleibt Ollama Mistral.

Die Engine kommt von Ollama Download oder dem Linux-Dienst. Port und Bind-Adresse bleiben 11434. Der Python-Client spricht dieselbe API, beschrieben in Ollama Python.

Start: ollama run phi3

Die Bibliotheksseite, erster Befehl:

ollama run phi3

Das zieht phi3:latest und öffnet die Chat-Sitzung. Die Tag-Seite setzt latest auf denselben Digest wie phi3:3.8b, phi3:instruct und phi3:mini. Ein festes Tag setzen Sie per Suffix, zum Beispiel phi3:medium. Vor dem Pull die aktuelle Liste auf der Tag-Seite prüfen.

Nur ziehen, ohne Sitzung:

ollama pull phi3

Ohne laufenden Server antwortet der Client nicht. Unter systemd ist das die Unit aus Ollama Service.

Die Readme der Bibliothek nennt dieselben Größen als eigene Startbefehle:

ollama run phi3:mini
ollama run phi3:medium

Für die 128K-Zeile listet die Readme ollama run phi3:medium-128k und merkt an, dass die 128K-Variante Ollama 0.1.39 oder neuer braucht. Für 4K nennt die Readme ollama run phi3:mini und ollama run phi3:medium. Die Tag-Seite führt zusätzlich phi3:mini-4k (Digest d5ea514251bf, 2,4 GB, 4K) und phi3:medium-4k (Digest 325e47441f3f, 7,9 GB, 4K).

Welche Tags die Bibliothek führt

Stand 2026-11-09 auf ollama.com/library/phi3 und der Tag-Seite. Größen sind Artefaktgrößen der Bibliothek, kein freier GPU-Speicher. Die gelisteten Default-Tags zeigen 128K Kontext und Texteingabe. Die Tag-Seite zählt 72 Modelle.

Die übrigen der 72 Tags sind weitere Quantisierungen derselben Mini- und Medium-Familie, keine zweite Runtime. Die Übersicht markiert den Eintrag mit 3.8b und 14b.

Die Readme beschreibt Phi-3 als Familie offener Modelle von Microsoft: Mini mit Befehl ollama run phi3:mini, Medium mit ollama run phi3:medium. Im Fließtext der Readme steht Mini mit 3,8B Parametern (dichtes Decoder-Only-Modell, Chat-Format) und Medium mit 14B Parametern. Lizenzzeile dort: MIT. Das ist die Herstellerbeschreibung in der Bibliothek, keine eigene Messung.

Hardware-Optionen bleiben im KI-Server Hardware-Guide. Hier geht es nur um den Modell-Tag auf einem bereits laufenden Ollama.

Was dieser Tag nicht ist

Ein anderer Bibliotheks-Eintrag ist phi4 (14B, 7,8 Mio. Downloads in der Übersicht, 5 Tags). llama3 bleibt Ollama Llama 3. mistral bleibt Ollama Mistral. gemma3 bleibt Ollama Gemma 3. Dieser Text behandelt nur phi3.

Vor dem Einsatz die aktuelle Lizenzzeile auf der Bibliotheksseite prüfen.

Chat-API auf Port 11434

Die Bibliothek zeigt denselben Host wie die Ollama-Chat-Doku (http://localhost:11434). Beispiel der Bibliotheksseite:

curl http://localhost:11434/api/chat \
  -d '{
    "model": "phi3",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Die OpenAPI der Chat-Route bestätigt Server http://localhost:11434 und POST /api/chat. Python-Paket laut Bibliothek:

from ollama import chat

response = chat(
    model='phi3',
    messages=[{'role': 'user', 'content': 'Hello!'}],
)
print(response.message.content)

Läuft Ollama im Container, zeigt der Host auf das gemappte 11434, siehe Ollama Docker.

Häufige Fragen

Ist phi3 dasselbe wie phi4?

Nein. Die Bibliothek führt phi3 als Mini/Medium-Familie (72 Tags, 3,8B und 14B, 128K beim Default-Tag). phi4 ist ein getrennter 14B-Eintrag. Dieser Text behandelt nur phi3.

Reicht ollama pull ohne run?

ollama run zieht und startet. ollama pull zieht nur. Die Bibliotheksbeispiele für Chat und CLI bleiben ollama run phi3.

Warum antwortet die API leer?

Zuerst Serve und Tag prüfen (ollama list, ollama ps). Der Port bleibt 11434, beschrieben in Ollama Port 11434. Ohne laufenden Server liefert der Client keinen stillen Fallback.

Brauche ich Docker extra?

Nein für den Desktop- oder Linux-Dienst. Läuft Ollama im Container, zeigt der Host auf das gemappte 11434, siehe Ollama Docker.

Ist das ein zweiter Hardware-Kaufguide?

Nein. Hardware-Optionen bleiben im KI-Server Hardware-Guide. Hier geht es nur um den Modell-Tag auf einem bereits laufenden Ollama.

Fazit

„Ollama Phi-3“ ist der Pull- und Start-Pfad: ollama run phi3, Tag mit Suffix (:mini, :medium, :medium-128k), Serve dauerhaft, Chat nativ auf /api/chat. Größen stammen aus der Bibliothek, nicht aus einer eigenen VRAM-Rechnung. Kein Ranking, keine Preise.