Ollama bge-m3: lokal pullen und einbetten

TL;DR

Ollama bge-m3 ist der Bibliotheks-Tag bge-m3, nicht nomic-embed-text und nicht mxbai-embed-large. Die Ollama-Bibliothek startet mit ollama pull bge-m3. Das Default-Tag bge-m3:latest teilt laut Tag-Seite den Digest 790764642607 mit bge-m3:567m und bge-m3:567m-fp16 (Artefakt 1,2 GB, Kontext 8K, Text). Die Übersicht zählt 8,4 Mio. Downloads und 3 Tags und markiert den Eintrag mit embedding und 567m. Die Readme beschreibt BGE-M3 als Modell von BAAI auf XLM-RoBERTa-Architektur, nennt mehr als 100 Arbeitssprachen und Eingaben bis 8192 Tokens. Die Embed-API liegt auf http://localhost:11434/api/embed. Gelesen in Bibliothek, Tags, Übersicht und Embed-Doku am 2026-11-11. Kein Ranking, kein Kaufguide.

Einbettung, nicht nomic-embed-text

IT-Leiter suchen „ollama bge-m3“, wenn sie den Tag bge-m3 ziehen und lokal einbetten — nicht, wenn sie den Default-Encoder nomic-embed-text ziehen. Der nomic-Pfad bleibt Ollama Embeddings. Kriterien für deutsche Fachtexte ohne Ollama-Befehlspfad bleiben im Einbettungsmodell-Vergleich. Die RAG-Kette vom PDF zur Suche bleibt KI-Server RAG. Die allgemeine Modellwahl bleibt Ollama Models.

Die Engine kommt von Ollama Download oder dem Linux-Dienst. Port und Bind-Adresse bleiben 11434. Der Python-Client kennt embed(), beschrieben in Ollama Python.

Start: ollama pull bge-m3

Die Bibliotheksseite, erster Befehl:

ollama pull bge-m3

Das zieht bge-m3:latest. Die Bibliothek zeigt den Tag als Embedding, nicht als Chat. ollama run bge-m3 ist deshalb kein Chat-Pfad. Ohne laufenden Server antwortet /api/embed nicht. Unter systemd ist das die Unit aus Ollama Service.

Ein festes Tag setzen Sie per Suffix, zum Beispiel bge-m3:567m. Vor dem Pull die aktuelle Liste auf der Tag-Seite prüfen.

Welche Tags die Bibliothek führt

Stand 2026-11-11 auf ollama.com/library/bge-m3 und der Tag-Seite. Größen sind Artefaktgrößen der Bibliothek, kein freier GPU-Speicher. Die gelisteten Tags zeigen 8K Kontext und Texteingabe. Die Tag-Seite zählt 3 Modelle.

latest, 567m und 567m-fp16 stehen auf derselben Digest-Zeile 790764642607. Die Übersicht markiert den Eintrag mit embedding und 567m.

Die Readme beschreibt BGE-M3 als Modell von BAAI, aufgebaut auf XLM-RoBERTa. Dort stehen drei Eigenschaften: Multi-Functionality (dichte, Multi-Vektor- und Sparse-Retrieval), Multi-Linguality (mehr als 100 Arbeitssprachen) und Multi-Granularity (kurze Sätze bis Dokumente mit bis zu 8192 Tokens). Das ist die Herstellerbeschreibung in der Bibliothek, keine eigene Messung.

Hardware-Optionen bleiben im KI-Server Hardware-Guide. Hier geht es nur um den Embedding-Tag auf einem bereits laufenden Ollama.

Was dieser Tag nicht ist

Ein anderer Bibliotheks-Eintrag ist nomic-embed-text (ollama pull nomic-embed-text). Den Pull-Pfad beschreibt Ollama Embeddings. mxbai-embed-large ist ein weiterer Encoder (eigene Seite in der Bibliothek, nicht dieser Tag). Chat-Tags wie Mistral oder DeepSeek gehören nicht auf /api/embed. Dieser Text behandelt nur bge-m3.

Vor dem Einsatz die aktuelle Lizenzzeile auf der Bibliotheksseite prüfen.

Open WebUI kann denselben Host für RAG nutzen; die Oberfläche bleibt OpenWebUI + Ollama.

Embed-API auf Port 11434

Die Embed-Doku setzt den lokalen Server auf http://localhost:11434. Die Route ist POST /api/embed. Pflichtfelder laut Schema: model und input. input ist ein Text oder eine Liste von Texten. Optional: truncate (Default wahr; sonst Fehler bei zu langem Input), dimensions, keep_alive, options.

Beispiel der bge-m3-Bibliothek:

curl http://localhost:11434/api/embed \
  -d '{
    "model": "bge-m3",
    "input": "Why is the sky blue?"
  }'

Python laut Bibliotheksseite:

import ollama

response = ollama.embed(
    model='bge-m3',
    input='The sky is blue because of Rayleigh scattering',
)
print(response.embeddings)

Die Antwort enthält laut Schema embeddings (Liste von Vektoren), model, total_duration, load_duration und prompt_eval_count. Die Doku-Beispiele nutzen teils embeddinggemma als Modellname; der Aufruf bleibt derselbe, sobald das Tag lokal liegt.

Läuft Ollama im Container, zeigt der Host auf das gemappte 11434, siehe Ollama Docker.

Häufige Fragen

Kann ich mit bge-m3 chatten?

Nein. Die Bibliothek führt den Tag als Embedding, nicht als Chat. Die erste Zeile der Bibliotheksseite ist ollama pull bge-m3, danach POST /api/embed.

Ist bge-m3 dasselbe wie nomic-embed-text?

Nein. Die Bibliothek führt bge-m3 als eigenen Eintrag (3 Tags, 1,2 GB, 8K). nomic-embed-text bleibt Ollama Embeddings. Dieser Text behandelt nur bge-m3.

Reicht ollama pull ohne Serve?

ollama pull legt das Artefakt ab. POST /api/embed braucht den laufenden Server. Unter systemd bleibt das Ollama Service.

Warum kommt ein Fehler statt eines Vektors?

Zuerst Serve und Tag prüfen (ollama list, ollama ps). Der Port bleibt 11434, beschrieben in Ollama Port 11434. Ist truncate falsch und der Text länger als das Kontextfenster, liefert die Doku einen Fehler statt eines gekürzten Vektors.

Brauche ich Docker extra?

Nein für den Desktop- oder Linux-Dienst. Läuft Ollama im Container, zeigt der Host auf das gemappte 11434, siehe Ollama Docker.

Ist das ein zweiter Hardware-Kaufguide?

Nein. Hardware-Optionen bleiben im KI-Server Hardware-Guide. Hier geht es nur um den Embedding-Tag auf einem bereits laufenden Ollama.

Fazit

„Ollama bge-m3“ ist der Pull- und API-Pfad: zuerst ollama pull bge-m3, Serve dauerhaft, Vektoren nativ auf /api/embed. latest, 567m und 567m-fp16 teilen Digest und 1,2 GB. nomic-embed-text ist ein anderer Eintrag. Größen stammen aus der Bibliothek, nicht aus einer eigenen VRAM-Rechnung. Kein Ranking, keine Preise.