Der AI-Stack: fünf Schichten, die zusammenpassen müssen

TL;DR

Ob Prototyp oder Unternehmenslösung: Ein Modell allein löst selten echte Probleme. Der Stack hat fünf Schichten — Infrastruktur (Hardware), Modell, Daten/RAG, Orchestrierung, Application. Jede Entscheidung wirkt auf Qualität, Geschwindigkeit, Kosten und Sicherheit.

Schicht 1: Infrastruktur

LLMs brauchen in der Regel AI-Hardware, vor allem GPUs. Drei Deployment-Wege:

Nicht jedes Modell läuft auf Standard-CPU-Servern. Die Hardware-Wahl begrenzt Modellgröße und Nutzerzahl — siehe Inference-Kosten und GPU-Server-Familien.

Schicht 2: Modelle

Drei Dimensionen der Wahl:

1. Open vs. proprietary — Kontrolle und Hosting vs. API-Komfort
2. Größe — Large Language Models vs. Small Language Models (leichter, spezialisierter)
3. Spezialisierung — Reasoning, Tool Calling, Code, Sprache

Kataloge wie Hugging Face listen Millionen Varianten. Die richtige Wahl hängt von Hardware-Budget und Aufgabe ab — nicht vom Hype.

Schicht 3: Daten

Modelle haben einen Knowledge Cutoff. Domänenwissen (z. B. aktuelle Fachpapers) kommt über:

• Datenquellen und Pipelines (Pre-/Post-Processing)
• Embeddings und Vektordatenbanken
• RAG — Retrieval ergänzt den Prompt mit externem Kontext

Ohne Daten-Schicht halluziniert das System oder bleibt bei öffentlichen Trainingsdaten stehen. Praxis: RAG-Pipeline aufbauen.

Schicht 4: Orchestrierung

Komplexe Aufgaben sind selten „ein Prompt, eine Antwort". Orchestrierung zerlegt die Anfrage:

• Planen / Reasoning
• Tool- und Function-Calling
• Review und Feedback-Loops

Protokolle wie MCP und Agent-Architekturen entwickeln sich schnell. Hier sitzt oft der Unterschied zwischen Demo und produktivem System.

Schicht 5: Application

Am Ende steht ein Nutzer. Die Schicht umfasst:

• Interfaces: Text, Bild, Audio, Tabellen — nicht nur Chat
• Revisionen und Zitate: Ergebnisse prüfen und nachfragen
• Integrationen: Eingaben aus Fachtools, Ausgaben zurück in Workflows

Warum die Schichten zusammengehören

Eine Entscheidung in der Hardware begrenzt das Modell. Das Modell begrenzt, was RAG und Agents sinnvoll leisten. Schlechte Orchestrierung verschwendet teure GPU-Zeit. Eine schwache UI verhindert Adoption — egal wie gut der Server ist.

Die ehrliche Einordnung:

1. Nicht alles selbst bauen — Managed-Schichten sind legitim, wenn klar ist, was man abgibt.
2. Hardware zuerst dimensionieren — sonst scheitert das beste Modell am VRAM.
3. Daten schlagen Modellgröße — für Fachaufgaben oft mehr als der nächste Parameter-Sprung.
4. Orchestrierung reift schnell — Architektur anpassbar halten.
5. UI ist Teil der Architektur — nicht „später das Frontend".

Häufige Fragen

Reicht „wir nehmen GPT und eine UI"?

Für Demos ja. Für Domänenwissen, Datenschutz und Kosten brauchen Sie Infrastruktur- und Daten-Entscheidungen bewusst.

On-Prem oder Cloud zuerst?

Viele starten hybrid: Cloud für Spitzen, On-Prem für sensible Dauerlast. Die Stack-Logik bleibt gleich.

Wo anfangen?

Mit Use Case und Daten — dann Modell und Hardware fit machen. Orientierung: KI-Plattform aufbauen.

Fazit

Der AI-Stack ist kein Buzzword, sondern eine Checkliste: Hardware, Modell, Daten, Orchestrierung, Application. Wer die Schichten kennt, trifft praktische Entscheidungen statt isolierter Tool-Käufe.

Wir helfen, den Stack für Ihren Use Case zuzuschneiden — von GPU-Dimensionierung bis RAG und Gateway.