KI-Team aufbauen: Rollen und Gehälter 2026

TL;DR

Ein KI-Team im Mittelstand startet mit drei Rollen: ML Engineer (€65.000–€85.000), Data Engineer (€58.000–€75.000) und KI-Projektleiter (€72.000–€95.000). Gesamtkosten im ersten Jahr: €195.000–€255.000 inklusive Infrastruktur. Alternativ: Ein interner KI-Lead plus externer Dienstleister für €120.000–€160.000 im ersten Jahr.

Warum der Mittelstand eigene KI-Kompetenz braucht

Externe Beratung ist gut für den Start. Aber jedes Unternehmen, das KI strategisch nutzen will, braucht internes Know-how. Ohne eigene Leute verstehen Sie weder, was der Dienstleister liefert, noch können Sie Ergebnisse bewerten oder Modelle nach dem Go-Live weiterentwickeln.

Ein Maschinenbauer mit 280 Mitarbeitern berichtet: Nach zwei Jahren mit rein externer KI-Beratung hatte das Unternehmen vier Modelle im Einsatz, aber niemanden, der sie warten konnte. Jede Anpassung kostete €8.000–€15.000 beim Dienstleister. Mit einem internen ML Engineer sanken die laufenden Kosten um 62 %.

Die drei Kernrollen im KI-Team

ML Engineer: Das technische Rückgrat

Der ML Engineer trainiert Modelle, baut Pipelines und deployt in Produktion. Im Mittelstand ist das oft eine Vollzeit-Rolle, die 70 % der technischen KI-Arbeit abdeckt.

Gehaltsspanne Deutschland 2026: €65.000–€85.000 brutto/Jahr (Berufserfahrung 2–5 Jahre). In München und Frankfurt 10–15 % höher, in Sachsen und Thüringen 10–15 % niedriger.

Muss-Kompetenzen: Python, PyTorch oder TensorFlow, SQL, Docker, Git. Erfahrung mit mindestens einem Cloud-Provider (Azure, AWS) oder Self-Hosted-Infrastruktur.

Data Engineer: Die Daten-Pipeline

Ohne saubere Daten kein funktionierendes Modell. Der Data Engineer sorgt dafür, dass Daten aus ERP, CRM und Maschinen zuverlässig fließen, transformiert und versioniert werden.

Gehaltsspanne Deutschland 2026: €58.000–€75.000 brutto/Jahr. Data Engineers sind leichter zu finden als ML Engineers, weil die Rolle näher am klassischen ETL-Entwickler liegt.

Muss-Kompetenzen: SQL, Python, Airflow oder Prefect, dbt, Erfahrung mit mindestens einem Data Warehouse (Snowflake, BigQuery, PostgreSQL).

KI-Projektleiter: Die Brücke zum Business

Die technisch anspruchsvollste Rolle im KI-Team ist nicht die technischste. Der KI-Projektleiter übersetzt Geschäftsanforderungen in ML-Probleme und ML-Ergebnisse in Geschäftswert. Ohne diese Rolle entstehen technisch brillante Modelle, die niemand nutzt.

Gehaltsspanne Deutschland 2026: €72.000–€95.000 brutto/Jahr. Idealerweise jemand mit technischem Hintergrund und Branchenerfahrung.

Teamaufbau: Drei Szenarien

# Szenario-Vergleich KI-Teamaufbau
szenario_1_minimal:
  name: "Interner Lead + Externe"
  team: "1 KI-Projektleiter intern, ML/Data extern"
  jahreskosten_eur: 140000
  geeignet_fuer: "Erste 12 Monate, 1-2 Use Cases"
  vorteil: "Geringes Risiko, schneller Start"

szenario_2_kern:
  name: "3-Personen-Kernteam"
  team: "KI-Projektleiter + ML Engineer + Data Engineer"
  jahreskosten_eur: 235000
  geeignet_fuer: "3-5 Use Cases parallel"
  vorteil: "Volle Kontrolle, schnelle Iteration"

szenario_3_skaliert:
  name: "Skaliertes Team"
  team: "Kernteam + 2 Junior ML Engineers + MLOps"
  jahreskosten_eur: 420000
  geeignet_fuer: "KI als strategische Kernkompetenz"
  vorteil: "Eigenständige Forschung und Entwicklung"

Für die meisten Mittelständler ist Szenario 1 der richtige Einstieg. Nach 12 Monaten wechseln Sie zu Szenario 2, sobald der ROI der ersten Projekte den Ausbau rechtfertigt.

Recruiting-Strategie für den Mittelstand

Data Scientists und ML Engineers zieht es in Großstädte und Konzerne. Mittelständler in ländlichen Regionen müssen anders rekrutieren:

Remote-first: 73 % der ML Engineers bevorzugen Remote-Arbeit. Bieten Sie mindestens 3–4 Tage Remote an. Das erweitert Ihren Kandidatenpool von der Region auf ganz Deutschland.

Quereinstieg ermöglichen: Physiker, Mathematiker und Informatiker mit Promotion bringen die analytischen Fähigkeiten mit. Die ML-spezifischen Skills lernen sie in 3–6 Monaten on the job.

Hochschulkooperationen: Masterarbeiten und Werkstudenten sind der günstigste Recruiting-Kanal. Ein Werkstudent kostet €1.200–€1.800/Monat und kann nach dem Abschluss direkt übernommen werden.

Budget: Gesamtkosten im ersten Jahr

Neben den Gehältern fallen Infrastrukturkosten an. Eine realistische Planung für das erste Jahr mit einem 3-Personen-Team:

Die detaillierte Budgetplanung für KI hilft Ihnen, die Kosten auf Ihre Situation anzupassen. Typischerweise amortisiert sich ein KI-Team ab dem zweiten Jahr durch Prozessoptimierungen von €150.000–€300.000.

Fehler beim Teamaufbau vermeiden

Fehler 1: Nur Techniker einstellen. Ohne Business-Verständnis entstehen Lösungen, die niemand nutzt. Der KI-Projektleiter ist die wichtigste Rolle.

Fehler 2: Zu schnell skalieren. Starten Sie mit drei Personen. Erst wenn die ersten Use Cases produktiv laufen und der KI-Implementierungsprozess etabliert ist, erweitern Sie.

Fehler 3: Kein Karrierepfad. ML Engineers wechseln nach 18 Monaten, wenn es keine Entwicklungsperspektive gibt. Bieten Sie Konferenzbesuche, Publikationsmöglichkeiten und technische Verantwortung.

Häufige Fragen

Kann ein einzelner Mitarbeiter das KI-Team ersetzen?

Ein „Full-Stack ML Engineer" kann Prototypen bauen, aber nicht gleichzeitig Daten-Pipelines warten, Modelle trainieren und Stakeholder managen. Ab zwei produktiven Use Cases brauchen Sie mindestens zwei Personen.

Lohnt sich ein KI-Team ab welcher Unternehmensgröße?

Ab 100 Mitarbeitern und mindestens drei identifizierten KI-Use-Cases rechnet sich ein internes Team. Unter 100 Mitarbeitern ist das Modell „interner Lead + externer Partner" wirtschaftlicher. Der Komplett-Leitfaden zeigt die Entscheidungskriterien.

Wie lange dauert es, bis ein neues KI-Team produktiv ist?

Rechnen Sie mit 3–6 Monaten bis zum ersten produktiven Modell. Die Einarbeitungszeit in Unternehmensdaten und -prozesse ist der Engpass, nicht die technischen Skills.

Sollte das KI-Team in der IT oder im Fachbereich angesiedelt sein?

Weder noch. Idealerweise als eigenständige Einheit mit dotted line zur IT (für Infrastruktur) und zum Fachbereich (für Use Cases). Direktes Reporting an die Geschäftsführung sichert strategische Relevanz.

Kann ich KI-Kompetenz auch durch Weiterbildung aufbauen?

Teilweise. Bestehende Softwareentwickler können in 6–12 Monaten ML-Grundlagen lernen. Für fortgeschrittene Themen wie Custom Model Training oder MLOps brauchen Sie Spezialisten mit Vorerfahrung.