Betreiber oder Anbieter? Die Rollenfrage im EU AI Act

TL;DR

Wer Claude in einer eigenen Anwendung nutzt, ist zunächst Betreiber — mit einem überschaubaren Pflichtenkatalog. Drei Handlungen machen Sie zum Anbieter und damit zum Träger der vollen Pflichten eines Hochrisiko-Systems: das eigene Kennzeichen daraufsetzen, den Zweckbestimmung ändern, oder wesentlich verändern.

Warum die Frage vor allen anderen kommt

Der EU AI Act verteilt Pflichten nach Rollen, nicht nach Unternehmensgröße. Dieselbe Technik kann für zwei Häuser völlig unterschiedliche Anforderungen auslösen — je nachdem, was sie damit tun.

Die vier Rollen, die praktisch vorkommen:

Die Pflichten für das Basismodell selbst — Trainingsdokumentation, Urheberrechtsrichtlinie, Sicherheitsbewertung — liegen bei Anthropic. Das ist die gute Nachricht und der Grund, warum die Nutzung eines fremden Modells regulatorisch günstiger ist als ein Eigenbau.

Als Betreiber: was Sie ohnehin tun müssen

Die Betreiberpflichten sind überschaubar und gelten unabhängig von der Risikoklasse teilweise schon heute:

KI-Kompetenz (Artikel 4) — gilt seit Februar 2025, für jedes Unternehmen und jedes KI-System. Beschäftigte, die das System bedienen, müssen dessen Funktionsweise, Grenzen und Risiken einschätzen können, nachweisbar. Eine dokumentierte Schulung von ein bis zwei Stunden im Jahr mit Teilnehmerliste erfüllt das.

Transparenz (Artikel 50) — Nutzer müssen erkennen können, dass sie mit einem KI-System interagieren. Bei einem Kundenassistenten heißt das ein sichtbarer Hinweis, kein Passus in den Nutzungsbedingungen.

Verbotene Praktiken (Artikel 5) — ebenfalls seit Februar 2025. Für den Mittelstand vor allem relevant: Emotionserkennung am Arbeitsplatz ist verboten, mit dem höchsten Bußgeldrahmen der Verordnung.

Bei Hochrisiko-Systemen kommen ab Dezember 2027 dazu: Nutzung entsprechend der Anweisungen des Anbieters, menschliche Aufsicht durch dafür geeignete Personen, Überwachung des Betriebs, Aufbewahrung der automatisch erzeugten Protokolle und die Information betroffener Personen.

Das ist beherrschbar. Die Einordnung, welche Systeme überhaupt als Hochrisiko gelten, steht im Beitrag zu Hochrisiko-Systemen im Mittelstand.

Die drei Handlungen, die Sie zum Anbieter machen

Hier wird es unangenehm. Ein Betreiber eines Hochrisiko-Systems gilt als Anbieter — mit dem vollen Pflichtenkatalog —, wenn er eine dieser drei Handlungen vornimmt:

1. Er bringt das System unter seinem eigenen Namen oder seiner eigenen Marke in Verkehr.

Der praktisch häufigste Fall, und er trifft Softwarehäuser. Sie bauen auf Claude eine Anwendung zur Bewerbervorauswahl und verkaufen sie unter Ihrem Produktnamen an Kunden — dann sind Sie Anbieter dieses Systems. Dass das Modell dahinter von Anthropic stammt, ändert daran nichts.

2. Er ändert die Zweckbestimmung eines bereits in Verkehr gebrachten Hochrisiko-Systems.

Sie setzen ein System, das für einen bestimmten Zweck bereitgestellt wurde, für einen anderen ein, der es in die Hochrisiko-Kategorie bringt.

3. Er nimmt eine wesentliche Änderung vor.

Die Abgrenzung ist im Einzelfall auslegungsbedürftig. Ein anderer Systemprompt ist es in aller Regel nicht. Ein zusätzlich trainiertes Modell, eine geänderte Entscheidungslogik oder eine neue Ausgabeverwertung können es sein.

Was das bedeutet: Als Anbieter eines Hochrisiko-Systems schulden Sie Risikomanagementsystem, Daten-Governance, technische Dokumentation, Protokollierung, Transparenzinformationen, menschliche Aufsicht, Genauigkeits- und Robustheitsanforderungen, ein Qualitätsmanagementsystem, eine Konformitätsbewertung, die CE-Kennzeichnung und eine EU-Konformitätserklärung.

Das ist ein Projekt von Monaten, nicht von Wochen.

Die Entscheidungsregel

Zwei Fragen, in dieser Reihenfolge:

Frage 1: Ist mein System überhaupt Hochrisiko nach Anhang III?

Wenn nein — und für die meisten Anwendungen im Mittelstand lautet die Antwort nein —, ist die Anbieter-Betreiber-Frage weitgehend entschärft. Interne Wissenssuche, Textformulierung, Zusammenfassung, technische Dokumentation, Qualitätskontrolle: alles unkritisch. Es bleiben Artikel 4 und 50.

Wenn ja — Bewerberauswahl, Personalentscheidungen, Kreditwürdigkeit, kritische Infrastruktur — dann weiter zu Frage 2.

Frage 2: Verkaufe ich das System, oder nutze ich es selbst?

Nur selbst nutzen: Betreiber. Unter eigenem Namen an Dritte geben: Anbieter.

Der Fall, den wir am häufigsten sehen und der die meisten Häuser überrascht: Ein Unternehmen baut intern ein Werkzeug zur Bewerbervorauswahl, es funktioniert, und der Vertrieb schlägt vor, es auch anderen anzubieten. Damit wechselt die Rolle — und der Aufwand vervielfacht sich.

Der Zeitplan

Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten seit dem Digital Omnibus vom Mai 2026 erst ab dem 2. Dezember 2027, für KI als Sicherheitsbauteil regulierter Produkte nach Anhang I ab dem 2. August 2028.

Verschoben wurde ausschließlich der Geltungsbeginn — nicht die Einstufung, nicht die verbotenen Praktiken, nicht die Kompetenzpflicht, nicht die Transparenzpflichten und nicht die Bußgeldrahmen.

Wer heute plant, sollte den Unterschied kennen: Ein Betreiber kann bis Mitte 2027 warten. Ein Anbieter braucht Vorlauf, weil eine Konformitätsbewertung Zeit kostet und die harmonisierten Normen — deren Fehlen der Grund für die Verschiebung war — erst noch vorliegen müssen.

Wie sich das mit einer Zertifizierung nach ISO 42001 verzahnt, steht im Beitrag zu ISO 42001 im Mittelstand.

Häufig gestellte Fragen

Bin ich Anbieter, wenn ich eine Anwendung auf Claude baue?

Nur wenn Sie sie unter eigenem Namen oder eigener Marke in Verkehr bringen. Wer ein System ausschließlich intern nutzt, ist Betreiber. Die Pflichten für das zugrunde liegende Modell mit allgemeinem Verwendungszweck liegen unabhängig davon bei Anthropic.

Macht mich ein eigener Systemprompt zum Anbieter?

In aller Regel nicht. Als wesentliche Änderung im Sinne der Verordnung gilt ein angepasster Systemprompt üblicherweise nicht. Anders kann es bei zusätzlich trainierten Modellen, geänderter Entscheidungslogik oder einer veränderten Zweckbestimmung liegen — dort ist die Abgrenzung auslegungsbedürftig und im Einzelfall zu prüfen.

Welche Pflichten treffen mich als Betreiber sofort?

Drei, unabhängig von der Risikoklasse: die KI-Kompetenzpflicht nach Artikel 4 und das Verbot bestimmter Praktiken nach Artikel 5, beide seit Februar 2025, sowie die Transparenzpflichten nach Artikel 50. Die weitergehenden Betreiberpflichten für Hochrisiko-Systeme greifen ab Dezember 2027.

Was passiert, wenn wir ein internes Werkzeug später verkaufen?

Dann wechselt Ihre Rolle vom Betreiber zum Anbieter — und bei einem Hochrisiko-System kommen Risikomanagement, technische Dokumentation, Qualitätsmanagementsystem, Konformitätsbewertung und CE-Kennzeichnung hinzu. Das ist ein Vorhaben von Monaten. Klären Sie die Rollenfrage deshalb, bevor eine Vertriebsentscheidung fällt, nicht danach.

Trägt Anthropic die Pflichten für das Modell?

Für das Modell mit allgemeinem Verwendungszweck ja — Trainingsdokumentation, Urheberrechtsrichtlinie und die zugehörigen Nachweise liegen beim Modellanbieter. Für das System, das Sie darauf bauen, und für dessen Einsatz tragen Sie die Verantwortung. Die Rollen sind getrennt, und die Pflichten wandern nicht mit dem Modell zu Ihnen.

Der nächste Schritt

Beantworten Sie die beiden Fragen für jedes Ihrer KI-Systeme: Hochrisiko nach Anhang III, ja oder nein? Und: selbst nutzen oder verkaufen? Aus diesen zwei Antworten folgt Ihr gesamter Pflichtenkatalog — und für die meisten Systeme im Mittelstand lautet das Ergebnis "unkritisch". Bei der Einstufung schauen wir gern mit.