EU AI Act: Sind Sie Anbieter oder Betreiber?

Die meiste Compliance-Arbeit bleibt an einer Frage hängen, die administrativ klingt und es nicht ist: Sind Sie Anbieter oder Betreiber? Nahezu jede Pflicht des EU AI Act knüpft an die eine oder die andere Rolle an, und die Antwort entscheidet deshalb, ob Sie technische Dokumentation erstellen und eine Konformitätsbewertung organisieren oder menschliche Aufsicht zuweisen und Protokolle aufbewahren. Unternehmen, die diese Frage überspringen, planen meist für die leichtere Rolle und entdecken die schwerere zu spät.

Dieser Leitfaden beschreibt, was jede Rolle mit sich bringt, die drei Situationen, in denen ein Betreiber unbemerkt zum Anbieter wird, und wie Sie für jedes System, das Sie einsetzen, feststellen, welche Rolle Sie innehaben. Es handelt sich um technische und organisatorische Hinweise und nicht um Rechtsberatung: Die förmliche Feststellung für ein konkretes System liegt bei Ihren Rechtsberatern.

Worin besteht der Unterschied zwischen einem Anbieter und einem Betreiber unter dem EU AI Act?

Ein Anbieter entwickelt ein KI-System oder lässt es entwickeln und bringt es unter seinem eigenen Namen oder seiner eigenen Handelsmarke auf dem EU-Markt in Verkehr oder nimmt es in Betrieb. Ein Betreiber verwendet ein KI-System in eigener Verantwortung im Rahmen einer beruflichen Tätigkeit. Die Definitionen stehen in Artikel 3 der Verordnung (EU) 2024/1689, und der praktische Test ist einfacher, als er aussieht: Steht Ihr Name auf dem System als demjenigen, der es anbietet, sind Sie der Anbieter; nutzen Sie das System eines anderen, um Ihr Geschäft zu betreiben, sind Sie der Betreiber. Ein Krankenhaus, das Triage-Software kauft, ist Betreiber. Das Unternehmen, das diese Software gebaut hat und verkauft, ist Anbieter. Entscheidend ist, dass die Rollen je System gelten und nicht je Unternehmen. Ein Hersteller medizinischer Software ist Anbieter des Produkts, das er verkauft, und Betreiber des Recruiting-Werkzeugs, das er für die eigene Personalauswahl einsetzt, und beide Pflichtenkreise gelten gleichzeitig, für unterschiedliche Systeme.

Warum die Unterscheidung so viel Gewicht trägt

Anbieterpflichten sind vorgelagert und schwer: Sie regeln, wie ein System entworfen, getestet, dokumentiert und bewertet wird, bevor es auf den Markt gelangt. Betreiberpflichten sind operativ und fortlaufend: wie das System im Alltag genutzt, beobachtet und aufgezeichnet wird. Die eine für die andere zu halten mindert Ihr Risiko nicht, es bedeutet nur, dass Sie die falschen Nachweise vorbereitet haben.

Welche Pflichten trägt ein Anbieter eines Hochrisikosystems?

Ein Anbieter eines Hochrisiko-KI-Systems trägt die volle Last aus Gestaltung und Nachweis, festgelegt in Artikel 16 und ausgeführt in dem Abschnitt, der darauf folgt. In der Praxis heißt das: ein über den gesamten Lebenszyklus gepflegtes Risikomanagementsystem (Artikel 9), Daten-Governance für Trainings-, Validierungs- und Testdaten (Artikel 10), technische Dokumentation nach dem Maßstab von Anhang IV (Artikel 11), automatische Protokollierung im System selbst (Artikel 12), eine Betriebsanleitung, die dem Betreiber die Erfüllung seiner eigenen Pflichten ermöglicht (Artikel 13), eingebaute statt vorausgesetzte menschliche Aufsicht (Artikel 14) sowie angemessene Genauigkeit, Robustheit und Cybersicherheit (Artikel 15). Zur Technik kommt die Formalität des Marktzugangs: ein Qualitätsmanagementsystem, die Konformitätsbewertung, die CE-Kennzeichnung, die Registrierung in der EU-Datenbank für Systeme nach Anhang III, die Beobachtung nach dem Inverkehrbringen und die Meldung schwerwiegender Vorfälle. Anbieter mit Sitz außerhalb der EU müssen zusätzlich einen Bevollmächtigten in der Union benennen.

Die Pflicht, die Teams unterschätzen

Die Betriebsanleitung wird als Dokumentation behandelt und ist in Wahrheit ein Steuerungsinstrument. Ein Betreiber kann seine Pflichten nur erfüllen, wenn der Anbieter die Zweckbestimmung benennt, die bekannten Grenzen, die Bedingungen, unter denen das System validiert wurde, und das, was menschliche Aufsicht hier verlangt. Vage Anleitungen schieben Risiko nach unten weiter und kommen meist als Supportaufwand und als Haftungsargument zurück.

Welche Pflichten trägt ein Betreiber eines Hochrisikosystems?

Ein Betreiber eines Hochrisiko-KI-Systems trägt operative Pflichten aus Artikel 26, die leichter wiegen als die eines Anbieters, aber alles andere als gering sind. Sie müssen das System entsprechend der Betriebsanleitung verwenden, die menschliche Aufsicht Personen übertragen, die Kompetenz, Schulung und Befugnis zum tatsächlichen Eingreifen haben, und dafür sorgen, dass die Eingabedaten der Zweckbestimmung entsprechen und hinreichend repräsentativ sind, soweit Sie diese Daten kontrollieren. Sie müssen den Betrieb überwachen, die Verwendung aussetzen und den Anbieter informieren, wenn ein System ein Risiko birgt, und die vom System erzeugten Protokolle mindestens sechs Monate aufbewahren. Wird das System am Arbeitsplatz eingesetzt, müssen Sie vor der Inbetriebnahme die Arbeitnehmervertretung und die betroffenen Beschäftigten informieren. Manche Betreiber, darunter öffentliche Stellen, private Einrichtungen, die öffentliche Dienste erbringen, und Betreiber bestimmter Kredit- und Versicherungssysteme, müssen außerdem eine Grundrechte-Folgenabschätzung nach Artikel 27 durchführen.

Protokolle sind die Pflicht, die still scheitert

Protokolle mindestens sechs Monate aufzubewahren klingt trivial, bis jemand prüft, ob die Protokolle tatsächlich erhalten bleiben, ob sie das voreingestellte Aufbewahrungsfenster eines Lieferanten überstehen und ob sich aus ihnen eine bestimmte Entscheidung rekonstruieren ließe. Das ist die Betreiberpflicht, die am häufigsten während eines Vorfalls als unerfüllt entdeckt wird, also im denkbar schlechtesten Moment. Unser Leitfaden dazu, was Sie wie lange aufbewahren, behandelt den Konflikt mit der Datenminimierung.

Wann wird ein Betreiber zum Anbieter, ohne es zu beabsichtigen?

Ein Betreiber wird in drei Situationen nach Artikel 25 zum Anbieter eines Hochrisikosystems, und alle drei lassen sich auslösen, ohne dass je eine Entscheidung getroffen wurde. Erstens: Bringen Sie Ihren Namen oder Ihre Handelsmarke auf einem Hochrisikosystem an, das bereits in Verkehr ist, gehört es Ihnen als Anbieter, was auch immer Ihr Vertrag mit dem ursprünglichen Lieferanten sagt. Zweitens, wenn Sie eine wesentliche Änderung an einem Hochrisikosystem vornehmen, das hochriskant bleibt. Drittens, wenn Sie die Zweckbestimmung eines Systems ändern, auch die eines Systems mit allgemeinem Verwendungszweck, sodass es hochriskant wird, obwohl es das vorher nicht war. Jeder dieser Fälle überträgt Ihnen den gesamten Pflichtenkreis des Anbieters, und der ursprüngliche Anbieter muss zwar mitwirken, steht aber nicht mehr in der Pflicht. Das White-Labelling eines Fremdsystems unter der eigenen Marke ist der übliche Weg dorthin, und es ist in der Regel eine kaufmännische Entscheidung, die getroffen wird, ohne dass jemand Artikel 25 liest.

Feinabstimmung und Integration

Ein Modell mit eigenen Daten feinabzustimmen oder ein Modell mit allgemeinem Verwendungszweck in einen Arbeitsablauf einzubinden, der etwas Folgenreiches über eine Person entscheidet, ist genau das Terrain, auf dem sich die Zweckbestimmung verschiebt. Die Frage lautet nicht, wie viel Code Sie geschrieben haben, sondern ob das System jetzt etwas tut, wofür das Original nicht in Verkehr gebracht wurde.

Gelten dieselben Rollen für KI-Modelle mit allgemeinem Verwendungszweck?

KI-Modelle mit allgemeinem Verwendungszweck haben eigene Anbieterpflichten, getrennt vom Hochrisiko-Regime und bereits seit dem 2. August 2025 in Kraft. Ein Anbieter eines GPAI-Modells muss technische Dokumentation führen, nachgelagerten Anbietern, die das Modell integrieren, Informationen bereitstellen, eine Urheberrechtsstrategie einführen und eine hinreichend detaillierte Zusammenfassung der Trainingsinhalte veröffentlichen. Modelle, denen ein systemisches Risiko zugeschrieben wird, bringen weitere Pflichten mit sich, darunter die Modellbewertung und die Meldung von Vorfällen. Für die meisten Unternehmen, die das hier lesen, zählt die nachgelagerte Position: Wenn Sie ein KI-System auf dem Modell mit allgemeinem Verwendungszweck eines anderen aufbauen und dieses System unter Ihrem eigenen Namen in Verkehr bringen, sind Sie der Anbieter dieses Systems, auch wenn Sie das Modell nicht trainiert haben. Die Pflichten des Modellanbieters gehen nicht auf Sie über, und Ihre gehen nicht auf ihn über.

Ändert eine der beiden Rollen die Fristen, auf die Sie hinarbeiten?

Keine der beiden Rollen ändert die Daten, denn der EU AI Act setzt Fristen nach der Pflicht und nicht danach, wer sie trägt. Die Verbote inakzeptabler Praktiken gelten seit dem 2. Februar 2025 und die Regeln für KI mit allgemeinem Verwendungszweck seit dem 2. August 2025. Der Digital Omnibus zur KI, die Verordnung (EU) 2026/1744, die am 27. Juli 2026 in Kraft getreten ist, hat die Hochrisiko-Fristen verschoben: eigenständige Hochrisikosysteme nach Anhang III gelten nun ab dem 2. Dezember 2027 und in Produkte eingebettete Hochrisiko-KI, die bereits unter das EU-Produktsicherheitsrecht nach Anhang I fällt, ab dem 2. August 2028. Artikel 4 zur KI-Kompetenz gilt für Anbieter und Betreiber gleichermaßen und ist seit Februar 2025 in Kraft. Was die Rolle sehr wohl ändert, ist die Menge an Arbeit zwischen Ihnen und diesen Daten: Ein Anbieter vor einer Konformitätsbewertung braucht deutlich mehr Vorlauf als ein Betreiber, der Aufsicht und Protokollierung organisiert.

Wie stellen Sie fest, welche Rolle Sie innehaben?

Stellen Sie die Rolle System für System und schriftlich fest, bevor Sie irgendeine Compliance-Arbeit planen, denn die Antwort bestimmt alles Weitere. Die Reihenfolge, die sich bewährt:

1. Erfassen Sie jedes KI-System, einschließlich zugekaufter Werkzeuge und KI-Funktionen in Software, die Sie bereits lizenzieren. Die meisten Bestandsaufnahmen fördern Systeme zutage, die niemand als KI gezählt hatte.
2. Fragen Sie für jedes einzelne, wessen Name darauf steht, so wie es dem Markt angeboten oder in Betrieb genommen wurde. Diese eine Frage klärt die meisten Fälle.
3. Prüfen Sie die Auslöser aus Artikel 25: Markenanbringung, wesentliche Änderung, geänderte Zweckbestimmung. Sie machen aus einem vermeintlichen Betreiber einen Anbieter.
4. Stufen Sie für jedes System das Risikoniveau ein, denn die Pflichten greifen erst, wenn ein System hochriskant ist oder Transparenzpflichten trägt. Unser Leitfaden zur Einstufung nach dem Risikorahmen führt Schritt für Schritt hindurch, und der Risikoklassifikator gibt einen ersten Anhaltspunkt.
5. Halten Sie die Begründung fest, nicht nur das Ergebnis. Wird eine Einstufung angefochten, durch das Beschaffungsteam eines Kunden oder durch eine Behörde, ist die Begründung das, was standhalten muss.

Branchenspezifika zählen an dieser Stelle: Der Weg verläuft anders für KI-Systeme im Gesundheitswesen, wo das Medizinprodukterecht danebenläuft, und für KMU in der Fertigung, wo das Maschinenrecht dies tut. Sitzen Sie ganz außerhalb der EU, ist die extraterritoriale Reichweite der Ausgangspunkt.

Häufig gestellte Fragen

Kann ein Unternehmen zugleich Anbieter und Betreiber sein?

Ja, und die meisten sind es. Die Rollen hängen am System, nicht am Unternehmen. Ein Softwarehersteller ist Anbieter des Produkts, das er verkauft, und Betreiber der HR- und Support-Werkzeuge, die er intern einsetzt. Beide Pflichtenkreise gelten gleichzeitig, für unterschiedliche Systeme, und die Nachweise fallen für jeden anders aus.

Macht uns die Nutzung des KI-Systems eines Lieferanten für dessen Dokumentation verantwortlich?

Nein. Der Anbieter erstellt die technische Dokumentation und die Konformitätsbewertung. Als Betreiber sind Sie dafür verantwortlich, das System entsprechend seiner Betriebsanleitung zu nutzen, kompetente menschliche Aufsicht zuzuweisen, es zu überwachen und Protokolle aufzubewahren. Sie sollten allerdings vor dem Kauf prüfen, ob die Dokumentation des Anbieters vorliegt, denn Ihre Pflichten hängen davon ab.

Ändert es etwas, wenn wir unser Logo auf ein zugekauftes KI-Werkzeug setzen?

Ist das System hochriskant, dann ja, und zwar erheblich. Ihren Namen oder Ihre Handelsmarke darauf anzubringen macht Sie nach Artikel 25 zu seinem Anbieter, mit der vollen Last aus Gestaltung, Dokumentation und Konformität. Das trifft White-Label-Vereinbarungen regelmäßig, weil die Entscheidung über die Marke meist kaufmännisch getroffen wird und die regulatorische Folge dabei nicht bedacht wird.

Wir nutzen KI nur intern, nie gegenüber Kunden. Sind wir trotzdem Betreiber?

Ja. Der Betreiberstatus folgt daraus, dass ein KI-System in eigener Verantwortung im Rahmen einer beruflichen Tätigkeit verwendet wird, unabhängig davon, ob das Ergebnis Kunden erreicht. Die interne Nutzung bei Einstellung, Beschäftigtenmanagement oder Zugang zu Leistungen fällt ausdrücklich in die Hochrisikokategorien, und Einsätze am Arbeitsplatz bringen eine eigene Pflicht zur Information der Arbeitnehmervertretung mit sich.

Wer ist verantwortlich, wenn ein System Schaden verursacht, der Anbieter oder der Betreiber?

Das hängt davon ab, welche Pflicht verletzt wurde, und genau deshalb zählt die Rollenfrage. Ein Fehler in Gestaltung oder Dokumentation weist auf den Anbieter; ein System außerhalb seiner Betriebsanleitung, ohne kompetente Aufsicht oder auf ungeeigneten Eingabedaten zu betreiben weist auf den Betreiber. Die eigene Rolle vorab festzustellen und festzuhalten ist das, was diese Trennung belastbar macht.