Deployer-Pflichten nach der KI-Verordnung: Was KMU-Betreiber von Hochrisiko-KI konkret tun müssen

Die Risikobewertung ist gemacht, die Tools sind eingestuft. Und jetzt? Art. 26 der KI-Verordnung (2024/1689) listet sechs konkrete Pflichten für jeden Betreiber (Deployer) eines hochriskanten KI-Systems. Die meisten KMU unterschätzen den Aufwand nicht, weil die Pflichten komplex wären, sondern weil sie gar nicht wissen, dass sie Betreiber sind. Wer KI-Matching in der Zeitarbeit einsetzt, ein Scoring-Tool für Versicherungsrisiken nutzt oder automatisierte Kandidatenbewertungen laufen lässt, ist Betreiber im Sinne der Verordnung.

Dieser Artikel erklärt die sechs Betreiberpflichten nach Art. 26, klärt die Frage der EU-Datenbank-Registrierung, zeigt die drei Situationen, in denen ein Betreiber ungewollt zum Anbieter wird, und liefert eine 90-Tage-Checkliste für die ersten drei Monate nach Inbetriebnahme.

Die sechs Betreiberpflichten nach Art. 26

Art. 26 unterscheidet nicht nach Unternehmensgröße. Ein 8-Personen-Personaldienstleister hat dieselben Grundpflichten wie ein Konzern. Die KMU-Erleichterungen aus dem Digital Omnibus betreffen die Dokumentationsform, nicht die Substanz. Hier die sechs Pflichten im Einzelnen.

1. Einsatz gemäß Gebrauchsanweisung. Der Betreiber muss das KI-System so einsetzen, wie es der Anbieter in der Gebrauchsanweisung vorgesehen hat. Das klingt banal, hat aber Konsequenzen: Wer ein Tool für einen Zweck nutzt, den der Anbieter nicht dokumentiert hat, verlässt den sicheren Boden. Die Gebrauchsanweisung ist nicht das Marketing-PDF, sondern das technische Dokument nach Art. 13.
2. Menschliche Aufsicht sicherstellen. Art. 14 verlangt, dass eine geschulte natürliche Person die Ergebnisse des KI-Systems überwachen, Anomalien erkennen und das System nötigenfalls stoppen kann. Für ein 10-Personen-Büro heißt das: eine namentlich benannte Person, die das Tool versteht, die Ergebnisse prüft und bei Auffälligkeiten eingreift. Nicht jeder muss alles können, aber jemand muss zuständig sein.
3. Eingabedaten überwachen. Art. 26 Abs. 4 verlangt, dass Eingabedaten relevant und hinreichend repräsentativ für den vorgesehenen Zweck sind. In der Praxis: Wenn Ihr Kandidatenprofil-Bestand nur unvollständige Freitext-Lebensläufe enthält, liefert das KI-Matching schlechte Ergebnisse. Die Datenqualität zu prüfen ist keine Option, sondern Pflicht.
4. Protokolle aufbewahren. Die automatisch erzeugten Logs des KI-Systems müssen mindestens sechs Monate aufbewahrt werden, sofern nicht andere Rechtsvorschriften längere Fristen verlangen. Fragen Sie Ihren Anbieter, wo die Logs gespeichert werden und wie Sie darauf zugreifen.
5. Arbeitnehmer und Vertretungen informieren. Art. 26 Abs. 7 verlangt, dass Betreiber ihre Arbeitnehmer und deren Vertretungen darüber informieren, dass sie einem hochriskanten KI-System unterliegen. In Zeitarbeitsfirmen mit Betriebsrat ist das eine Mitbestimmungsfrage nach § 87 BetrVG.
6. Schwerwiegende Vorfälle melden. Wenn das KI-System einen schwerwiegenden Vorfall verursacht (Tod, Gesundheitsschaden, schwerwiegende Grundrechtsverletzung), muss der Betreiber die Marktüberwachungsbehörde und den Anbieter unverzüglich informieren. In Deutschland ist die Bundesnetzagentur zuständig.

EU-Datenbank: Wer muss registrieren?

Art. 49 der KI-Verordnung regelt die Registrierung in der EU-Datenbank für hochriskante KI-Systeme (Art. 71). Die Pflichten sind asymmetrisch verteilt:

• Anbieter müssen sich und jedes hochriskante System vor dem Inverkehrbringen registrieren. Das ist nicht Ihre Aufgabe als Betreiber.
• Öffentliche Betreiber (Behörden und deren Auftragnehmer) müssen ihren Einsatz des Systems in der EU-Datenbank registrieren.
• Private Betreiber haben keine generelle Registrierungspflicht in der EU-Datenbank. Die Ausnahme: bestimmte sensible Bereiche wie biometrische Kategorisierung oder Emotionserkennung (Anhang III Nr. 8).

Für die meisten KMU in Steuerkanzleien, Maklerbüros und Zeitarbeitsfirmen besteht keine EU-Datenbank-Registrierungspflicht. Die Dokumentation im eigenen KI-Verzeichnis bleibt aber verpflichtend. Und die Grundrechte-Folgenabschätzung nach Art. 27 gilt für private Betreiber, die öffentlich zugängliche Dienste in den Bereichen 5 bis 8 des Anhangs III erbringen.

Wann ein Betreiber zum Anbieter wird

Art. 25 enthält drei Auslöser, bei denen ein Betreiber plötzlich die vollen Anbieterpflichten übernimmt. Das ist die teuerste Falle in der gesamten Verordnung, denn Anbieterpflichten umfassen Konformitätsbewertung, CE-Kennzeichnung und technische Dokumentation.

1. Eigener Name oder eigene Marke. Wer ein hochriskantes KI-System unter eigenem Namen oder eigener Marke auf den Markt bringt oder in Betrieb nimmt, wird zum Anbieter. Das betrifft Whitelabel-Lösungen: Wenn Ihr Personaldienstleister das KI-Matching des ATS-Anbieters als „unsere KI-gestützte Vermittlung" vermarktet, kann das die Schwelle überschreiten.
2. Zweckänderung. Wer die Zweckbestimmung eines KI-Systems so ändert, dass es hochriskant wird, wird zum Anbieter. Beispiel: Ein Chatbot (begrenztes Risiko) wird so erweitert, dass er Bewerber automatisch bewertet und filtert. Das wäre eine Zweckänderung in den Hochrisikobereich Anhang III Nr. 4a.
3. Wesentliche Änderung. Fine-Tuning eines Sprachmodells mit eigenen Mandantendaten, Kombination mehrerer KI-Module zu einem neuen Gesamtsystem, Einsatz von RAG (Retrieval-Augmented Generation) mit eigenen Datenbanken: Jede dieser Maßnahmen kann eine „wesentliche Änderung" im Sinne von Art. 25 darstellen. Die Grenze ist nicht trennscharf. Im Zweifel: rechtliche Prüfung vor der Änderung, nicht danach.

Menschliche Aufsicht: Was „angemessen" für ein kleines Büro heißt

Art. 14 verlangt, dass hochriskante KI-Systeme so gebaut sind, dass natürliche Personen sie wirksam beaufsichtigen können. Die Pflicht, diese Aufsicht tatsächlich auszuüben, liegt beim Betreiber (Art. 26 Abs. 2). Für ein 5- bis 20-Personen-Büro bedeutet das konkret:

• Person benennen. Ein Mitarbeiter ist namentlich verantwortlich. Diese Person muss das KI-System verstanden haben: was es tut, welche Daten es verarbeitet, welche Grenzen es hat. Die Kompetenzpflicht nach Art. 4 verlangt eine dokumentierte Schulung.
• Ergebnisse prüfen. Nicht jedes einzelne Ergebnis muss manuell kontrolliert werden. Aber die verantwortliche Person muss in der Lage sein, systematische Fehler zu erkennen. In der Zeitarbeit: Wenn das KI-Matching bestimmte Kandidatengruppen systematisch benachteiligt, muss das auffallen.
• Stoppen können. Die Person muss das System außer Betrieb nehmen können, wenn es Fehler produziert oder Risiken erzeugt. Das muss technisch möglich und organisatorisch geregelt sein.
• Automatisierungsbias vermeiden. Art. 14 Abs. 4 Buchstabe b nennt den „Automation Bias" ausdrücklich. Die Aufsichtsperson darf sich nicht darauf verlassen, dass die KI schon richtig liegt. Schulung und Prozessgestaltung müssen das verhindern.

In der Praxis: In einer Steuerkanzlei, die DATEV-Buchungsvorschläge nutzt, ist die menschliche Aufsicht bereits eingebaut: Der Steuerberater prüft jeden Vorschlag. Bei KI-Matching in der Zeitarbeit, wo ein Algorithmus Hunderte Profile pro Tag bewertet, braucht es ein systematisches Monitoring statt Einzelprüfung.

90-Tage-Checkliste: Die ersten drei Monate nach Inbetriebnahme

Wer ein hochriskantes KI-System in Betrieb nimmt, sollte die folgenden Schritte innerhalb von 90 Tagen abgeschlossen haben. Die Frist ist kein Gesetz, sondern eine pragmatische Strukturierung. Die Pflichten gelten ab dem ersten Tag.

Monat 1: Grundlagen schaffen

• Gebrauchsanweisung des Anbieters beschaffen und lesen (nicht das Marketing-Material)
• Risikoeinstufung dokumentieren: Ist das System tatsächlich hochriskant? Greift die Art.-6(3)-Ausnahme?
• Verantwortliche Person für menschliche Aufsicht benennen und schulen
• Eintrag im KI-Verzeichnis anlegen: Tool, Anbieter, Risikostufe, verantwortliche Person, Eingabedaten, Einsatzzweck

Monat 2: Prozesse aufsetzen

• Log-Zugang klären: Wo speichert der Anbieter die Protokolle? Wie exportieren Sie diese? Sechsmonatige Aufbewahrung sicherstellen
• Eingabedaten prüfen: Sind die Daten relevant und repräsentativ? Bei mangelhafter Datenqualität zuerst bereinigen
• Arbeitnehmer und Betriebsrat informieren (Art. 26 Abs. 7). Dokumentieren, dass die Information erfolgt ist
• Prüfen, ob eine Grundrechte-Folgenabschätzung nach Art. 27 nötig ist (Bereiche 5 bis 8, öffentlich zugängliche Dienste)

Monat 3: Routinen etablieren

• Vierteljährliche Überprüfung einrichten: Funktioniert das System wie vorgesehen? Gibt es systematische Fehler?
• Eskalationsprozess für schwerwiegende Vorfälle definieren: Wer meldet an wen, innerhalb welcher Frist?
• Prüfen, ob eigene Anpassungen (Fine-Tuning, RAG, Zweckänderung) die Art.-25-Schwelle überschreiten könnten
• Compliance-Dokumentation zusammenführen: Alle Nachweise in einem Ordner, der bei einer Prüfung vorgelegt werden kann

Wer KI-Governance und Bereitschafts-Check bereits abgeschlossen hat, kann den 90-Tage-Fahrplan für das KI-Projekt mit dieser Compliance-Checkliste synchronisieren. Die Schritte überlappen sich: Datenqualität prüfen, Verantwortlichkeiten festlegen und dokumentieren.