Der EU AI Act betrifft auch Sie ohne Hochrisiko-KI

Viele Geschäftsführungen mittelständischer Unternehmen ordnen den EU AI Act als Thema für Technologiekonzerne oder für hochregulierte Anwendungen wie Kreditvergabe und medizinische Diagnostik ein. Beides ist teilweise richtig – und trotzdem trägt jedes Unternehmen, das KI-Systeme einsetzt, unabhängig von Größe oder Branche, bereits heute Pflichten aus der Verordnung.

Die praktische Folge: Ein Unternehmen, das ChatGPT im Arbeitsalltag einsetzen lässt, einen Chatbot auf der Website betreibt oder Bewerbungen mit KI-Unterstützung vorsortiert, hat regulatorische Pflichten – unabhängig davon, ob jemand im Haus das bereits registriert hat.

Das gilt unabhängig von der Unternehmensgröße. Ein Unternehmen mit fünfzig Mitarbeitenden trägt dieselben Grundpflichten wie ein Konzern, nur mit weniger Ressourcen, sie umzusetzen. Genau deshalb lohnt sich ein pragmatischer, auf das Wesentliche fokussierter Ansatz mehr als der Versuch, jede denkbare Eventualität sofort zu regeln.

Der EU AI Act tritt gestaffelt in Kraft. Seit Februar 2025 gelten das Verbot bestimmter KI-Praktiken und die Pflicht zu ausreichender KI-Kompetenz im Unternehmen nach Artikel 4 – für Mitarbeitende, die KI-Systeme einsetzen oder deren Ergebnisse verantworten. Seit August 2025 gelten Pflichten für Anbieter von General-Purpose-KI-Modellen sowie die Governance-Strukturen der Mitgliedstaaten.

Seit August 2026 gilt der Großteil der übrigen Vorschriften: die Anforderungen an Hochrisiko-Systeme nach Anhang III und Transparenzpflichten, etwa die Kennzeichnung KI-generierter Inhalte und der Hinweis, dass eine Kundeninteraktion mit einem Chatbot statt mit einem Menschen stattfindet. Für Hochrisiko-Systeme, die in bereits regulierte Produkte eingebettet sind – etwa Medizinprodukte oder Maschinen – gilt eine längere Übergangsfrist bis August 2027.

Die Pflicht zu ausreichender KI-Kompetenz klingt abstrakt, ist aber konkret gemeint: Mitarbeitende, die ein KI-System bedienen oder dessen Ergebnisse verantworten, müssen so geschult sein, dass sie Fähigkeiten und Grenzen des Systems einschätzen können. Das reicht von einer Kundenservice-Mitarbeiterin, die einen Antwortvorschlag eines Agenten prüft, bis zur Führungskraft, die eine KI-gestützte Kennzahl in eine Entscheidung übernimmt.

Für die meisten Unternehmen heißt das in der Praxis: eine kurze, rollenspezifische Schulung statt eines allgemeinen KI-Vortrags für alle, dokumentiert mit Datum und Teilnehmerliste. Diese Dokumentation ist im Zweifel der einzige Nachweis, dass die Pflicht erfüllt wurde – nur der Beleg zählt. Eine sinnvolle Faustregel: Wer ein KI-System bedient, braucht eine andere Schulung als wer nur dessen Ergebnisse konsumiert – die Tiefe der Kompetenz muss zur Nähe zum System passen.

Die verbotenen Praktiken – etwa Social Scoring oder bestimmte manipulative Techniken – betreffen die wenigsten mittelständischen Anwendungsfälle, sollten aber einmal geprüft und dokumentiert ausgeschlossen werden. Praktisch relevanter sind zwei andere Pflichten: Transparenz gegenüber Kunden, wenn ein Chatbot oder KI-generierter Inhalt im Einsatz ist, und die KI-Kompetenz der Mitarbeitenden, die mit diesen Systemen arbeiten.

Wer KI in Personalentscheidungen – etwa Bewerbervorauswahl oder Leistungsbeurteilung – oder in der Kreditvergabe einsetzt, bewegt sich häufig im Bereich der Hochrisiko-Systeme nach Anhang III und trägt dort deutlich weitergehende Pflichten: Risikomanagement, Dokumentation, menschliche Aufsicht. Diese Einordnung sollte im Einzelfall rechtlich geprüft werden, nicht pauschal angenommen oder ausgeschlossen werden.

Eine oft unterschätzte Quelle ist die Nutzung öffentlich verfügbarer KI-Werkzeuge durch Mitarbeitende ohne Freigabe – etwa wenn vertrauliche Vertragsentwürfe oder Kundendaten in ein frei zugängliches Chat-Tool eingegeben werden. Das ist weniger ein Problem des AI Acts selbst als ein Datenschutzrisiko, das in der gleichen Bestandsaufnahme mit erfasst werden sollte, weil beide Themen dieselbe Quelle haben: KI-Nutzung ohne dokumentierte Freigabe.

Erstens, ein KI-Inventar: eine vollständige Liste aller eingesetzten KI-Systeme, einschließlich der Anwendungen, die Mitarbeitende auf eigene Initiative nutzen, und der KI-Funktionen, die in eingekaufter Software bereits eingebettet sind. Dieser letzte Punkt wird regelmäßig übersehen – viele Softwareanbieter haben KI-Funktionen ergänzt, ohne dass der Einkauf das gesondert vermerkt hat.

Zweitens, eine Risikoeinstufung: jedes System gegen die Kategorien verbotene Praxis, Hochrisiko, begrenztes Risiko und minimales Risiko einordnen, mit dokumentierter Begründung. Drittens, Governance und Nachweise: Schulungsnachweise für KI-Kompetenz, Kennzeichnung KI-gestützter Kundeninteraktionen, und eine Durchsicht der Lieferantenverträge auf KI-relevante Klauseln.

Diese drei Schritte lassen sich in wenigen Wochen durchführen, wenn eine Person die Verantwortung dafür trägt – meist die Geschäftsleitung selbst oder eine Stabsstelle wie Compliance oder IT-Leitung in Zusammenarbeit mit den Fachbereichen. Ohne eine solche Verantwortlichkeit verläuft die Bestandsaufnahme erfahrungsgemäß im Sande, weil sie neben dem Tagesgeschäft niemandem klar zugeordnet ist.

Die meisten mittelständischen Unternehmen sind im Sinne der Verordnung „Deployer“ – sie setzen die KI-Systeme eines Anbieters ein, statt selbst Modelle zu entwickeln. Die Pflichten eines Deployers sind schlanker als die eines Anbieters, aber real: Einsatz gemäß der Nutzungshinweise des Anbieters, menschliche Aufsicht dort, wo sie vorgeschrieben ist, und Aufbewahrung relevanter Nachweise.

Entscheidend ist, im Lieferantenvertrag zu prüfen, welche dieser Pflichten der Anbieter vertraglich auf den Kunden verschiebt. Ein Vertrag, der stillschweigend voraussetzt, dass der Kunde die Risikobewertung selbst vornimmt, verändert den tatsächlichen Aufwand erheblich gegenüber einem Vertrag, der diese Bewertung beim Anbieter belässt.

Diese Rolle kann wechseln: Ein Unternehmen, das mit einem allgemeinen Modell einen eigenen Agenten für eine spezifische Aufgabe baut und diesen Agenten an eigene Kunden weitergibt, wird für dieses System selbst zum Anbieter im Sinne der Verordnung – mit den weitergehenden Pflichten, die das mit sich bringt. Das betrifft zunehmend auch mittelständische Unternehmen, die eigene KI-Funktionen in ihr Produkt einbauen, nicht nur Softwarehersteller.

Die Aufsicht über den EU AI Act liegt bei nationalen Marktüberwachungsbehörden, in Deutschland ergänzt um branchenspezifische Aufsichten. Verstöße können mit Bußgeldern geahndet werden, deren Höhe sich nach Schwere des Verstoßes und weltweitem Jahresumsatz des Unternehmens richtet – verbotene Praktiken werden dabei deutlich strenger sanktioniert als etwa eine unvollständige Dokumentation.

Für die Praxis ist relevanter als die Bußgeldhöhe, dass eine Behörde im Zweifel zuerst Auskunft und Nachbesserung verlangt, bevor sie sanktioniert. Ein Unternehmen mit einem gepflegten KI-Inventar und dokumentierter Risikoeinstufung kann diese Auskunft in Tagen liefern. Ohne diese Vorarbeit wird aus einer Anfrage schnell ein aufwendiges Projekt unter Zeitdruck.

Der Umfang der KI-Nutzung wächst in den meisten Unternehmen kontinuierlich – neue Agenten, neue Anbieterfunktionen, neue Teamentscheidungen, ein bestimmtes Werkzeug einzusetzen. Ein KI-Inventar, das einmal erstellt und dann nicht mehr gepflegt wird, veraltet innerhalb weniger Monate. Governance muss ein laufender Prozess werden, ausgelöst durch jede neue Anwendung, die produktiv geht – nicht ein Projekt mit Enddatum.

Der praktikabelste Auslöser dafür ist, die KI-Inventarisierung an einen bestehenden Prozess zu koppeln, statt einen neuen zu schaffen: an die IT-Beschaffung, an die Freigabe neuer Software, an das Onboarding neuer Anbieter. Jede dieser Stellen kennt bereits einen Genehmigungsschritt – die Ergänzung um eine KI-Prüfung ist kleiner Zusatzaufwand statt eines neuen Gremiums.

Dieser Beitrag ersetzt keine Rechtsberatung, und wir geben keine verbindliche rechtliche Einstufung ab. Wofür wir empfehlen, spezialisierten Rechtsbeistand hinzuzuziehen: die verbindliche Klassifizierung einzelner Systeme und die vertragliche Gestaltung. Wofür wir stehen: die technische Bestandsaufnahme, die Risikoeinordnung aus operativer Sicht und das Betriebsmodell, das aus der Klassifizierung praktische Konsequenzen macht – wer ein System verantwortet, welche Nachweise laufend erhoben werden, und wie neue KI-Anwendungen ins Inventar aufgenommen werden, bevor sie produktiv gehen.