Blog

Hochrisiko oder nicht? Der AI Act in fünf Fragen | KaeferLive

Geschrieben von Thomas Käfer | Dienstag, 10.11.2026 09:11

Hochrisiko oder nicht? Der AI Act in fünf Fragen

Die KI-Verordnung sortiert KI-Systeme nach Risiko. Verboten, hochriskant, transparenzpflichtig, alles andere. Das Prinzip ist einleuchtend. Die Anwendung im eigenen Unternehmen ist es nicht, weil die Verordnung nicht Produkte einstuft, sondern Verwendungszwecke. Dasselbe Sprachmodell kann harmlos sein, wenn es Marketingtexte entwirft, und hochriskant, wenn es Bewerbungen bewertet.

In der Praxis lässt sich die Risikobewertung auf fünf Fragen reduzieren. Das ersetzt keine rechtliche Prüfung, aber es zeigt, wo Sie stehen.

Frage 1: Tut das System etwas, das verboten ist?

Seit Februar 2025 sind bestimmte Praktiken untersagt: Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, Social Scoring, manipulative Techniken, die Menschen zu ihrem Schaden beeinflussen, biometrische Kategorisierung nach sensiblen Merkmalen. Für die meisten Mittelständler ist die Antwort: Nein. Aber es soll Anbieter geben, die „Stimmungsanalyse im Kundenservice-Team“ als Feature bewarben. Das ist Emotionserkennung am Arbeitsplatz.

Frage 2: Entscheidet oder bewertet das System über Menschen?

Das ist die Kernfrage für Anhang III, die Liste der Hochrisikoanwendungen. Sie umfasst unter anderem: Personalauswahl und -bewertung, Entscheidungen über Beförderung oder Kündigung, Zugang zu Bildung, Kreditwürdigkeitsprüfung, Versicherungsrisikobewertung, kritische Infrastruktur. Wenn Ihr System in einem dieser Bereiche Entscheidungen trifft oder wesentlich vorbereitet, ist es hochriskant – mit umfangreichen Pflichten für Anbieter und Betreiber.

Der Digital Omnibus hat diese Pflichten auf den 2. Dezember 2027 verschoben und den Anwendungsbereich enger gefasst: Systeme, die nur unterstützen, ohne die Entscheidung wesentlich zu beeinflussen, fallen tendenziell heraus. Das klingt nach Entlastung, ist aber eine Verlagerung: Sie müssen jetzt begründen und dokumentieren, warum Ihr System „nur unterstützt“. Diese Begründung wird im Streitfall geprüft.

Frage 3: Interagiert das System mit Menschen oder erzeugt es Inhalte?

Dann gelten seit dem 2. August 2026 die Transparenzpflichten des Artikel 50: Chatbots müssen sich als KI zu erkennen geben. KI-generierte Bilder, Videos und Audio müssen maschinenlesbar gekennzeichnet sein. Deepfakes und KI-Texte zu Themen öffentlichen Interesses brauchen einen sichtbaren Hinweis. Das betrifft fast jedes Unternehmen, das einen Chatbot betreibt oder mit generativer KI Inhalte veröffentlicht. Warum haben wohl neuere Bilder, die ich veröffentliche (siehe Teaser oben) ein Wasserzeichen?

Frage 4: Sind Sie Anbieter oder Betreiber?

Wer ein KI-System entwickelt oder unter eigenem Namen in Verkehr bringt, ist Anbieter – mit den weitreichendsten Pflichten. Wer ein fremdes System nutzt, ist Betreiber. Aber Vorsicht: Wer ein System wesentlich verändert oder für einen anderen Zweck einsetzt als vorgesehen, kann zum Anbieter werden. Wer einen Chatbot eines Dienstleisters unter eigener Marke betreibt, sollte im Vertrag klären, wer welche Rolle trägt.

Frage 5: Können Sie das alles belegen?

Unabhängig von der Einstufung: Die Verordnung erwartet, dass Sie Ihre KI-Systeme kennen, ihre Risiken bewertet haben und Ihre Mitarbeiter geschult sind. In Deutschland überwacht die Bundesnetzagentur den Markt; Beschwerden können auch von Wettbewerbern kommen. Ein Verzeichnis Ihrer KI-Systeme mit Zweck, Einstufung, Verantwortlichem und Datum der Bewertung ist die Grundlage für alles Weitere. Es ist der Kern jeder Dokumentation – und genau das, was ich als Sachverständiger, CISO, Datenschutz- oder KI-Beauftragter sehen möchte, wenn es hart auf hart kommt..

Was Sie jetzt tun sollten

Die Verschiebung der Hochrisiko-Pflichten ist keine Einladung zum Abwarten. Die inhaltlichen Anforderungen bleiben. Wer heute ein Bewerber-Screening-Tool einführt, muss es bis Dezember 2027 konform betreiben – und Konformität lässt sich nicht in drei Monaten nachrüsten. Nutzen Sie die Zeit für die Einstufung, für das Verzeichnis und für die Schulung. Das sind die Hausaufgaben, mit denen sich später alles andere leichter erledigt.

Sie möchten wissen, wo Ihre KI-Anwendungen stehen? Ich führe die Einstufung mit Ihnen durch und erstelle das Verzeichnis: Kostenfreies Erstgespräch vereinbaren.

Dieser Beitrag stellt keine Rechtsberatung dar und ersetzt sie nicht. Stand: September 2026, auf Basis der KI-Verordnung in der Fassung des Digital Omnibus on AI.