So stufen Sie das Risiko eines KI-Systems ein
Praxisleitfaden zur KI-Einstufung: verbotene Praktiken, Anhänge I und III, Ausnahmen nach Artikel 6 Absatz 3, Transparenz und Dokumentation.
EU AI ACT · EINSTUFUNG UND ENTSCHEIDUNG
Das rechtliche Risiko richtet sich nicht nach Modellname, Parameterzahl oder dem Eindruck einer „fortschrittlichen“ Technik. Der EU AI Act beginnt beim vorgesehenen Zweck, Nutzungskontext, betroffenen Personen und tatsächlichen Einfluss des Ergebnisses.
Es gibt keinen universellen Risikowert
Ein risikobasierter Ansatz bedeutet nicht, jedem Werkzeug einen festen Wert von eins bis fünf zu geben. Dasselbe Modell kann Produkttexte entwerfen, Bewerber priorisieren oder Sicherheitsbauteil eines Produkts sein. Die Einstufung unterscheidet sich, weil Zweck und Wirkung unterschiedlich sind. [EU-REG] [EU-RISK]
Vor der Einstufung ist die konkrete Funktion zu beschreiben: Anbieter, Nutzer, Eingabedaten, Ergebnis, Empfänger und beeinflusste Entscheidung. Die Aussage „Wir nutzen KI für Effizienz“ enthält noch nicht genügend Informationen für eine Schlussfolgerung. [EU-NAV] [EU-RISK]
Prüfschritt 1: verbotene Praktiken
Die erste Prüfung betrifft nicht Hochrisiko, sondern Artikel 5. Verboten sind unter anderem bestimmte schädliche Manipulationen, die Ausnutzung von Schutzbedürftigkeit, Social Scoring, bestimmte Vorhersagen von Straftaten, ungezieltes Sammeln von Gesichtsbildern sowie bestimmte biometrische Anwendungen und Emotionserkennung. [EU-REG] [EU-PROH]
Eine mögliche Übereinstimmung mit einem Verbot stoppt die Einführung und erfordert rechtliche Prüfung statt kosmetischer Risikominderung. Die Leitlinien liefern Beispiele, sind aber nicht bindend; verbindlich entscheiden die Gerichte. Zweckbeschreibung und Begründung zu Artikel 5 gehören in die Akte. [EU-PROH]
Prüfschritt 2: Produkte aus Anhang I
Artikel 6 Absatz 1 erfasst ein System als Hochrisiko-KI, wenn es Sicherheitsbauteil eines unter Anhang I fallenden Produkts oder selbst ein solches Produkt ist und vor dem Inverkehrbringen oder der Inbetriebnahme eine Konformitätsbewertung durch Dritte erforderlich ist. [EU-REG] [EU-RISK]
Beide Voraussetzungen müssen gemeinsam erfüllt sein. Eine KI-Funktion in einem regulierten Produkt ist nicht automatisch hochriskant, wenn die relevante Sicherheitsfunktion oder vorgeschriebene Drittprüfung fehlt. Die Einstufung gehört gemeinsam mit der Produktkonformität vorgenommen. [EU-REG]
Prüfschritt 3: Zwecke aus Anhang III
Anhang III nennt Anwendungen in Biometrie, kritischer Infrastruktur, Bildung, Beschäftigung, Zugang zu wesentlichen Diensten, Strafverfolgung, Migration und Asyl, Justiz und demokratischen Prozessen. Entscheidend ist der vorgesehene Zweck; technische Einsatzmöglichkeit allein genügt nicht. [EU-REG] [EU-RISK]
KI zum Filtern von Lebensläufen oder Bewerten von Bewerbern fällt in den Beschäftigungsbereich von Anhang III. Eine Rechtschreibprüfung für Stellenanzeigen hat nicht denselben Einfluss. Ergebnis, Nutzer und Prozessschritt sind zu dokumentieren; die Abteilung allein entscheidet nicht. [EU-REG]
Die engen Ausnahmen nach Artikel 6 Absatz 3
Ein System aus Anhang III kann als nicht hochriskant gelten, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt, insbesondere weil es das Entscheidungsergebnis nicht wesentlich beeinflusst. Genannt werden enge Verfahrensaufgaben, Verbesserung abgeschlossener menschlicher Arbeit, Mustererkennung ohne Ersatz oder Beeinflussung der menschlichen Bewertung sowie vorbereitende Aufgaben. [EU-REG] [EU-RISK]
Die Ausnahme gilt nicht automatisch. Profiling natürlicher Personen bleibt in diesem Zusammenhang hochriskant. Anbieter, die sich auf Artikel 6 Absatz 3 stützen, müssen die Bewertung vor Einführung dokumentieren und die Registrierungspflicht erfüllen. Beispiele im Kommissionsentwurf ersetzen keine faktenbezogene Prüfung. [EU-REG] [EU-RISK]
Transparenz bedeutet nicht Hochrisiko
Ein Chatbot, Deepfake oder System zur Inhaltserzeugung kann Transparenzpflichten nach Artikel 50 unterliegen, ohne Hochrisiko-KI zu sein. Im Register sind verbotene Praxis, Anhang-I-Pfad, Anhang-III-Pfad, Transparenz und weitere Rechtsgrundlagen getrennt zu führen. [EU-A50] [EU-REG]
Gewöhnliche Anwendungen benötigen dennoch Governance. SEO-Entwürfe bei AYSA.RO, Bestandsprognosen in ProFlorist oder Empfehlungen in AdverLink beziehungsweise CanUHelp APP sind nicht automatisch hochriskant. Neuer Zweck, Einfluss auf Personen, personenbezogene Daten, Transparenz und menschliche Kontrolle sind trotzdem getrennt zu prüfen. [EU-REG] [EU-NAV] [EU-A50]
Die Entscheidung muss nachvollziehbar sein
Die Einstufungsakte sollte Systemversion, Zweck, Unternehmensrolle, betroffene Personen, geprüfte Anhänge und Artikel, herangezogene Bedingung aus Artikel 6 Absatz 3, Nachweise, Freigabe und nächsten Prüftermin enthalten. Anbieterunterlagen sind versioniert zu archivieren. [EU-REG] [EU-RISK]
Die Analyse ist bei Änderungen an Modell, Daten, Zielgruppe, Autonomie, Integration, Angebotsmarke oder beeinflusster Entscheidung zu wiederholen. Eine alte Schlussfolgerung schützt keine neue Nutzung. Reife Compliance erklärt die Einstufung und ihre Auslöser zur Neubewertung. [EU-REG] [EU-RISK]