Anbieter oder Betreiber? Die Rollen im EU AI Act

So bestimmen Unternehmen ihre Rolle als Anbieter oder Betreiber beim Einsatz von ChatGPT, KI-gestützten Leistungen oder einem eigenen KI-SaaS-Produkt.

Publicat 29 iulie 20266 minute

EU AI ACT · ROLLEN UND VERANTWORTUNG

Dasselbe Unternehmen kann in einem Prozess Betreiber und in einem anderen Anbieter sein. Die Rolle hängt weder von der Unternehmensgröße noch von der Nutzung eines bekannten Modells ab, sondern davon, was im jeweiligen Fall entwickelt, in Verkehr gebracht und kontrolliert wird.

Warum die Rolle für jede Nutzung einzeln bestimmt werden muss

Der EU AI Act verteilt Pflichten auf mehrere Akteure: Anbieter, Betreiber, Einführer, Händler, Bevollmächtigte und Anbieter eines KI-Modells mit allgemeinem Verwendungszweck. In einer modernen technischen Kette können gleichzeitig das Unternehmen, das ein Modell trainiert, der Infrastrukturanbieter, der Anwendungsentwickler, eine den Prozess konfigurierende Agentur und der nutzende Kunde beteiligt sein. ^[EU-REG] ^[EU-GPAI-G]

Die Rolle wird für das konkrete System und den vorgesehenen Zweck beurteilt. Wer Anbieter einer Anwendung ist, wird nicht automatisch auch Anbieter des integrierten GPAI-Modells. Umgekehrt macht der Erwerb einer Lizenz nicht jeden Nutzer zu einem Verbraucher ohne Verantwortung. Eine Organisation, die das System beruflich unter ihrer Verantwortung einsetzt, ist für diese Nutzung in der Regel Betreiber. ^[EU-A50] ^[EU-GPAI-G]

Was ein Betreiber ist

Die Verordnung definiert den Betreiber als Person oder Organisation, die ein KI-System unter ihrer Verantwortung verwendet, ausgenommen persönliche und nicht berufliche Tätigkeiten. In der Praxis kann dies ein Unternehmen sein, das seinem Marketingteam ein generatives Werkzeug bereitstellt, ein Händler mit Nachfrageprognose oder eine Abteilung, die eingehende Nachrichten automatisch klassifiziert. ^[EU-REG] ^[EU-A50]

Beschäftigte, die das Werkzeug nach Anweisung des Unternehmens bedienen, werden nicht jeweils zu eigenständigen Betreibern. Die juristische Person bleibt der maßgebliche Akteur. Dasselbe kann gelten, wenn die Organisation Auftragnehmer oder Freelancer in ihrem Namen und unter ihrer Kontrolle einsetzt: Die Auslagerung der Ausführung lagert Rolle und Verantwortung nicht automatisch aus. ^[EU-A50]

Was ein Anbieter ist

Anbieter ist der Akteur, der ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt beziehungsweise in Betrieb nimmt. Die Definition erfasst auch Fälle, in denen die technische Entwicklung beauftragt wird. Entscheidend sind die Kontrolle über das Produkt, der Name, unter dem es angeboten wird, und das Inverkehrbringen oder die Inbetriebnahme. ^[EU-REG]

Daraus folgt eine wichtige Erkenntnis für SaaS-Produkte: Die Integration einer externen API schließt nicht aus, dass das Unternehmen Anbieter des dem Kunden angebotenen KI-Systems ist. Gegenüber dem vorgelagerten Modell kann es Nutzer bleiben, während es als Anbieter für Oberfläche, Zweck, Anweisungen, Integration und Verhalten des eigenen Produkts verantwortlich ist. ^[EU-REG] ^[EU-GPAI-G]

Fünf typische Situationen in KMU

Die erste Situation ist die interne Nutzung von ChatGPT oder eines ähnlichen Werkzeugs für Recherche, Zusammenfassungen und Textentwürfe. Das Unternehmen ist in der Regel Betreiber: Es bestimmt, wer das Werkzeug nutzt, welche Daten eingegeben werden dürfen und wie Ergebnisse geprüft werden. Modell- und Dienstanbieter bleiben eigenständige Akteure der Kette. ^[EU-A50]

Die zweite Situation ist eine Agentur, die KI-gestützte Inhalte oder Analysen liefert. Die Agentur kann Betreiber des Werkzeugs im eigenen Prozess sein, während der Kunde Betreiber eines von ihm direkt genutzten Systems werden kann. Vertrag, redaktionelle Freigabe und tatsächliche Kontrolle sind zu prüfen; die Bezeichnung „ausgelagerte Dienstleistung“ beschreibt die Kette nicht ausreichend. ^[EU-A50] ^[EU-REG]

Die dritte Situation ist eine SaaS-Anwendung, die ein externes Modell für Empfehlungen oder die Ausführung von Schritten nutzt. Das SaaS-Unternehmen kann Anbieter des resultierenden Systems sein, obwohl es das Basismodell nicht trainiert hat. Der Kunde, der das Produkt konfiguriert und nutzt, kann Betreiber sein. Die Dokumentation des vorgelagerten Anbieters wird zu einer notwendigen Grundlage für die Bewertung des eigenen Systems. ^[EU-GPAI-G] ^[EU-REG]

Die vierte Situation ist eine White-Label- oder umbenannte Lösung. Bei bestimmten Hochrisiko-Systemen kann ein Händler, Einführer, Betreiber oder sonstiger Dritter als Anbieter gelten, wenn er das System unter eigenem Namen oder eigener Marke anbietet, es wesentlich verändert oder den vorgesehenen Zweck so ändert, dass es zum Hochrisiko-System wird. Dieser Mechanismus darf nicht schematisch auf jede Farb- oder Konfigurationsänderung übertragen werden. ^[EU-REG] ^[EU-RISK]

Die fünfte Situation ist die Änderung oder Feinabstimmung eines GPAI-Modells. Nach den Leitlinien der Kommission machen geringfügige Änderungen den Akteur normalerweise nicht zum Anbieter des GPAI-Modells. Modellspezifische Anbieterpflichten entstehen nur in Ausnahmefällen erheblicher Änderungen nach den Kriterien der Leitlinien. Davon zu trennen ist die Verantwortung für eine auf dem Modell aufgebaute Anwendung. ^[EU-GPAI-G]

GPAI-Modell und darauf aufgebautes System sind nicht dasselbe

Ein Modell mit allgemeinem Verwendungszweck ist eine Komponente, die viele Aufgaben unterstützen und in zahlreiche Systeme integriert werden kann. Ein KI-System ist das Produkt oder der Prozess, der diese Fähigkeit für einen konkreten Zweck nutzt. Bei einem WordPress-Agenten kann das Modell beispielsweise Sprache erzeugen oder interpretieren, während die Anwendung bestimmt, welche Daten es erhält, welche Werkzeuge es aufrufen darf, welche Aktionen ausgeführt werden und was der Nutzer sieht. ^[EU-GPAI-G] ^[EU-REG]

Die Aussage „Wir nutzen das Modell eines anderen Anbieters“ beendet die Prüfung daher nicht. Der Anbieter eines nachgelagerten Systems muss Fähigkeiten und Grenzen des Modells verstehen, den Produktzweck festlegen, die Integration testen und Nutzern relevante Informationen bereitstellen. Gleichzeitig sollte er nicht behaupten, das vorgelagerte Modell zu besitzen oder trainiert zu haben. ^[EU-GPAI-G]

Wie AYSA.RO und AYSA.AI ohne vorschnelle Urteile bewertet werden

Bei einer Agentur wie AYSA.RO deutet der Einsatz von KI-Werkzeugen für Recherche, Analyse und unterstützte Produktion zunächst auf eine Betreiberrolle im internen Prozess hin. Installiert und konfiguriert die Agentur ein vom Kunden betriebenes System, sollten Verantwortlichkeiten durch Architektur, Anweisungen und Vertrag abgegrenzt und nicht aus der Bezeichnung der Dienstleistung abgeleitet werden. ^[EU-A50] ^[EU-REG]

Bei AYSA.AI ist nicht nur das zugrunde liegende Modell relevant, sondern das unter eigener Marke angebotene System: Zweck, Oberfläche, Nutzer, Automatisierungen, Aktionen, Grenzen und Kontrolle. Eine dokumentierte Bewertung kann für unterschiedliche Komponenten verschiedene Rollen ergeben. Dieser Beitrag erklärt das Produkt weder für konform noch für nicht konform und ersetzt keine technische und rechtliche Prüfung der tatsächlich veröffentlichten Version. ^[EU-GPAI-G] ^[EU-REG]

Ein Arbeitstest mit sieben Fragen

Die Rolle sollte zusammen mit Begründung und verwendeten Unterlagen im KI-Systemregister festgehalten werden. Ein einmal gesetztes Kästchen „Anbieter/Betreiber“ genügt nicht: Änderungen an Marke, Zweck, Modell, Autonomie oder Zielgruppe können die Bewertung verändern. ^[EU-DESK] ^[EU-REG]

Wer hat den konkreten Zweck und die Nutzer des Systems festgelegt?
Unter welchem Namen oder welcher Marke wird das Produkt angeboten?
Wer kontrolliert Oberfläche, Anweisungen und verfügbare Aktionen?
Nutzen wir ein fertiges System oder bauen wir ein System auf einem Modell auf?
Haben wir Zweck, Funktion oder Modell in relevanter Weise verändert?
Wer betreibt das System und wer gibt Ergebnisse frei?
Welche Dokumentation erhalten wir vorgelagert und welche Informationen geben wir nachgelagert weiter?