EU AI Act für Marktplätze und lokale Dienste

EU AI ACT · PLATTFORMEN UND EMPFEHLUNGEN

In einem Marktplatz kann ein Motor Angebote sortieren, Betrug erkennen, Fragen beantworten und Konten sperren. Diese Funktionen haben unterschiedliche Zwecke und dürfen nicht als ein einziger „KI-Algorithmus“ geprüft werden. Ausgangspunkt ist die konkrete Wirkung auf Menschen.

Entscheidungen statt nur Funktionen abbilden

Je Komponente werden Eingaben, Ausgabe, Empfänger und Folgeaktion dokumentiert. Eine Empfehlung sortiert Produkte, ein Betrugsscore kann Zahlung blockieren, Moderation Anbieter entfernen, Matching Chancen verteilen. Die Folge statt des Produktnamens bestimmt die Prüfung. ^{[EU-REG] [EU-RISK]}

Im Inventar werden Ranking, Empfehlung, semantische Suche, Preis, Prüfung, Moderation, Betrug, Support und Profilerstellung getrennt. Je Funktion: Owner, Anbieter, Daten, Metriken, Override und Beschwerde. So wird eine Entscheidung verbessert, ohne den ganzen Marktplatz pauschal zu bewerten. ^{[EU-DESK] [EU-LIT]}

Gewöhnliche Empfehlung ist nicht automatisch Hochrisiko

Hochrisiko folgt Artikel 6 sowie Anhängen I und III bezogen auf den vorgesehenen Zweck. Eine Anbieterempfehlung nach Entfernung, Verfügbarkeit und Präferenz wird nicht allein wegen Einfluss auf eine Kaufentscheidung Hochrisiko. „Minimales Risiko“ ist zudem kein amtliches Zertifikat. ^{[EU-REG] [EU-RISK]}

Die Analyse ändert sich bei Rekrutierung, Zugang zu wesentlichen Diensten, Kreditwürdigkeit oder anderen gelisteten Bereichen mit entsprechender Wirkung. Ein Dienstleistungsmarktplatz ist nicht pauschal Hochrisiko; geprüft wird jedoch die spätere Nutzung einer scheinbar gewöhnlichen Funktion für eine Anhang-Entscheidung. ^{[EU-REG] [EU-RISK]}

Ranking braucht Erklärung und Kontrolle

Zulässige Faktoren, relevante Gewichte oder Regeln, ausgeschlossene Daten und Erfolg werden definiert. Neue Anbieter, kleine Orte, Sprachen, Preise und indirekt benachteiligte Gruppen werden gesondert getestet. Klickmetriken können Sensation oder Etablierte fördern, ohne bessere Vermittlung. ^{[EU-LIT] [EU-REG]}

Es braucht unpersonalisierte Alternative, verständliche Faktorenerklärung und Korrektur von Profildaten. Gesponserte Inhalte bleiben von organischer Empfehlung getrennt. KI darf Bezahlung nicht hinter unverständlicher „Relevanz“ verbergen. ^{[EU-REG] [EU-LIT]}

Moderation und Betrug brauchen menschlichen Einspruch

Ein Modell kann Fälle priorisieren; Kontosperre oder Zahlungsblockade dürfen nicht in einem undurchsichtigen Score verschwinden. Schwellen, Belege, Dauer, Freigabe und Einspruch werden festgelegt. Prüfer brauchen Signale und Grenzen statt nur „Betrug“. ^{[EU-LIT] [EU-REG]}

Gemessen werden Fehlalarme, Behebungszeit und Unterschiede zwischen Kategorien statt nur verhinderter Betrug. Ein aggressives System wirkt erfolgreich, weil es viele legitime Nutzer ablehnt. Automatisierung bleibt begrenzt, bis Fehler und Einspruch verstanden sind. ^{[EU-LIT] [EU-RISK]}

Manipulation und unverhältnismäßiges Profiling vermeiden

Artikel 5 verbietet bestimmte Praktiken, darunter Manipulation oder Ausnutzung von Verwundbarkeit mit erheblichem Schaden sowie bestimmte Formen sozialen Bewertens. Kommissionsleitlinien bieten Auslegung, ersetzen aber nicht das Gesetz. Oberflächen dürfen Verwundbare nicht drängen oder Alternativen verstecken. ^{[EU-REG] [EU-PROH]}

Kein allgemeiner „Vertrauensscore“ aus Gesprächen, Bewertungen, Standort und Verhalten ohne begrenzten Zweck und Validierung. Signale dienen einer konkreten Entscheidung bei kontrollierter Aufbewahrung und Zugriff. Betrugsabwehr darf nicht zum Gesamtwertprofil einer Person werden. ^{[EU-PROH] [EDPB-28] [EU-REG]}

Umsichtige Szenarien für AdverLink und CanUHelp APP

Für AdverLink würde ein empfohlenes Modell Matchingfaktoren erklären, Sponsoring trennen, Profilkorrektur erlauben und Sperren eskalieren. Bei CanUHelp APP braucht lokale Empfehlung klare Kriterien, unpersonalisierte Option, Chatbot-Hinweis und Supportübergabe. ^{[EU-A50] [EU-LIT] [EU-REG]}

Diese Szenarien machen Produkte weder automatisch Hochrisiko noch compliant. Endgültige Einstufung braucht reale Funktionen, Zweck, Daten und Folgen. Betritt die Plattform einen Anhang-III-Bereich oder berührt Rechte wesentlich, erfolgt Neubewertung vor Release statt nach Beschwerden. ^{[EU-RISK] [EU-REG] [EU-DESK]}

Offizielle Quellen und Prüfdatum

1. Verordnung (EU) 2024/1689 über künstliche Intelligenz
2. Europäische Kommission — AI Act Service Desk und Compliance Checker
3. Europäische Kommission — Fragen und Antworten zur KI-Kompetenz
4. Europäische Kommission — Transparenzpflichten nach Artikel 50
5. Europäische Kommission — Einstufung von Hochrisiko-KI-Systemen
6. Europäische Kommission — Leitlinien zu verbotenen KI-Praktiken
7. Europäischer Datenschutzausschuss — Stellungnahme 28/2024 zu KI-Modellen