Chatboturi și agenți AI pe website: ce cere AI Act
Checklist pentru chatboturi și agenți AI: informarea de la prima interacțiune, escaladarea la om, date, logging, testare și limite operaționale.
AI ACT · INTERFEȚE CONVERSAȚIONALE
Transparența unui chatbot nu se rezolvă într-o pagină juridică ascunsă în footer. Persoana trebuie să înțeleagă de la început că discută cu un sistem AI, ce poate face acesta și când conversația trebuie preluată de un om.
Mai întâi stabilește dacă există interacțiune directă
Articolul 50(1) privește sistemele AI concepute să interacționeze direct cu persoane. Ghidul Comisiei folosește patru criterii cumulative: este un sistem AI, permite un schimb real în două sensuri, AI comunică direct fără intermediar uman și interlocutorul este o persoană fizică. Procesele exclusiv machine-to-machine sau funcțiile din fundal nu intră în această obligație de informare. [EU-REG] [EU-A50] [EU-A50-G]
Un formular care colectează date și trimite un răspuns fix nu devine chatbot doar pentru că are o bulă de conversație. Invers, un agent care răspunde contextual, cere clarificări și execută acțiuni poate îndeplini criteriile chiar dacă este prezentat drept „asistent”. Analizează comportamentul, nu numele interfeței. [EU-A50]
Informarea apare la început, nu după conversație
Persoana trebuie informată clar și distinct de la începutul primei interacțiuni, cu respectarea accesibilității, exceptând situația în care este evident pentru o persoană medie, rezonabil informată și atentă, că interacționează cu AI. Comisia spune că această excepție trebuie interpretată restrictiv. [EU-A50] [EU-A50-G]
O formulare utilă spune direct „Asistent AI” și explică pe scurt scopul: răspunde despre produs, caută informații sau pregătește o solicitare. Nu folosi un avatar, un nume uman și indicatorul „online” într-un mod care sugerează intenționat că operatorul este o persoană. Linkul spre detalii poate completa, nu înlocui, mesajul inițial. [EU-A50] [EU-A50-G]
Separă răspunsul, recomandarea și acțiunea
Un chatbot informativ care caută într-o bază de cunoștințe are alt profil decât un agent care modifică un cont, plasează o comandă sau publică în WordPress. Pentru fiecare funcție documentează sursele, permisiunile, consecința unei erori, confirmarea necesară și posibilitatea de anulare. Autonomia trebuie limitată la ceea ce utilizatorul înțelege și autorizează. [EU-REG] [EU-NAV]
Acțiunile cu efect financiar, juridic sau dificil de reversat ar trebui să aibă confirmare explicită și un rezumat înainte de execuție. Nu transforma o frază ambiguă într-o comandă. Păstrează starea de draft pentru conținut și afișează clar ce va fi schimbat, unde și sub identitatea cui. [EU-LIT] [EU-REG]
Escaladarea la om este parte din produs
Definește situațiile în care agentul se oprește: nu găsește o sursă, primește date sensibile, utilizatorul contestă un răspuns, apare o urgență, cererea depășește mandatul sau sistemul repetă aceeași eroare. Opțiunea „vorbește cu un om” trebuie să fie ușor de găsit și să transfere contextul necesar fără a obliga persoana să reia totul. [EU-LIT] [EU-A50]
Escaladarea nu dovedește singură conformitatea, dar reduce riscul operațional și calibrarea greșită a încrederii. Echipa umană trebuie să știe ce a spus sistemul, ce surse a folosit și ce acțiuni a încercat; altfel primește doar o conversație lungă și o problemă deja amplificată. [EU-A50] [EU-REG]
Datele și logurile au nevoie de limite
Spune ce informații sunt necesare și avertizează utilizatorul să nu introducă parole, date de plată, informații medicale ori alte date sensibile într-un canal care nu este proiectat pentru ele. AI Act nu înlocuiește GDPR. Temeiul, minimizarea, accesul, retenția și furnizorii implicați trebuie analizate separat. [EU-REG]
Păstrează loguri numai cu un scop definit: securitate, depanare, demonstrarea aprobării sau îmbunătățirea controlată. Stabilește accesul și termenul de ștergere. Articolul 50 nu impune un jurnal universal tuturor chatboturilor, deci loggingul trebuie justificat proporțional și nu folosit ca pretext pentru colectare nelimitată. [EU-A50] [EU-REG]
Testează conversații, nu doar răspunsuri izolate
Setul de testare trebuie să includă întrebări normale, ambigue, ostile și în afara scopului; schimbarea limbii; solicitări de date; încercări de a ocoli reguli; erori ale instrumentelor; confirmare și anulare. Măsoară răspunsul corect, refuzul corect, sursa, escaladarea și efectul executat, nu doar cât de natural sună conversația. [EU-LIT] [EU-A50-G]
Pentru CanUHelp APP, un posibil asistent de servicii locale ar trebui tratat ca scenariu ipotetic: informare vizibilă, limite clare și transfer la suport. Pentru un agent WordPress, scenariul prudent păstrează modificările în draft și cere aprobare înainte de publicare. Aceste exemple sunt modele de produs, nu afirmații despre funcții live. [EU-A50] [EU-LIT]