De AI-wet
De Europese Commissie stelt in dit wetsvoorstel een gezamenlijke Europese aanpak voor met betrekking tot de menselijke en ethische gevolgen van AI. Dit voorstel streeft twee doelen na: het bevorderen van de implementatie van AI en het beheersen van de risico’s die verbonden zijn aan bepaalde toepassingen van deze technologie.
De Commissie past een risicogebaseerde benadering toe, waarbij onderscheid wordt gemaakt tussen AI-toepassingen met onaanvaardbaar, hoog, laag of minimaal risico.
Onaanvaardbaar risico
Toepassingen in deze categorie worden verboden. Dit omvat AI-systemen die als te ingrijpend worden beschouwd, zoals gezichtsherkenningstechnologie in openbare ruimtes en sociale scores door overheidsinstanties. Ook systemen die mensen kunnen manipuleren of misbruik maken van kwetsbare groepen zonder dat zij zich daarvan bewust zijn, vallen hieronder. Bovendien worden systemen die het gedrag van mensen zodanig beïnvloeden dat zij of anderen psychische of fysieke schade kunnen oplopen, als onaanvaardbaar risico aangemerkt.
Hoog risico
Voor AI-systemen die een hoog risico vormen voor de gezondheid, veiligheid of fundamentele rechten van individuen, gelden specifieke regels. Voorbeelden hiervan zijn:
- AI in rechtspleging en democratische processen;
- AI voor biometrische identificatie en categorisatie van personen;
- Toegang tot en verstrekking van essentiële publieke en private diensten.
Aanbieders van deze AI-systemen moeten voldoen aan strenge eisen, waaronder het opzetten van een kwaliteitsmanagementsysteem, het opstellen van technische documentatie, en het ondergaan van een conformiteitsbeoordeling.
Laag risico en minimaal risico
Voor AI-toepassingen met een laag of minimaal risico, zoals chatbots en spamfilters, gelden alleen basisvereisten voor transparantie.
AI en e-commerce
Omdat de wetgeving nog niet definitief is, is het moeilijk om precies te zeggen wat de impact op jouw webshop zal zijn. Afhankelijk van het risiconiveau zijn er echter verplichtingen voor de gebruiker. Als jij als webshop gebruikmaakt van AI-technologie, ben jij de gebruiker.
Voor AI-systemen met een hoog risico moet je aan meer eisen voldoen dan voor systemen met een laag risico. Bij hoog risico ben je verantwoordelijk voor menselijk toezicht. Ernstige defecten of slecht functionerende AI-toepassingen moeten worden gerapporteerd aan de ontwikkelaar.
Voor generatieve AI-systemen, zoals ChatGPT en Midjourney, zullen transparantie-eisen gelden. Je moet duidelijk aangeven dat de inhoud door een AI is gecreëerd.
