De nieuwe Europese AI Act

Op vrijdag 8 december 2023 bereikten de onderhandelaars van het Europees Parlement en de Raad een voorlopig akkoord over de AI Act. Deze verordening is ontworpen om onze grondrechten, democratie, rechtsstaat en ecologische duurzaamheid te beschermen tegen AI met een hoog risico en tegelijkertijd innovatie te stimuleren en Europa als een leider in dit gebied neer te zetten. De regels houden verplichtingen in voor AI, afhankelijk van de potentiële risico's en de impact ervan.

Verboden toepassingen

Omdat ze de potentiële bedreiging van bepaalde toepassingen van AI voor de burgerrechten en de democratie erkennen, kwamen de medewetgevers overeen een verbod in te voeren op:

• systemen voor biometrische categorisatie die gebruikmaken van gevoelige kenmerken (bv. politieke, religieuze, filosofische overtuigingen, seksuele geaardheid, ras);
• het willekeurig scrapen van gelaatsopnamen van het internet of CCTV-beelden voor de aanleg van een gezichtsherkenningsdatabank;
• emotieherkenning op de werkplek en in onderwijsinstellingen;
• sociale puntensystemen op basis van sociaal gedrag of persoonlijke kenmerken;
• AI-systemen die menselijk gedrag manipuleren om hun vrije wil te omzeilen;
• AI die gebruikt wordt om de kwetsbaarheden van mensen uit te buiten (vanwege hun leeftijd, handicap, sociale of economische situatie).

Verplichtingen voor systemen met een hoog risico

Voor AI-systemen met een hoog risico (wegens hun grote potentiële schade aan gezondheid, veiligheid, grondrechten, milieu, democratie en rechtsstaat), zijn duidelijke verplichtingen overeengekomen. Europarlementariërs zijn erin geslaagd om, naast andere vereisten, een verplichte effectbeoordeling van de grondrechten op te nemen die ook van toepassing is op het verzekerings- en bankwezen. AI-systemen die verkiezingsresultaten en stemgedrag moeten beïnvloeden worden ook geclassificeerd als risicovol. Burgers zullen het recht hebben om klachten neer te leggen over AI-systemen en uitleg te krijgen over beslissingen op basis van AI-systemen met een hoog risico die invloed hebben op hun rechten.

Sancties

Het schenden van de regels kan leiden tot boetes gaande van 35 miljoen euro of 7% van de totale omzet tot 7,5 miljoen euro of 1,5% van de omzet, afhankelijk van de inbreuk en de grootte van het bedrijf.

Gedurende 2024 staan er content en activiteiten op de planning bij UBA om u te helpen navigeren door de regelgeving met betrekking tot artificiële intelligentie.