Een belangrijke stap is gezet in de Europese Unie met de overeenstemming tussen het Europees Parlement en de Raad van de Europese Unie over nieuwe wetgeving voor kunstmatige intelligentie (AI). Deze wetgeving, gericht op het waarborgen van de veiligheid in het gebruik van AI, stelt strenge sancties op voor niet-naleving, met boetes die kunnen oplopen tot tientallen miljoenen euro's.
De essentie van deze nieuwe AI-wetgeving is het garanderen van een veilige toepassing van AI in Europa, met inachtneming van de fundamentele rechten en democratische waarden, zonder daarbij de zakelijke activiteiten te hinderen. Volgens de voorgestelde AI Act worden bepaalde praktijken verboden, waaronder:
- Het categoriseren van mensen op basis van biometrische gegevens zoals politieke voorkeur, geloofsovertuiging, filosofische overtuigingen, seksuele geaardheid en etniciteit.
- Het willekeurig verzamelen van beelden van gezichten van het internet of beveiligingscamera's voor gezichtsherkenning.
- Het toepassen van emotieherkenning op de werkplek en in onderwijsinstellingen.
- Het toekennen van scores op basis van gedrag of persoonlijkheidskenmerken.
- Het manipuleren van gedrag met behulp van AI.
- Het misbruiken van AI voor het uitbuiten van kwetsbaarheden zoals leeftijd, handicaps of economische omstandigheden.
Er zijn echter uitzonderingen toegestaan voor biometrische identificatie in openbare ruimtes voor wetshandhaving, mits er vooraf toestemming is verleend en het gaat om een beperkt aantal misdrijven. Dit gebruik is beperkt tot het opsporen van personen die veroordeeld zijn of verdacht worden van ernstige misdrijven.
Bij de inzet van AI-systemen die als hoog risico worden beschouwd, zoals in de bank- en verzekeringssector, is het noodzakelijk om vooraf de impact op fundamentele rechten te beoordelen. Dit omvat ook systemen die invloed kunnen hebben op verkiezingsresultaten en stemgedrag.
Daarnaast zijn bedrijven verplicht om transparant te zijn over het gebruik van AI en in bepaalde gevallen ernstige incidenten te melden en informatie te verstrekken over het energieverbruik van de AI-systemen. Om innovatie bij kmo's te bevorderen, introduceert de wetgeving 'regulatory sandboxes', waar bedrijven hun AI-oplossingen kunnen testen en vooraf goedkeuring kunnen vragen aan toezichthouders.
Overtreders van de regels kunnen boetes verwachten variërend van 7,5 miljoen euro of 1,5 procent van de jaaromzet tot 35 miljoen euro of 7 procent van de jaaromzet, afhankelijk van de aard van de overtreding en de grootte van het bedrijf.
Met deze regelgeving is de EU de eerste met specifieke wetgeving op het gebied van AI. Het voorstel moet nog goedgekeurd worden door het Europees Parlement en wordt verwacht niet eerder dan in 2025 van kracht te worden.