Het Europees Parlement heeft recent de meest uitgebreide wetgeving op het gebied van kunstmatige intelligentie (AI) wereldwijd goedgekeurd. Deze nieuwe AI Act is bedoeld om wereldwijd als standaard te dienen, vergelijkbaar met de eerdere regelgeving rondom de bescherming van persoonsgegevens (GDPR).
De ontwikkeling van de AI-wetgeving nam drie jaar in beslag, een periode waarin generatieve AI-systemen zoals ChatGPT van OpenAI, Copilot van Microsoft, en Gemini van Google enorm in populariteit zijn gestegen.
De focus van de wetgeving ligt op AI-modellen die een hoge impact en risico hebben en die voor algemene doeleinden kunnen worden ingezet. Dergelijke systemen dienen te voldoen aan specifieke eisen voor transparantie en aan Europese auteursrechtnormen. Ook wordt het gebruik van real-time biometrische surveillance in openbare ruimtes door overheden beperkt, met uitzonderingen voor ernstige misdrijven, het voorkomen van grote bedreigingen zoals terroristische aanslagen, en het opsporen van personen die van zware misdrijven worden verdacht.
Bedrijven die de regels overtreden, kunnen boetes tegemoetzien variërend van 7,5 miljoen euro of 1,5 procent van de omzet tot 35 miljoen euro of 7 procent van de wereldwijde omzet, afhankelijk van de aard van de overtreding.
Wat de nieuwe AI-regels betekenen
Door de goedkeuring van de nieuwe Europese AI-wet zullen ontwikkelaars, bedrijven en professionele gebruikers van AI-technologie zich aan bepaalde regels moeten houden.
Er wordt meer transparantie verwacht rondom systemen die gebruik maken van AI; hoe ze functioneren en met welke data ze zijn getraind. Dit zal resulteren in technologie die nauwkeuriger en betrouwbaarder is. Zo zullen chatbots duidelijk moeten maken dat ze gebruikmaken van AI, en hetzelfde geldt voor deepfakes - beelden of video's die echt lijken maar kunstmatig zijn gecreëerd met AI.
AI-gegenereerde teksten, afbeeldingen en video's zullen een bepaald soort watermerk moeten dragen. Hoewel dit watermerk misschien niet direct zichtbaar is, moet het toch herkenbaar zijn met bepaalde tools.
Verboden praktijken
Bepaalde AI-systemen die onaanvaardbare risico's met zich meebrengen, worden volledig verboden. Dit omvat systemen die burgerrechten in gevaar kunnen brengen, zoals het toekennen van sociale scores op basis van gedrag, realtime gezichts- en emotieherkenning in werkomgevingen of onderwijsinstellingen, en het willekeurig verzamelen van foto's en video's van het internet voor gezichtsherkenning databases. Voorspellende politietaken gericht op profiling en beoordeling van kenmerken van personen zijn eveneens verboden.
De nieuwe AI-wet moet nog formeel door de lidstaten worden goedgekeurd. De regels worden gefaseerd ingevoerd, met de volledige wet die naar verwachting in 2026 in werking treedt.
De EU onderscheidt vier categorieën van AI op basis van risico:
- Minimaal risico AI (bijv. spamfilters, AI in videospellen): vrij toegestaan
- Beperkt risico AI (bijv. chatbots op websites van banken of luchtvaartmaatschappijen): moet voldoen aan transparantieverplichtingen
- Hoog risico AI (bijv. zelfrijdende auto's, robotchirurgie): onderworpen aan strenge controlevereisten
- Onaanvaardbare AI (bijv. voor sociaal kredietsystemen): wordt verboden