EU gaat door met eerste regelgeving voor AI in zijn soort

Kunstmatige intelligentie (AI) is overal, maar tot nu toe grotendeels ongereguleerd. De Europese Unie wil daar verandering in brengen met haar voorgestelde EU-wet inzake AI. Het Europees Parlement heeft begin juni een belangrijke stap voorwaarts gezet op het gebied van AI-regelgeving toen de leden overeenstemming bereikten over eenontwerpversie van de wet.

De wet werdvoor het eerst voorgestelddoor de Europese Commissie in 2021, en sindsdien is er veel veranderd op het gebied van AI, met name door de opkomst van generatieve AI-producten. Het is dan ook niet verwonderlijk dat het onderhandelingsstandpunt van het Parlement afwijkt van hetstandpunt van de Commissieofde Europese Raaduit 2022. De verschillen tussen de drie versies van het ontwerp van de AI-wet kunnen de onderhandelingen en de definitieve regelgeving vertragen. Bedrijven die AI-systemen leveren of gebruiken, kunnen echter wel een idee krijgen van de richting die de regelgeving zal inslaan en kunnen zich daarop voorbereiden.

De AI-wet hanteert een risicogebaseerde benadering voor het reguleren van AI en stelt strengere regels vast voor AI-toepassingen die een groter gevaar vormen voor de veiligheid van gebruikers. AI-systemen die onder de categorie "onaanvaardbaar risico" van de wet vallen, zouden in de EU worden verboden.

Belangrijkste wijzigingen

Het standpunt van het Europees Parlement gaat verder dan dat van de Commissie en de Raad, met nieuwe verplichtingen voor aanbieders en een bredere definitie van wat als een risicovol AI-systeem wordt beschouwd. Enkele van de belangrijkste wijzigingen zijn:

• Een striktere definitie van een AI-intelligentiesysteem die aansluit bij de definitie van de Organisatie voor Economische Samenwerking en Ontwikkeling (OESO). In het ontwerp wordt een AI-systeem gedefinieerd als een "machinegebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat, voor expliciete of impliciete doeleinden, outputs kan genereren zoals voorspellingen, aanbevelingen of beslissingen die invloed hebben op fysieke of virtuele omgevingen".
• Een uitgebreidere lijst van AI-systemen die zijn gecategoriseerd als "onaanvaardbaar risico" en die strikt zullen worden verboden. Die lijst omvat nu veel biometrische identificatiesystemen op afstand, voorspellende politietoezichtsystemen, emotieherkenningssystemen en biometrische categorisatiesystemen voor "sociale scores".
• Een uitgebreide classificatie van risicovolle systemen, waaronder systemen die schade kunnen toebrengen aan de gezondheid, veiligheid of grondrechten van mensen, en die onder andere schade kunnen toebrengen aan het milieu.
• Verplichtingen voor aanbieders van basismodellen om risicobeoordelingen voor hun systemen uit te voeren en zich te registreren in een EU-databank.
• Nieuwe transparantievereisten waaraan generatieve basismodellen moeten voldoen, zoals het vermelden wanneer inhoud door AI is gegenereerd, het ontwerpen van AI-modellen om te voorkomen dat ze illegale inhoud genereren, en het publiceren van samenvattingen van de auteursrechtelijk beschermde gegevens die de modellen gebruiken voor training.

Het aangenomen standpunt heeft ook betrekking op generatieve AI, wat in eerdere versies minder aandacht kreeg. Deze wijzigingen omvatten:

De AI-wet gaat nu naar volledige onderhandelingen tussen de Commissie, de Raad en het Parlement om de definitieve tekst van de wet vast te stellen, wat tot het einde van het jaar kan duren. Zoals we in andere sectoren, zoals medische hulpmiddelen, hebben gezien, kunnen de voorschriften in de AI-wet snel achterhaald zijn gezien het snelle tempo van innovatie in AI-technologie. Wetgevers nemen maatregelen om dit dilemma aan te pakken, maar voorlopig lijkt de focus te liggen op het creëren van een basis voor het reguleren van AI-systemen.

Bedrijven in alle sectoren – of ze nu AI aanbieden of gebruiken – moeten de voortgang van de AI-wet nauwlettend volgen. Hoewel deze waarschijnlijk pas in 2026 van kracht wordt, zullen er naar verwachting strenge gevolgen zijn voor niet-naleving. Zo zou het op de EU-markt brengen van een onaanvaardbaar AI-systeem volgens het standpunt van het Parlement worden bestraft met administratieve boetes van maximaal 40 miljoen euro of 7% van de totale wereldwijde jaaromzet van een bedrijf (afhankelijk van welk bedrag het hoogst is).

Nu AI steeds meer wordt gezien als de technologie van de toekomst en andere regeringen naar verwachting de EU-wet inzake AI als blauwdruk voor hun eigen regelgeving zullen gebruiken, moeten bedrijven nu maatregelen nemen om hun activiteiten aan te passen aan AI en de regelgeving daaromtrent.

Om te ontdekken hoe deze opkomende technologie een revolutie teweeg zal brengen in de veiligheid van consumenten en producten, kunt u zichhier aanmelden voor ons webinar. Tijdens deze exclusieve sessie van 45 minuten zal ons panel van experts hun visie delen op de potentiële impact van AI op bedrijfsprocessen gedurende de hele levenscyclus van een product. Mis het niet – meld uhier aan.