Kunstmatige intelligentie (AI) is overal, maar tot nu toe grotendeels ongereguleerd. De Europese Unie wil daar verandering in brengen met de voorgestelde EU AI Act. Het Europees Parlement zette begin juni een grote stap voorwaarts in de regulering van AI toen de leden instemden met een ontwerpversie van de wet.
De wet werd voor het eerst voorgesteld door de Europese Commissie in 2021 en sindsdien is er veel veranderd op het gebied van AI, met name door de opkomst van generatieve AI-producten. Het is dan ook niet onverwacht dat de onderhandelingspositie van het Parlement verschilt van die van de Commissie of de Europese Raad in 2022. De verschillen in de drie versies van de ontwerp-AI-wet kunnen de onderhandelingen en de definitieve regelgeving verlengen. Bedrijven die AI-systemen leveren of gebruiken, kunnen echter anticiperen op de richting van de regelgeving en moeten zich alvast voorbereiden.
De AI-wet gaat uit van een risicogebaseerde benadering van het reguleren van AI en bevat strengere regels voor AI-toepassingen die een grotere bedreiging vormen voor de veiligheid van gebruikers. AI-systemen die in de categorie "onaanvaardbaar risico" van de wet vallen, zouden in de EU verboden worden.
Belangrijkste wijzigingen
Het aangenomen standpunt van het Europees Parlement gaat verder dan de versies van de Commissie en de Raad, met nieuwe verplichtingen voor aanbieders en een uitgebreidere definitie van AI-systemen met een hoog risico. Enkele van de belangrijkste wijzigingen zijn:
- Een striktere definitie van een AI-intelligentiesysteem die aansluit bij de definitie van de Organisatie voor Economische Samenwerking en Ontwikkeling (OESO). Het ontwerp definieert een AI-systeem als een "op een machine gebaseerd systeem dat is ontworpen om te werken met verschillende niveaus van autonomie en dat, voor expliciete of impliciete doelstellingen, output kan genereren zoals voorspellingen, aanbevelingen of beslissingen die fysieke of virtuele omgevingen beïnvloeden".
- Een bredere lijst van AI-systemen die zijn gecategoriseerd als "onaanvaardbaar risico" en die strikt verboden zullen worden. Die lijst bevat nu veel biometrische identificatiesystemen op afstand, voorspellende politiesystemen, emotieherkenningssystemen en biometrische categorisatiesystemen met "sociale scores".
- Een uitgebreide classificatie van systemen met een hoog risico, waaronder systemen die schade kunnen toebrengen aan de gezondheid, veiligheid of grondrechten van mensen, maar ook aan het milieu.
- Verplichtingen voor leveranciers van funderingsmodellen om risicobeoordelingen uit te voeren voor hun systemen en om zich te registreren in een EU-database.
- Nieuwe transparantievereisten waaraan generatieve foundation-modellen moeten voldoen, zoals openbaar maken wanneer inhoud is gegenereerd door AI, AI-modellen zo ontwerpen dat ze geen illegale inhoud genereren en samenvattingen publiceren van de auteursrechtelijk beschermde gegevens die de modellen gebruiken voor training.
Het aangenomen standpunt gaat ook in op generatieve AI, wat in eerdere versies minder een punt van zorg was. Deze wijzigingen zijn onder andere:
De AI-wet gaat nu naar de volledige onderhandelingen voor de Commissie, de Raad en het Parlement om de definitieve tekst van de wet vast te stellen, wat tot het einde van het jaar zou kunnen duren. Zoals we hebben gezien in andere sectoren, zoals medische apparatuur, kan de regelgeving in de AI-wet snel achterhaald zijn door de snelle innovatie van AI-technologie. Wetgevers nemen stappen om dit dilemma aan te pakken, maar voorlopig lijkt de focus te liggen op het creëren van een basis voor het reguleren van AI-systemen.
Bedrijven in alle sectoren - of ze nu AI aanbieden of gebruiken of niet - moeten de voortgang van de AI-wet op de voet volgen. Hoewel de wet waarschijnlijk pas in 2026 van kracht wordt, worden er zware consequenties verwacht voor niet-naleving. Zo zou het op de EU-markt brengen van een onacceptabel AI-systeem worden bestraft met administratieve boetes die kunnen oplopen tot €40 miljoen of 7% van de totale wereldwijde jaaromzet van een bedrijf (afhankelijk van welk bedrag hoger is) onder het aangenomen standpunt van het Parlement.
Nu AI steeds meer wordt gezien als de technologie van de toekomst en andere overheden naar verwachting de AI-wet van de EU zullen gebruiken als blauwdruk voor hun eigen regelgeving, moeten bedrijven nu stappen ondernemen om hun activiteiten aan te passen aan AI en de bijbehorende regelgeving.
Schrijf u hier in voor ons webinar om te ontdekken hoe deze opkomende technologie een revolutie teweeg kan brengen op het gebied van consumenten- en productveiligheid. Tijdens deze exclusieve sessie van 45 minuten deelt ons panel van experts hun visie op de mogelijke impact van AI op de bedrijfsvoering tijdens de hele levenscyclus van een product. Mis het niet - schrijf je hier in.
Tags: AI, AI-technologie, Kunstmatige Intelligentie, Europa, regelgeving, Technologische vooruitgang, Technologie