6. juli 2023
Kunstig intelligens (AI) er overalt, men den har stort set været ureguleret indtil nu. Det ønsker EU at ændre på med sit forslag til EU's AI Act. Europa-Parlamentet tog et stort skridt fremad i reguleringen af AI i begyndelsen af juni, da dets medlemmer blev enige om et udkast til loven.
Loven blev først foreslået af Europa-Kommissionen i 2021, og meget har ændret sig med AI siden da - især med fremkomsten af generative AI-produkter. Derfor er det ikke uventet, at Parlamentets vedtagne forhandlingsposition adskiller sig fra Kommissionens eller Det Europæiske Råds holdning, der blev vedtaget i 2022. Forskellene i de tre versioner af udkastet til AI-loven kan forlænge forhandlingerne og de endelige regler. Virksomheder, der leverer eller bruger AI-systemer, kan dog forudse den omtrentlige retning for forordningerne og bør begynde at forberede sig.
AI-loven har en risikobaseret tilgang til regulering af AI og skitserer strengere regler for AI-applikationer, der udgør en større trussel mod brugernes sikkerhed. AI-systemer, der falder ind under lovens kategori "uacceptabel risiko", vil blive forbudt i EU.
Vigtige ændringer
Europa-Parlamentets vedtagne holdning går længere end Kommissionens og Rådets versioner med nye forpligtelser for udbydere og udvidede rammer for, hvad der kan betegnes som et højrisiko-AI-system. Nogle af de vigtigste ændringer omfatter:
- En strengere definition af et AI-intelligenssystem, der stemmer overens med definitionen fra Organisationen for Økonomisk Samarbejde og Udvikling (OECD). Udkastet definerer et AI-system som et "maskinbaseret system, der er designet til at fungere med forskellige niveauer af autonomi, og som med eksplicitte eller implicitte mål kan generere output som f.eks. forudsigelser, anbefalinger eller beslutninger, der påvirker fysiske eller virtuelle miljøer."
- En bredere liste over AI-systemer, der er kategoriseret som "uacceptabel risiko", og som vil blive strengt forbudt. Listen omfatter nu mange biometriske fjernidentifikationssystemer, systemer til forudsigende politiarbejde, systemer til genkendelse af følelser og biometriske kategoriseringssystemer med "social scoring".
- En udvidet klassificering af højrisikosystemer til at omfatte dem, der kan forårsage skade på menneskers sundhed, sikkerhed eller grundlæggende rettigheder, samt forårsage skade på miljøet, blandt andre.
- Forpligtelser for udbydere af fondsmodeller til at foretage risikovurderinger af deres systemer samt til at registrere sig i en EU-database.
- Nye krav til gennemsigtighed, som generative fundamentmodeller skal overholde, såsom at oplyse, hvornår indhold er genereret af AI, at designe AI-modeller for at forhindre dem i at generere ulovligt indhold og at offentliggøre oversigter over de ophavsretligt beskyttede data, som modellerne bruger til træning.
Den vedtagne holdning omhandler også generativ AI, som var et mindre problem i tidligere versioner. Disse ændringer omfatter:
AI-loven går nu videre til fulde forhandlinger, hvor Kommissionen, Rådet og Parlamentet skal fastlægge den endelige lovtekst, hvilket kan tage helt frem til slutningen af året. Som vi har set i andre brancher, f.eks. med medicinsk udstyr, kan reglerne i AI-loven snart være forældede i betragtning af det hurtige innovationstempo inden for AI-teknologi. Lovgiverne tager skridt til at løse dette dilemma, men indtil videre ser det ud til, at fokus er på at skabe et fundament for regulering af AI-systemer.
Virksomheder i alle brancher - uanset om de leverer eller bruger AI eller ej - bør følge nøje med i udviklingen af AI-loven. Selv om den sandsynligvis ikke træder i kraft før 2026, forventes det, at der vil være store konsekvenser for manglende overholdelse. For eksempel vil markedsføring af et uacceptabelt AI-system på EU-markedet blive straffet med administrative bøder på op til 40 millioner euro eller 7 % af en virksomheds samlede årlige omsætning på verdensplan (det højeste af disse tal) i henhold til Parlamentets vedtagne holdning.
Da AI i stigende grad betragtes som fremtidens teknologi, og da andre regeringer forventes at bruge EU's AI Act som model for deres egne regler, bør virksomheder nu tage skridt til at tilpasse deres aktiviteter til AI og de tilhørende regler.
Hvis du vil vide, hvordan denne nye teknologi vil revolutionere forbruger- og produktsikkerhed, kan du tilmelde dig vores webinar her. I løbet af denne eksklusive 45-minutters session vil vores ekspertpanel dele deres perspektiv på AI's potentielle indvirkning på forretningspraksis i hele produktets livscyklus. Gå ikke glip af det - tilmeld dig her.
