EU går videre med de første regler af sin art for kunstig intelligens

Kunstig intelligens (AI) findes overalt, men har indtil videre været stort set ureguleret. Den Europæiske Union ønsker at ændre dette med sit forslag til en EU-lov om kunstig intelligens. Europa-Parlamentet tog et vigtigt skridt fremad i reguleringen af kunstig intelligens i begyndelsen af juni, da dets medlemmer blev enige om etudkast til loven.

Loven blevførst foreslåetaf Europa-Kommissionen i 2021, og meget har ændret sig inden for AI siden da – især med fremkomsten af generative AI-produkter. Det er derfor ikke overraskende, at Parlamentets forhandlingsposition adskiller sig fra Kommissionens eller DetEuropæiske Råds positionfra 2022. Forskellene i de tre versioner af udkastet til AI-loven kan forlænge forhandlingerne og de endelige regler. Virksomheder, der leverer eller bruger AI-systemer, kan dog forudse den omtrentlige retning for reglerne og bør begynde at forberede sig.

AI-loven anvender en risikobaseret tilgang til regulering af AI og fastlægger strengere regler for AI-applikationer, der udgør en større trussel mod brugernes sikkerhed. AI-systemer, der falder ind under lovens kategori "uacceptabel risiko", vil blive forbudt i EU.

Vigtige ændringer

Europa-Parlamentets vedtagne holdning går længere end Kommissionens og Rådets udkast, med nye forpligtelser for udbydere og udvidede rammer for, hvad der kvalificerer sig som et højrisiko-AI-system. Nogle af de vigtigste ændringer omfatter:

• En strengere definition af et AI-intelligenssystem, der er i overensstemmelse med definitionen fra Organisationen for Økonomisk Samarbejde og Udvikling (OECD). Udkastet definerer et AI-system som et "maskinbaseret system, der er designet til at fungere med forskellige niveauer af autonomi, og som med eksplicitte eller implicitte mål kan generere output såsom forudsigelser, anbefalinger eller beslutninger, der påvirker fysiske eller virtuelle miljøer."
• En bredere liste over AI-systemer, der er kategoriseret som "uacceptabel risiko" og som vil blive strengt forbudt. Denne liste omfatter nu mange fjernbetjente biometriske identifikationssystemer, prædiktive politisystemer, følelsesgenkendelsessystemer og biometriske kategoriseringer baseret på "social scoring".
• En udvidet klassificering af højrisikosystemer, der omfatter systemer, der kan skade menneskers sundhed, sikkerhed eller grundlæggende rettigheder samt skade miljøet, blandt andet.
• Forpligtelser for udbydere af grundlæggende modeller til at foretage risikovurderinger af deres systemer samt til at registrere sig i en EU-database.
• Nye krav til gennemsigtighed, som generative grundlæggende modeller skal overholde, såsom at oplyse, når indhold er genereret af AI, at designe AI-modeller, der forhindrer dem i at generere ulovligt indhold, og at offentliggøre resuméer af de ophavsretligt beskyttede data, som modellerne bruger til træning.

Den vedtagne holdning omhandler også generativ AI, som var mindre relevant i tidligere versioner. Disse ændringer omfatter:

AI-loven går nu videre til forhandlinger mellem Kommissionen, Rådet og Parlamentet, hvor den endelige lovtekst skal fastlægges, hvilket kan tage resten af året. Som vi har set i andre brancher, f.eks. inden for medicinsk udstyr, kan de regler, der er fastsat i AI-loven, snart være forældede i lyset af den hurtige innovation inden for AI-teknologi. Lovgivere tager skridt til at løse dette dilemma, men foreløbig ser det ud til, at fokus er på at skabe et grundlag for regulering af AI-systemer.

Virksomheder i alle brancher – uanset om de leverer eller bruger AI eller ej – bør følge udviklingen i AI-loven nøje. Selvom den sandsynligvis først træder i kraft i 2026, forventes der at være alvorlige konsekvenser for manglende overholdelse. For eksempel vil markedsføring af et uacceptabelt AI-system på EU-markedet blive straffet med administrative bøder på op til 40 millioner euro eller 7 % af en virksomheds samlede årlige omsætning på verdensplan (alt efter hvilket beløb der er højest) i henhold til Parlamentets vedtagne holdning.

Da AI i stigende grad betragtes som fremtidens teknologi, og da andre regeringer forventes at bruge EU's AI-lov som model for deres egne regler, bør virksomhederne allerede nu tage skridt til at tilpasse deres aktiviteter til AI og de tilhørende regler.

Tilmeld dig vores webinarher for at finde ud af, hvordan denne nye teknologi vil revolutionere forbruger- og produktsikkerheden. I løbet af denne eksklusive 45-minutters session vil vores ekspertpanel dele deres synspunkter om AI's potentielle indvirkning på forretningspraksis gennem hele produktets livscyklus. Gå ikke glip af det – tilmeld digher.