EU går videre med sitt første regelverk for kunstig intelligens

Kunstig intelligens (KI) finnes overalt, men den har i stor grad vært uregulert frem til nå. EU ønsker å endre dette med sitt forslag til EUs KI-lov. Europaparlamentet tok et stort skritt fremover innen KI-regulering i begynnelsen av juni da medlemmene ble enige om et utkast til loven .

Loven ble først foreslått av EU-kommisjonen i 2021, og mye har endret seg med AI siden den gang – spesielt med fremveksten av generative AI-produkter. Som et resultat er det ikke uventet at Parlamentets vedtatte forhandlingsposisjon avviker fra Kommisjonens eller Det europeiske råds posisjon vedtatt i 2022. Forskjellene i de tre versjonene av utkastet til AI-lov kan forlenge forhandlingene og den endelige forskriften. Selskaper som tilbyr eller bruker AI-systemer kan imidlertid forutse den omtrentlige retningen for forskriftene og bør begynne å forberede seg.

KI-loven har en risikobasert tilnærming til regulering av KI, og skisserer strengere reguleringer for KI-applikasjoner som utgjør en større trussel mot brukersikkerheten. KI-systemer som faller inn under kategorien «uakseptabel risiko» i loven, vil bli forbudt i EU.

Viktige endringer

Europaparlamentets vedtatte holdning går lenger enn Kommisjonens og Rådets versjoner, med nye forpliktelser for leverandører og utvidede virkeområder for hva som kvalifiserer som et høyrisiko-KI-system. Noen av de viktigste endringene inkluderer:

• En strengere definisjon av et AI-etterretningssystem som samsvarer med definisjonen fra Organisasjonen for økonomisk samarbeid og utvikling (OECD). Utkastet definerer et AI-system som et «maskinbasert system som er designet for å operere med varierende nivåer av autonomi og som, for eksplisitte eller implisitte mål, kan generere resultater som prediksjoner, anbefalinger eller beslutninger som påvirker fysiske eller virtuelle miljøer».
• En bredere liste over AI-systemer kategorisert som «uakseptabel risiko» vil bli strengt forbudt. Denne listen inkluderer nå mange eksterne biometriske identifikasjonssystemer, prediktive politisystemer, emosjonsgjenkjenningssystemer og biometriske kategoriseringssystemer for «sosial scoring».
• En utvidet klassifisering av høyrisikosystemer til å inkludere de som kan forårsake skade på folks helse, sikkerhet eller grunnleggende rettigheter, samt forårsake skade på miljøet, blant annet.
• Forpliktelser for leverandører av fundamentsmodeller til å gjennomføre risikovurderinger for sine systemer, samt å registrere seg i en EU-database.
• Nye krav til åpenhet for generative fundamentmodeller, som å opplyse om når innhold ble generert av AI, utforme AI-modeller for å forhindre at de genererer ulovlig innhold, og publisere sammendrag av de opphavsrettsbeskyttede dataene som modellene bruker til trening.

Den vedtatte holdningen tar også for seg generativ AI, noe som var mindre av et problem i tidligere versjoner. Disse endringene inkluderer:

KI-loven går nå til fulle forhandlinger med Kommisjonen, Rådet og Parlamentet for å fastsette den endelige lovteksten, noe som kan ta til slutten av året. Som vi har sett i andre bransjer, for eksempel innen medisinsk utstyr, kan forskriftene som er skissert i KI-loven snart være foreldet gitt den raske innovasjonstakten innen KI-teknologi. Lovgivere tar grep for å løse dette dilemmaet, men foreløpig ser fokuset ut til å være på å skape et grunnlag for å regulere KI-systemer.

Selskaper i alle bransjer – enten de tilbyr eller bruker kunstig intelligens eller ikke – bør følge nøye med på utviklingen av kunstig intelligens-loven. Selv om den sannsynligvis ikke vil tre i kraft før i 2026, forventes det å få alvorlige konsekvenser ved manglende overholdelse. For eksempel vil det å plassere et uakseptabelt kunstig intelligens-system på EU-markedet bli straffet med administrative bøter på opptil 40 millioner euro eller 7 % av et selskaps totale globale årlige omsetning (det tallet som er høyest) i henhold til Parlamentets vedtatte holdning.

Ettersom AI i økende grad blir sett på som fremtidens teknologi, og andre regjeringer forventes å bruke EUs AI-lov som en blåkopi for sine egne forskrifter, bør selskaper nå ta grep for å tilpasse driften sin til AI og dens forskrifter.

For å oppdage hvordan denne gryende teknologien er satt til å revolusjonere forbruker- og produktsikkerhet, registrer deg for webinaret vårt her . I løpet av denne eksklusive 45-minutters økten vil vårt ekspertpanel dele sitt perspektiv på AIs potensielle innvirkning på forretningspraksis gjennom hele produktets livssyklus. Ikke gå glipp av dette – registrer deg her .