FDA-representanter skisserer perspektiver på regulering av AI i helsevesenet

Tre høytstående tjenestemenn fra det amerikanske mat- og legemiddeltilsynet (FDA) publiserte en artikkel i Journal of the American Medical Association (JAMA) som deler byråets perspektiver på regulering av kunstig intelligens (KI) innen helsevesen og biomedisin. Artikkelen ble forfattet av FDA-kommissær Robert Califf, senior klinisk rådgiver for kroniske sykdommer Haider Warraich og direktør for Digital Health Center of Excellence i Center for Devices and Radiological Health, Troy Tazbaz.

Artikkelen skisserer ti konsepter som bør vurderes «etter hvert som regulatorisk system tilpasser seg» den raskt utviklende AI-teknologien. Ifølge forfatterne vil FDA fortsette å «spille en sentral rolle i å sikre trygge, effektive og pålitelige AI-verktøy», men interessenter i bransjen må også være interessert i å identifisere og håndtere uansvarlige aktører. I tillegg må interessenter delta i utviklingen og optimaliseringen av verktøyene som trengs for å «vurdere den løpende sikkerheten og effektiviteten til AI». 

Toppkonsepter for regulering av AI

FDA godkjente det første delvis AI-aktiverte medisinske utstyret i 1995. Siden den gang har byrået godkjent omtrent 1000 medisinske apparater som bruker AI-teknologi. Med den raske teknologiske utviklingen og den økende bruken av AI i medisinsk utstyr og legemiddelutvikling, skisserte FDA-tjenestemenn 10 konsepter for å veilede reguleringen av AI:

• KI-regulering innenfor den bredere amerikanske regjeringen og den globale konteksten – Regler som styrer KI må være i samsvar med det bredere amerikanske lovgivningssystemet, samtidig som de sikrer kompatibilitet med globale standarder.
• Å holde tritt med endringstakten innen AI – Utvikling, utrulling og bruk av AI-aktiverte produkter vil kreve et «tilpasningsdyktig, vitenskapsbasert reguleringssystem for å forhindre skade samtidig som det støtter innovasjon som optimaliserer fordelene deres».
• Fleksible tilnærminger på tvers av spekteret av AI-modeller – AI-regler må være fleksible og risikobaserte, og vil kreve «nøye vurdering og tilpasning» avhengig av den tiltenkte bruken av AI-systemer.
• Den sentrale betydningen av livssyklusstyring for kunstig intelligens – AI-ytelsen bør overvåkes i miljøet der den brukes. Dette vil kreve flere tilnærminger og verktøy for å forbedre AI-evalueringen ytterligere fordi «et uovervåket AI-system som brukes i praksis kan gjøre betydelig skade».
• Ansvaret til regulerte bransjer – Utviklingen av AI illustrerer et stort kvalitets- og regulatorisk dilemma, ettersom omfanget av innsatsen som kreves for å gjennomføre regelmessige evalueringer for å vurdere sikkerheten og effektiviteten til mange AI-modeller, kan være utenfor ethvert nåværende FDA-regulatorisk system.

Tjenestemennene kom også med konsepter om bruk av AI i utvikling av medisinske produkter; forberedelse på de ukjente faktorene knyttet til store språkmodeller (LLM-er) og generativ AI; opprettholdelse av robuste forsyningskjeder; å finne balansen mellom Big Tech, oppstartsbedrifter og akademia; og spenningen mellom bruk av AI for å optimalisere økonomisk avkastning kontra å forbedre helseutfall. 

Ser fremover

JAMA- artikkelen har ingen juridiske eller regulatoriske implikasjoner, men den kan gi verdifull innsikt for medisinsk utstyr og farmasøytiske bedrifter for å bedre forstå FDAs sannsynlige tilnærming til regulering av AI. Bedrifter i hele helseøkosystemet bør gjennomgå publikasjonen og være spesielt oppmerksomme på FDAs vektlegging av industriens rolle i å støtte ansvarlig utvikling av AI-systemer. Selv om AI-regulering fortsetter å utvikle seg, fungerer denne publikasjonen som en nyttig ressurs for å forstå retningen den kan ta. 

Sedgwicks merkevarebeskyttelse, som er betrodd av verdens ledende merkevarer, har håndtert mer enn 7000 av de mest tidskritiske og sensitive produkttilbakekallingene i over 100 land og på over 50 språk, i over 30 år. For å finne ut mer om våre løsninger for produkttilbakekalling og utbedring, kan du besøke nettstedet vårt her .