FDA-functionarissen schetsen perspectieven op het reguleren van AI in de gezondheidszorg

Drie hooggeplaatste functionarissen van de Amerikaanse Food and Drug Administration (FDA) hebben een artikel gepubliceerd in TheJournal of the American Medical Association (JAMA) waarin de perspectieven van het agentschap op het reguleren van kunstmatige intelligentie (AI) in de gezondheidszorg en de biogeneeskunde worden gedeeld. Het artikel is geschreven door FDA Commissioner Robert Califf, Senior Clinical Advisor for Chronic Disease Haider Warraich en Director of the Digital Health Center of Excellence binnen het Center for Devices and Radiological Health Troy Tazbaz.

Het artikel schetst 10 concepten om te overwegen "als het regelgevende systeem zich aanpast om" snel evoluerende AI-technologie aan te pakken. Volgens de auteurs zal de FDA "een centrale rol blijven spelen in het garanderen van veilige, effectieve en betrouwbare AI-hulpmiddelen", maar belanghebbenden uit de industrie zullen ook belang moeten stellen in het identificeren en aanpakken van onverantwoordelijke actoren. Daarnaast zullen belanghebbenden moeten deelnemen aan het ontwikkelen en optimaliseren van de tools die nodig zijn om "de voortdurende veiligheid en effectiviteit van AI te beoordelen". 

Topconcepten voor het reguleren van AI

De FDA keurde het eerste medische apparaat dat gedeeltelijk gebruikmaakte van AI goed in 1995. Sindsdien heeft het agentschap ongeveer 1000 medische hulpmiddelen goedgekeurd die gebruik maken van AI-technologie. Met het oog op de snelle technologische vooruitgang en het toenemende gebruik van AI in medische hulpmiddelen en de ontwikkeling van medicijnen, hebben de FDA-functionarissen 10 concepten geschetst die als leidraad moeten dienen voor de regulering van AI:

• AI-regelgeving binnen de bredere context van de Amerikaanse overheid en de rest van de wereld - Regels voor AI moeten aansluiten bij het bredere wetgevingssysteem van de VS en tegelijkertijd compatibel zijn met wereldwijde standaarden.
• Het tempo van de veranderingen op het gebied van AI bijhouden - Voor de ontwikkeling, de toepassing en het gebruik van op AI gebaseerde producten is een "adaptieve, op wetenschap gebaseerde regelgeving nodig om schade te voorkomen en tegelijkertijd innovatie te ondersteunen die de voordelen ervan optimaliseert".
• Flexibele benaderingen voor het hele spectrum van AI-modellen - AI-regels moeten flexibel en risicogebaseerd zijn en zullen "zorgvuldig overwogen en aangepast" moeten worden, afhankelijk van het beoogde gebruik van AI-systemen.
• Het centrale belang van AI-levenscyclusbeheer - AI-prestaties moeten worden gemonitord in de omgeving waarin het wordt gebruikt. Hiervoor zijn meer benaderingen en hulpmiddelen nodig om de AI-evaluatie verder te verfijnen, want "een AI-systeem dat niet wordt gecontroleerd en in de praktijk wordt ingezet, kan aanzienlijke schade aanrichten".
• De verantwoordelijkheden van gereguleerde industrieën - De evolutie van AI illustreert een belangrijk dilemma op het gebied van kwaliteit en regelgeving, omdat de omvang van de inspanningen die nodig zijn om terugkerende evaluaties uit te voeren om de veiligheid en effectiviteit van veel AI-modellen te beoordelen, wel eens buiten het huidige regelgevingsschema van de FDA zou kunnen vallen.

De functionarissen boden ook concepten voor het gebruik van AI in de ontwikkeling van medische producten; voorbereiding op de onbekendheden van grote taalmodellen (LLM's) en generatieve AI; behoud van robuuste toeleveringsketens; het vinden van de balans tussen Big Tech, start-ups en de academische wereld; en het spanningsveld tussen het gebruik van AI voor het optimaliseren van financiële opbrengsten versus het verbeteren van gezondheidsresultaten. 

Vooruitblik

Het artikel in de JAMA heeft geen juridische of regelgevende implicaties, maar het kan waardevolle inzichten bieden voor bedrijven in medische hulpmiddelen en farmaceutische bedrijven om de waarschijnlijke aanpak van de FDA voor het reguleren van AI beter te begrijpen. Bedrijven in het hele ecosysteem van de gezondheidszorg zouden de publicatie moeten lezen en bijzondere aandacht moeten besteden aan de nadruk die de FDA legt op de rol van de industrie bij het ondersteunen van de verantwoorde ontwikkeling van AI-systemen. Terwijl de AI-regelgeving zich blijft ontwikkelen, is deze publicatie een nuttig hulpmiddel om te begrijpen welke richting het op kan gaan. 

Sedgwick brand protection , waarop 's werelds grootste merken vertrouwen, heeft in 30 jaar meer dan 7.000 van de meest tijdkritische en gevoelige product recalls in 100+ landen en 50+ talen beheerd. Bezoek hier onze website voor meer informatie over onze oplossingen voor het terugroepen en herstellen van producten.