Sundhedsmyndigheder går sammen om at skabe vejledning i gennemsigtighed for maskinlæring i medicinsk udstyr

Europæiske og nordamerikanske tilsynsmyndigheder viser i stigende grad vilje til at samarbejde om sikkerhedsretningslinjer, især inden for medicinalindustrien. I 2021 udgav den amerikanske fødevare- og lægemiddeladministration (FDA), det britiske lægemiddel- og sundhedsproduktreguleringsagentur (MHRA) og Health Canada i fællesskabGood Machine Learning Practice for Medical Device Development: Guiding Principles, der skitserer ti vejledende principper, der skal danne grundlag for udviklingen af Good Machine Learning Practice (GMLP) inden for medicinsk udstyr.

Seneste opdateringer

I juni 2024offentliggjordede tre tilsynsmyndigheder yderligere retningslinjer vedrørende gennemsigtighed for medicinsk udstyr baseret på maskinlæring (MLMD), som bygger på to af de eksisterende GMLP-principper: Princip 7, der fastslår, at "fokus er på præstationen af det menneskelige-AI-team", og princip 9, der fastslår, at "brugerne får klare, væsentlige oplysninger".  I forbindelse med disse principper beskriver gennemsigtighed "den grad, i hvilken relevante oplysninger om et MLMD kommunikeres klart til relevante målgrupper". 

Ifølge FDA sikrer effektiv gennemsigtighed, at information, der kan have indflydelse på risici og patientresultater, kommunikeres; tager højde for konteksten for informationen; leverer informationen i det optimale format, på det optimale tidspunkt og med de optimale strategier; og anvender en "holistisk forståelse" af faktorer såsom brugere, miljøer og arbejdsgange.

De seneste retningslinjer for gennemsigtighed i MLMD'er går ind for en tilgang, der tager højde for hvem (relevante målgrupper), hvorfor (motivation), hvad (relevant information), hvor (placering af information), hvornår (tidspunkt for kommunikation) og hvordan (metoder, der anvendes til at understøtte gennemsigtighed). De lægger også stor vægt på menneskecentreret design.

I betragtning af den kritiske betydning, som medicinsk udstyr har for brugerens sundhed, og den stigende kompleksitet af udstyr udstyret med maskinlæring eller kunstig intelligens, er det vigtigere end nogensinde, at brugere og sundhedsudbydere forstår den tilsigtede anvendelse, udvikling og ydeevne af MLMD'er og de dermed forbundne risici.

Det store billede

De vejledende principper fra FDA, MHRA og Health Canada er ikke bindende regler, men de har til formål at lægge grundlaget for GMLP-principperne fra International Medical Device Regulators Forum (IMDRF) og andre internationale standardiseringsorganisationer. IMDRF nedsatte arbejdsgruppen Artificial Intelligence/Machine Learning-Enabled (AI/ML) i sommeren 2023. Gruppenhar til opgaveat udarbejde et nyt dokument om GMLP-principper, "der sigter mod at skabe sikrere AI/ML-baserede medicinske anordninger og global harmonisering på tværs af hele produktets livscyklus." Arbejdsgruppen ledes af repræsentanter fra FDA og MHRA ogharsom et af sine mål at "bygge videre på det fælles dokument fra FDA/Health Canada/MHRA om GMLP-retningslinjer."

Med dette in mente bør producenter af medicinsk udstyr, hvis udstyr er AI/ML-kompatibelt, nøje gennemgå de fælles retningslinjer for 2021 og gøre sig bekendt med eventuelle supplerende materialer, herunder de nye principper for gennemsigtighed. Selvom IMDRF endnu ikke har fastlagt en tidsplan for sine internationale standarder, bør producenterne allerede nu tage skridt til at komme i gang med forberedelserne. Dette bør omfatte opdatering af tilbagekaldelses- og kriseplaner for AI/ML-aktiverede produkter og gennemgang af eksisterende transparenspraksis for kommunikation om MLMD'er og potentielle risici med relevante parter. 

Sedgwick brand protection, som verdens førende brands har tillid til, har håndteret mere end 7.000 af de mest tidskritiske og følsomme produkttilbagekaldelser i mere end 100 lande og på mere end 50 sprog i løbet af 30 år. Hvis du vil vide mere om vores løsninger til produkttilbagekaldelse og afhjælpning, kan du besøge vores hjemmeside her.