Gesundheitsbehörden arbeiten gemeinsam an Leitlinien zur Transparenz beim Einsatz von maschinellem Lernen in Medizinprodukten

Die europäischen und nordamerikanischen Aufsichtsbehörden zeigen zunehmend Bereitschaft zur Zusammenarbeit bei Sicherheitsrichtlinien, insbesondere in der Medizinproduktebranche. Im Jahr 2021 veröffentlichten die US-amerikanische Food and Drug Administration (FDA), die britische Medicines and Healthcare products Regulatory Agency (MHRA) und Health Canada gemeinsam das Dokument„Good Machine Learning Practice for Medical Device Development: Guiding Principles“, das zehn Leitprinzipien enthält, die die Grundlage für die Entwicklung einer „Good Machine Learning Practice“ (GMLP) bei Medizinprodukten bilden sollen.

Neueste Updates

Im Juni 2024veröffentlichtendie drei Aufsichtsbehörden weitere Leitprinzipien zur Transparenz bei medizinischen Geräten mit maschinellem Lernen (MLMDs), die auf zwei der bestehenden GMLP-Prinzipien aufbauen: Prinzip 7, wonach „der Schwerpunkt auf der Leistung des Mensch-KI-Teams liegt“, und Prinzip 9, wonach „den Anwendern klare, wesentliche Informationen zur Verfügung gestellt werden“.  Im Sinne dieser Grundsätze beschreibt Transparenz „das Ausmaß, in dem relevante Informationen über ein MLMD den jeweiligen Zielgruppen klar vermittelt werden“. 

Nach Angaben der FDA gewährleistet eine wirksame Transparenz, dass Informationen, die sich auf Risiken und Behandlungsergebnisse auswirken könnten, weitergegeben werden; dass der Kontext der Informationen berücksichtigt wird; dass die Informationen in optimaler Form, zum optimalen Zeitpunkt und mit den optimalen Strategien bereitgestellt werden; und dass ein „ganzheitliches Verständnis“ von Faktoren wie Nutzern, Umgebungen und Arbeitsabläufen zum Tragen kommt.

Die neuesten Leitlinien zur Transparenz von MLMDs befürworten einen Ansatz, der folgende Aspekte berücksichtigt: wer (relevante Zielgruppen), warum (Motivation), was (relevante Informationen), wo (Platzierung der Informationen), wann (Zeitpunkt der Kommunikation) und wie (Methoden zur Förderung der Transparenz). Außerdem legen sie großen Wert auf eine menschenzentrierte Gestaltung.

Angesichts der entscheidenden Bedeutung von Medizinprodukten für die Gesundheit der Anwender und der zunehmenden Komplexität von Geräten, die mit maschinellem Lernen oder KI ausgestattet sind, ist es wichtiger denn je, dass Anwender und Gesundheitsdienstleister den Verwendungszweck, die Entwicklung und die Leistungsfähigkeit von MLMDs sowie die damit verbundenen Risiken verstehen.

Das große Ganze

Die Leitlinien der FDA, der MHRA und von Health Canada sind keine verbindlichen Vorschriften; sie sollen jedoch die Grundlage für die GMLP-Grundsätze des International Medical Device Regulators Forum (IMDRF) und anderer internationaler Normungsorganisationen bilden. Das IMDRF hat im Sommer 2023 die Arbeitsgruppe „Artificial Intelligence/Machine Learning-Enabled“ (AI/ML) einberufen. Die Gruppe hatdie Aufgabe, ein neues Dokument zu den GMLP-Grundsätzen zu erarbeiten, „das darauf abzielt, sicherere KI-/ML-gestützte Medizinprodukte zu schaffen und eine globale Harmonisierung über den gesamten Produktlebenszyklus hinweg zu erreichen“. Den gemeinsamen Vorsitz der Arbeitsgruppe führen Vertreter der FDA und der MHRA, und sie hatsichunter anderemzumZielgesetzt, „auf dem gemeinsamen Dokument der US-amerikanischen FDA, Health Canada und der britischen MHRA zu den GMLP-Leitprinzipien aufzubauen“.

Vor diesem Hintergrund sollten Hersteller von Medizinprodukten, deren Produkte KI-/ML-fähig sind, die gemeinsam erarbeiteten Leitlinien von 2021 sorgfältig prüfen und sich mit allen ergänzenden Materialien, einschließlich der neuen Transparenzgrundsätze, vertraut machen. Auch wenn die IMDRF noch keinen Zeitplan für ihre internationalen Normen festgelegt hat, sollten Hersteller bereits jetzt Maßnahmen ergreifen, um bei den Vorbereitungen einen Vorsprung zu gewinnen. Dazu gehören die Aktualisierung von Rückruf- und Krisenplänen für KI-/ML-fähige Produkte sowie die Überprüfung bestehender Transparenzpraktiken bei der Kommunikation mit relevanten Parteien über MLMDs und potenzielle Risiken. 

Sedgwick Brand Protection genießt das Vertrauen weltweit führender Marken und hat in den letzten 30 Jahren mehr als 7.000 der zeitkritischsten und sensibelsten Produktrückrufe in über 100 Ländern und in mehr als 50 Sprachen abgewickelt. Um mehr über unsere Lösungen für Produktrückrufe und Abhilfemaßnahmen zu erfahren, besuchen Sie unsere Websitehier.