FDA-Vertreter erläutern ihre Sichtweisen zur Regulierung von KI im Gesundheitswesen

Drei hochrangige Beamte der US-amerikanischen Food and Drug Administration (FDA)haben im„Journalof the American Medical Association“ (JAMA)einen Artikel veröffentlicht, in dem sie die Sichtweise der Behörde zur Regulierung künstlicher Intelligenz (KI) im Gesundheitswesen und in der Biomedizin darlegen. Verfasser des Artikels sind FDA-Kommissar Robert Califf, der leitende klinische Berater für chronische Erkrankungen Haider Warraich sowie Troy Tazbaz, Direktor des „Digital Health Center of Excellence“ innerhalb des „Center for Devices and Radiological Health“.

Der Artikel skizziert zehn Konzepte, die zu berücksichtigen sind, „während sich das Regulierungssystem an die sich rasch weiterentwickelnde KI-Technologie anpasst“. Den Autoren zufolge wird die FDA weiterhin „eine zentrale Rolle bei der Gewährleistung sicherer, wirksamer und vertrauenswürdiger KI-Tools spielen“, doch auch die Akteure der Branche müssen sich dafür einsetzen, unverantwortliche Akteure zu identifizieren und gegen sie vorzugehen. Darüber hinaus müssen die Akteure an der Entwicklung und Optimierung der Instrumente mitwirken, die erforderlich sind, um „die fortlaufende Sicherheit und Wirksamkeit von KI zu bewerten“. 

Die wichtigsten Konzepte zur Regulierung der KI

Die FDA hat 1995 das erste teilweise KI-gestützte Medizinprodukt zugelassen. Seitdem hat die Behörde rund 1.000 Medizinprodukte genehmigt, die KI-Technologie nutzen. Angesichts des rasanten technologischen Fortschritts und des zunehmenden Einsatzes von KI in Medizinprodukten und bei der Arzneimittelentwicklung haben die FDA-Vertreter zehn Leitprinzipien für die Regulierung von KI dargelegt:

• KI-Regulierung im breiteren Kontext der US-Regierung und auf globaler Ebene –Vorschriften zur KI müssen mit dem allgemeinen US-Rechtssystem im Einklang stehen und gleichzeitig die Vereinbarkeit mit globalen Standards gewährleisten.
• Mit dem Tempo des Wandels in der KI Schritt halten– Die Entwicklung, Einführung und Nutzung von KI-gestützten Produkten erfordert ein „anpassungsfähiges, wissenschaftlich fundiertes Regulierungssystem, das Schäden verhindert und gleichzeitig Innovationen fördert, die deren benefits optimieren.“
• Flexible Ansätze für das gesamte Spektrum der KI-Modelle– KI-Vorschriften müssen flexibel und risikobasiert sein und erfordern je nach Verwendungszweck der KI-Systeme eine „sorgfältige Abwägung und Anpassung“.
• Die zentrale Bedeutung des KI-Lebenszyklusmanagements– Die Leistung der KI sollte in der Umgebung, in der sie eingesetzt wird, überwacht werden. Dies erfordert weitere Ansätze und Werkzeuge zur Verfeinerung der KI-Bewertung, da „ein in der Praxis eingesetztes, nicht überwachtes KI-System erheblichen Schaden anrichten könnte“.
• Die Verantwortlichkeiten regulierter Branchen– Die Entwicklung der KI verdeutlicht ein großes Qualitäts- und Regulierungsdilemma, da der Aufwand, der für wiederkehrende Bewertungen zur Beurteilung der Sicherheit und Wirksamkeit vieler KI-Modelle erforderlich ist, möglicherweise über die Möglichkeiten des derzeitigen FDA-Regulierungssystems hinausgeht.

Die Vertreter stellten zudem Konzepte zum Einsatz von KI bei der Entwicklung medizinischer Produkte vor; zur Vorbereitung auf die Unwägbarkeiten großer Sprachmodelle (LLMs) und generativer KI; zur Aufrechterhaltung robuster Lieferketten; zur Herstellung eines Gleichgewichts zwischen Big Tech, Start-ups und der Wissenschaft; sowie zu dem Spannungsfeld zwischen dem Einsatz von KI zur Optimierung finanzieller Erträge und der Verbesserung gesundheitlicher Ergebnisse. 

Ein Blick in die Zukunft

DerJAMA-Artikelhat zwar keine rechtlichen oder regulatorischen Auswirkungen, kann jedoch Unternehmen aus den Bereichen Medizinprodukte und Pharmazeutika wertvolle Einblicke liefern, um die voraussichtliche Herangehensweise der FDA bei der Regulierung von KI besser zu verstehen. Unternehmen aus dem gesamten Gesundheitswesen sollten die Veröffentlichung lesen und dabei besonders darauf achten, dass die FDA die Rolle der Industrie bei der Förderung einer verantwortungsvollen Entwicklung von KI-Systemen hervorhebt. Während sich die Regulierung im Bereich der KI weiterentwickelt, dient diese Veröffentlichung als nützliche Informationsquelle, um die mögliche Richtung dieser Entwicklung besser zu verstehen. 

Sedgwick Brand Protection genießt das Vertrauen weltweit führender Marken und hat in den letzten 30 Jahren mehr als 7.000 der zeitkritischsten und sensibelsten Produktrückrufe in über 100 Ländern und in mehr als 50 Sprachen abgewickelt. Um mehr über unsere Lösungen für Produktrückrufe und Abhilfemaßnahmen zu erfahren, besuchen Sie unsere Websitehier.