Trois hauts fonctionnaires de la Food and Drug Administration (FDA) ont publié un article dans leJournal of the American Medical Association (JAMA) qui partage les perspectives de l'agence sur la réglementation de l'intelligence artificielle (IA) dans les soins de santé et la biomédecine. L'article a été rédigé par Robert Califf, commissaire de la FDA, Haider Warraich, conseiller clinique principal pour les maladies chroniques, et Troy Tazbaz, directeur du Digital Health Center of Excellence au sein du Center for Devices and Radiological Health.
L'article présente 10 concepts à prendre en compte "alors que le système réglementaire s'adapte pour faire face" à l'évolution rapide de la technologie de l'IA. Selon les auteurs, la FDA continuera à "jouer un rôle central pour garantir des outils d'IA sûrs, efficaces et dignes de confiance", mais les acteurs de l'industrie devront également s'intéresser à l'identification et au traitement des acteurs irresponsables. En outre, les parties prenantes devront participer au développement et à l'optimisation des outils nécessaires pour "évaluer la sécurité et l'efficacité continues de l'IA".
Principaux concepts pour la réglementation de l'IA
La FDA a approuvé le premier dispositif médical partiellement basé sur l'IA en 1995. Depuis lors, l'agence a autorisé environ 1 000 dispositifs médicaux utilisant la technologie de l'IA. Compte tenu de la rapidité des progrès technologiques et de l'utilisation croissante de l'IA dans les dispositifs médicaux et le développement de médicaments, les responsables de la FDA ont défini 10 concepts pour guider la réglementation de l'IA :
- La réglementation de l'IA dans le cadre plus large du gouvernement américain et du contexte mondial - Les règles régissant l'IA doivent s'aligner sur le système législatif américain dans son ensemble tout en garantissant la compatibilité avec les normes mondiales.
- Suivre le rythme de l'évolution de l'IA - Le développement, le déploiement et l'utilisation de produits basés sur l'IA nécessiteront un "système réglementaire adaptable, fondé sur la science, afin de prévenir les dommages tout en soutenant l'innovation qui optimise leurs avantages".
- Des approches flexibles pour toute la gamme des modèles d'IA - Les règles en matière d'IA doivent être flexibles et fondées sur les risques et nécessiteront "un examen approfondi et une adaptation" en fonction de l'utilisation prévue des systèmes d'IA.
- L'importance capitale de la gestion du cycle de vie de l'IA - les performances de l'IA doivent être contrôlées dans l'environnement dans lequel elle est utilisée. Cela nécessitera davantage d'approches et d'outils pour affiner l'évaluation de l'IA, car "un système d'IA non surveillé déployé dans la pratique pourrait causer des dommages importants".
- Les responsabilités des industries réglementées - L'évolution de l'IA illustre un dilemme majeur en matière de qualité et de réglementation, car l'ampleur des efforts nécessaires pour mener des évaluations récurrentes afin d'évaluer la sécurité et l'efficacité de nombreux modèles d'IA pourrait dépasser tout schéma réglementaire actuel de la FDA.
Les fonctionnaires ont également proposé des concepts sur l'utilisation de l'IA dans le développement de produits médicaux, la préparation aux inconnues des grands modèles de langage (LLM) et de l'IA générative, le maintien de chaînes d'approvisionnement robustes, la recherche d'un équilibre entre Big Tech, start-ups et universités, et la tension entre l'utilisation de l'IA pour optimiser les rendements financiers et l'amélioration des résultats en matière de santé.
Perspectives d'avenir
L'article du JAMA n'a pas d'implications juridiques ou réglementaires, mais il peut fournir des indications précieuses aux entreprises de dispositifs médicaux et pharmaceutiques pour mieux comprendre l'approche probable de la FDA en matière de réglementation de l'IA. Les entreprises de l'ensemble de l'écosystème des soins de santé devraient examiner la publication et prêter une attention particulière à l'accent mis par la FDA sur le rôle de l'industrie dans le soutien au développement responsable des systèmes d'IA. Alors que la réglementation de l'IA continue d'évoluer, cette publication constitue une ressource utile pour comprendre la direction qu'elle pourrait prendre.
Sedgwick a géré plus de 7 000 rappels de produits parmi les plus sensibles et les plus urgents, dans plus de 100 pays et plus de 50 langues, au cours des 30 dernières années. Pour en savoir plus sur nos solutions de rappel de produits et de remédiation, visitez notre site Web ici.
Tags : IA, Intelligence Artificielle, Protection des marques, FDA, Santé, Santé et sécurité, Rappel de dispositifs médicaux, Dispositifs médicaux, Rappel, Réglementation, Réglementation, Avancées technologiques, Technologie