Les responsables de la FDA exposent des perspectives sur la réglementation de l’IA dans les soins de santé

Trois hauts responsables de la Food and Drug Administration (FDA) des États-Unis ont publié un article dans le Journalof the American Medical Association (JAMA) qui partage les perspectives de l’agence sur la réglementation de l’intelligence artificielle (IA) dans les soins de santé et la biomédecine. L’article a été rédigé par le commissaire de la FDA Robert Califf, conseiller clinique principal pour les maladies chroniques Haider Warraich, et directeur du Centre d’excellence en santé numérique au sein du Centre pour les dispositifs et la santé radiologique, Troy Tazbaz.

L’article présente 10 concepts à considérer « alors que le système réglementaire s’adapte pour répondre » à l’évolution rapide de la technologie de l’IA. Selon les auteurs, la FDA continuera de « jouer un rôle central pour garantir des outils d’IA sûrs, efficaces et fiables », mais les parties prenantes de l’industrie devront aussi s’intéresser à l’identification et à la lutte contre les acteurs irresponsables. De plus, les parties prenantes devront participer au développement et à l’optimisation des outils nécessaires pour « évaluer la sécurité et l’efficacité continues de l’IA ». 

Concepts principaux pour réglementer l’IA

La FDA a approuvé le premier dispositif médical partiellement compatible avec l’IA en 1995. Depuis, l’agence a autorisé environ 1 000 dispositifs médicaux utilisant la technologie IA. Avec le rythme rapide des avancées technologiques et l’utilisation croissante de l’IA dans les dispositifs médicaux et le développement de médicaments, les responsables de la FDA ont présenté 10 concepts pour guider la réglementation de l’IA :

• Réglementation de l’IA dans le contexte plus large du gouvernement américain et mondial – Les règles régissant l’IA doivent s’aligner sur le système législatif américain plus large tout en assurant la compatibilité avec les normes mondiales.
• Suivre le rythme des changements en IA – Le développement, le déploiement et l’utilisation de produits activés par l’IA nécessiteront un « régime réglementaire adaptatif et fondé sur la science pour prévenir les dommages tout en soutenant l’innovation qui optimise leurs bénéfices. »
• Approches flexibles à travers tout le spectre des modèles d’IA – les règles d’IA doivent être flexibles et basées sur les risques, et nécessiteront une « réflexion et une adaptation attentives » selon l’utilisation prévue des systèmes d’IA.
• L’importance centrale de la gestion du cycle de vie de l’IA – la performance de l’IA doit être surveillée dans l’environnement dans lequel elle est utilisée. Cela nécessitera plus d’approches et d’outils pour affiner davantage l’évaluation de l’IA, car « un système d’IA non surveillé déployé en pratique pourrait causer des torts importants ».
• Les responsabilités des industries réglementées – L’évolution de l’IA illustre un dilemme majeur en matière de qualité et de réglementation, car l’ampleur des efforts nécessaires pour mener des évaluations récurrentes afin d’évaluer la sécurité et l’efficacité de nombreux modèles d’IA pourrait dépasser tout schéma réglementaire actuel de la FDA.

Les responsables ont également proposé des concepts sur l’utilisation de l’IA dans le développement de produits médicaux; la préparation aux inconnues des grands modèles de langage (LLM) et de l’IA générative; maintenir des chaînes d’approvisionnement robustes; trouver l’équilibre entre les géants technologiques, les start-ups et le milieu universitaire; et la tension entre l’utilisation de l’IA pour optimiser les rendements financiers et l’amélioration des résultats en santé. 

En regardant vers l’avenir

L’article du JAMA n’a aucune implication juridique ou réglementaire, mais il peut fournir des informations précieuses aux entreprises de dispositifs médicaux et pharmaceutiques afin de mieux comprendre l’approche probable de la FDA pour réglementer l’IA. Les entreprises de l’ensemble de l’écosystème de la santé devraient examiner la publication et porter une attention particulière à l’accent mis par la FDA sur le rôle de l’industrie dans le soutien au développement responsable des systèmes d’IA. Alors que la régulation de l’IA continue d’évoluer, cette publication constitue une ressource utile pour comprendre la direction qu’elle pourrait prendre. 

Digne de confiance par les principales marques mondiales, Sedgwick Brand Protection a géré plus de 7 000 des rappels de produits les plus critiques et sensibles dans 100+ pays et 50+ langues, en plus de 30 ans. Pour en savoir plus sur nos solutions de rappel de produits et de remédiation, visitez notre site web ici.