Funcionarios de la FDA exponen sus puntos de vista sobre la regulación de la inteligencia artificial en el sector sanitario

Tres altos cargos de la Administración de Alimentos y Medicamentos de Estados Unidos (FDA)han publicado un artículo enla revista *TheJournal of the American Medical Association* (JAMA)en el que exponen el punto de vista de la agencia sobre la regulación de la inteligencia artificial (IA) en el ámbito de la asistencia sanitaria y la biomedicina. El artículo fue escrito por el comisionado de la FDA, Robert Califf; el asesor clínico sénior para enfermedades crónicas, Haider Warraich; y el director del Centro de Excelencia en Salud Digital del Centro de Dispositivos y Salud Radiológica, Troy Tazbaz.

El artículo expone diez conceptos que deben tenerse en cuenta «a medida que el sistema regulador se adapta para hacer frente» a una tecnología de IA en rápida evolución. Según los autores, la FDA seguirá «desempeñando un papel fundamental a la hora de garantizar que las herramientas de IA sean seguras, eficaces y fiables», pero las partes interesadas del sector también deberán implicarse en la identificación y el tratamiento de los actores irresponsables. Además, las partes interesadas deberán participar en el desarrollo y la optimización de las herramientas necesarias para «evaluar la seguridad y la eficacia continuadas de la IA». 

Principales conceptos para la regulación de la IA

La FDA aprobó el primer dispositivo médico con tecnología de inteligencia artificial parcial en 1995. Desde entonces, la agencia ha autorizado aproximadamente 1 000 dispositivos médicos que utilizan tecnología de inteligencia artificial. Ante el rápido avance tecnológico y el uso cada vez mayor de la inteligencia artificial en los dispositivos médicos y el desarrollo de fármacos, los responsables de la FDA han esbozado diez principios para orientar la regulación de la inteligencia artificial:

• La regulación de la IA en el contexto general del Gobierno de los Estados Unidos y a escala mundial:las normas que rigen la IA deben ajustarse al sistema legislativo general de los Estados Unidos, al tiempo que garantizan la compatibilidad con las normas internacionales.
• Mantenerse al día con el ritmo de los cambios en la IA: el desarrollo, la implantación y el uso de productos basados en la IA requerirán un «marco normativo adaptativo y con base científica que evite los daños y, al mismo tiempo, fomente la innovación que optimice sus beneficios».
• Enfoques flexibles para todo el abanico de modelos de IA: las normas en materia de IA deben ser flexibles y basarse en el riesgo, y requerirán una «cuidadosa consideración y adaptación» en función del uso previsto de los sistemas de IA.
• La importancia fundamental de la gestión del ciclo de vida de la IA: el rendimiento de la IA debe supervisarse en el entorno en el que se utiliza. Para ello, se necesitarán más enfoques y herramientas que permitan perfeccionar aún más la evaluación de la IA, ya que «un sistema de IA sin supervisión que se implemente en la práctica podría causar un daño considerable».
• Las responsabilidades de los sectores regulados: la evolución de la IA pone de manifiesto un importante dilema en materia de calidad y regulación, ya que la magnitud del esfuerzo necesario para llevar a cabo evaluaciones periódicas con el fin de valorar la seguridad y la eficacia de muchos modelos de IA podría superar cualquier marco regulador actual de la FDA.

Los responsables también expusieron ideas sobre el uso de la IA en el desarrollo de productos médicos; la preparación ante las incertidumbres que plantean los grandes modelos de lenguaje (LLM) y la IA generativa; el mantenimiento de cadenas de suministro sólidas; la búsqueda de un equilibrio entre las grandes empresas tecnológicas, las start-ups y el mundo académico; y la tensión entre el uso de la IA para optimizar los beneficios económicos y la mejora de los resultados sanitarios. 

De cara al futuro

El artículode JAMAno tiene implicaciones legales ni normativas, pero puede aportar información valiosa a las empresas del sector de los productos sanitarios y farmacéuticos para comprender mejor el enfoque que probablemente adoptará la FDA en la regulación de la IA. Las empresas de todo el ecosistema sanitario deberían examinar la publicación y prestar especial atención al énfasis que pone la FDA en el papel de la industria a la hora de respaldar el desarrollo responsable de los sistemas de IA. Aunque la regulación de la IA sigue evolucionando, esta publicación constituye un recurso útil para comprender la dirección que podría tomar. 

Con la confianza de las principales marcas mundiales, el servicio de protección de marcas de Sedgwick ha gestionado más de 7.000 retiradas de productos, entre las más urgentes y delicadas, en más de 100 países y en más de 50 idiomas a lo largo de 30 años. Para obtener más información sobre nuestras soluciones de retirada y corrección de productos, visite nuestro sitio webaquí.