Funcionarios de la FDA exponen sus perspectivas sobre la regulación de la IA en el ámbito sanitario.

Tres altos funcionarios de la Administración de Alimentos y Medicamentos de los Estados Unidos (FDA)publicaron un artículo enla revista TheJournal of the American Medical Association(JAMA)en el que comparten las perspectivas de la agencia sobre la regulación de la inteligencia artificial (IA) en la atención sanitaria y la biomedicina. El artículo fue escrito por el comisionado de la FDA, Robert Califf; el asesor clínico sénior para enfermedades crónicas, Haider Warraich, y el director del Centro de Excelencia en Salud Digital del Centro de Dispositivos y Salud Radiológica, Troy Tazbaz.

El artículo describe diez conceptos que deben tenerse en cuenta «a medida que el sistema regulador se adapta para abordar» la rápida evolución de la tecnología de IA. Según los autores, la FDA seguirá «desempeñando un papel central a la hora de garantizar la seguridad, la eficacia y la fiabilidad de las herramientas de IA», pero las partes interesadas del sector también deberán interesarse por identificar y abordar a los actores irresponsables. Además, las partes interesadas deberán participar en el desarrollo y la optimización de las herramientas necesarias para «evaluar la seguridad y la eficacia continuas de la IA». 

Conceptos principales para regular la IA

La FDA aprobó el primer dispositivo médico parcialmente habilitado para IA en 1995. Desde entonces, la agencia ha autorizado aproximadamente 1000 dispositivos médicos que emplean tecnología de IA. Con el rápido avance tecnológico y el uso creciente de la IA en dispositivos médicos y desarrollo de fármacos, los funcionarios de la FDA esbozaron 10 conceptos para guiar la regulación de la IA:

• Regulación de la IA en el contexto más amplio del Gobierno de los Estados Unidos y a nivel mundial:las normas que rigen la IA deben ajustarse al sistema legislativo general de los Estados Unidos, al tiempo que garantizan la compatibilidad con las normas mundiales.
• Mantenerse al día con el ritmo de cambio de la IA: el desarrollo, la implementación y el uso de productos basados en IA requerirán un «esquema regulatorio adaptable y basado en la ciencia para prevenir daños y, al mismo tiempo, apoyar la innovación que optimice sus beneficios».
• Enfoques flexibles en toda la gama de modelos de IA: las normas de IA deben ser flexibles y basarse en el riesgo, y requerirán «una cuidadosa consideración y adaptación» en función del uso previsto de los sistemas de IA.
• La importancia fundamental de la gestión del ciclo de vida de la IA: el rendimiento de la IA debe supervisarse en el entorno en el que se utiliza. Para ello se necesitarán más enfoques y herramientas que perfeccionen aún más la evaluación de la IA, ya que «un sistema de IA no supervisado que se implemente en la práctica podría causar un daño significativo».
• Las responsabilidades de las industrias reguladas: la evolución de la IA pone de manifiesto un importante dilema en materia de calidad y regulación, ya que la magnitud del esfuerzo necesario para llevar a cabo evaluaciones periódicas con el fin de valorar la seguridad y la eficacia de muchos modelos de IA podría superar cualquier esquema regulador actual de la FDA.

Los funcionarios también ofrecieron conceptos sobre el uso de la IA en el desarrollo de productos médicos; la preparación para las incógnitas de los modelos de lenguaje grandes (LLM) y la IA generativa; el mantenimiento de cadenas de suministro sólidas; el equilibrio entre las grandes tecnológicas, las empresas emergentes y el mundo académico; y la tensión entre el uso de la IA para optimizar los rendimientos financieros y la mejora de los resultados sanitarios. 

Mirando hacia el futuro

El artículode la JAMAno tiene implicaciones legales ni normativas, pero puede proporcionar información valiosa a las empresas de dispositivos médicos y farmacéuticas para comprender mejor el posible enfoque de la FDA en materia de regulación de la IA. Las empresas de todo el ecosistema sanitario deberían revisar la publicación y prestar especial atención al énfasis que pone la FDA en el papel de la industria a la hora de apoyar el desarrollo responsable de los sistemas de IA. Aunque la regulación de la IA sigue evolucionando, esta publicación constituye un recurso útil para comprender la dirección que puede tomar. 

Con la confianza de las marcas líderes mundiales, Sedgwick Brand Protection ha gestionado más de 7000 de las retiradas de productos más urgentes y delicadas en más de 100 países y más de 50 idiomas a lo largo de 30 años. Para obtener más información sobre nuestras soluciones de retirada de productos y reparación, visite nuestro sitio webaquí.