Funcionários da FDA apresentam perspectivas sobre a regulamentação da IA na área da saúde

Três altos funcionários da Administração de Alimentos e Medicamentos dos Estados Unidos (FDA)publicaram um artigo noTheJournal of the American Medical Association(JAMA)que compartilha as perspectivas da agência sobre a regulamentação da inteligência artificial (IA) na área da saúde e biomedicina. O artigo foi escrito pelo comissário da FDA Robert Califf, pelo consultor clínico sênior para doenças crônicas Haider Warraich e pelo diretor do Centro de Excelência em Saúde Digital do Centro de Dispositivos e Saúde Radiológica Troy Tazbaz.

O artigo descreve 10 conceitos a serem considerados “à medida que o sistema regulatório se adapta para lidar” com a tecnologia de IA em rápida evolução. De acordo com os autores, a FDA continuará a “desempenhar um papel central na garantia de ferramentas de IA seguras, eficazes e confiáveis”, mas as partes interessadas do setor também precisarão se interessar em identificar e lidar com atores irresponsáveis. Além disso, as partes interessadas precisarão participar do desenvolvimento e da otimização das ferramentas necessárias para “avaliar a segurança e a eficácia contínuas da IA”. 

Principais conceitos para regulamentar a IA

A FDA aprovou o primeiro dispositivo médico parcialmente habilitado para IA em 1995. Desde então, a agência autorizou aproximadamente 1.000 dispositivos médicos que empregam tecnologia de IA. Com o rápido avanço tecnológico e o uso crescente da IA em dispositivos médicos e desenvolvimento de medicamentos, os funcionários da FDA delinearam 10 conceitos para orientar a regulamentação da IA:

• Regulamentação da IA no contexto mais amplo do governo dos EUA e global –As regras que regem a IA precisam estar alinhadas com o sistema legislativo mais amplo dos EUA, garantindo também a compatibilidade com os padrões globais.
• Acompanhando o ritmo das mudanças na IA– O desenvolvimento, a implantação e o uso de produtos habilitados para IA exigirão um “esquema regulatório adaptável e baseado na ciência para prevenir danos e, ao mesmo tempo, apoiar a inovação que otimiza seus benefícios”.
• Abordagens flexíveis em todo o espectro de modelos de IA– as regras de IA devem ser flexíveis e baseadas no risco e exigirão “cuidadosa consideração e adaptação” dependendo do uso pretendido dos sistemas de IA.
• A importância central da gestão do ciclo de vida da IA– O desempenho da IA deve ser monitorado no ambiente em que está sendo utilizada. Isso exigirá mais abordagens e ferramentas para refinar ainda mais a avaliação da IA, pois “um sistema de IA não monitorado implantado na prática pode causar danos significativos”.
• As responsabilidades das indústrias regulamentadas– A evolução da IA ilustra um grande dilema em termos de qualidade e regulamentação, uma vez que a escala de esforços necessários para realizar avaliações recorrentes para avaliar a segurança e a eficácia de muitos modelos de IA pode estar além de qualquer esquema regulatório atual da FDA.

Os funcionários também apresentaram conceitos sobre o uso da IA no desenvolvimento de produtos médicos; a preparação para as incógnitas dos grandes modelos de linguagem (LLMs) e da IA generativa; a manutenção de cadeias de abastecimento robustas; o equilíbrio entre as grandes empresas de tecnologia, as startups e o meio acadêmico; e a tensão entre o uso da IA para otimizar os retornos financeiros e a melhoria dos resultados na área da saúde. 

Olhando para o futuro

O artigoda JAMAnão tem implicações legais ou regulatórias, mas pode fornecer informações valiosas para que as empresas de dispositivos médicos e farmacêuticas compreendam melhor a abordagem provável da FDA para regulamentar a IA. As empresas em todo o ecossistema de saúde devem revisar a publicação e prestar atenção especial à ênfase da FDA no papel da indústria no apoio ao desenvolvimento responsável de sistemas de IA. Embora a regulamentação da IA continue em evolução, esta publicação serve como um recurso útil para compreender a direção que ela pode tomar. 

Com a confiança das principais marcas mundiais, a Sedgwick Brand Protection já gerenciou mais de 7.000 recalls de produtos urgentes e sensíveis em mais de 100 países e 50 idiomas, ao longo de 30 anos. Para saber mais sobre nossas soluções de recall e remediação de produtos, visite nosso siteaqui.