La UE da un paso adelante con una normativa sin precedentes en materia de inteligencia artificial

La inteligencia artificial (IA) está presente en todas partes, pero hasta ahora ha estado prácticamente sin regular. La Unión Europea pretende cambiar esta situación con su propuesta de Ley de IA de la UE. El Parlamento Europeo dio un gran paso adelante en la regulación de la IA a principios de junio, cuando sus miembros acordaron unborrador de la ley.

La Ley fuepropuesta por primera vezpor la Comisión Europea en 2021, y desde entonces han cambiado muchas cosas en el ámbito de la IA, especialmente con el auge de los productos de IA generativa. Por ello, no es de extrañar que la posición negociadora adoptada por el Parlamento difiera de la de la Comisión o dela posiciónadoptadapor el Consejo Europeoen 2022. Las diferencias entre las tres versiones del proyecto de Ley de IA pueden prolongar las negociaciones y la adopción de la normativa definitiva. No obstante, las empresas que ofrecen o utilizan sistemas de IA pueden anticipar la orientación aproximada de la normativa y deberían empezar a prepararse.

La Ley de IA adopta un enfoque basado en el riesgo para regular la inteligencia artificial, estableciendo normas más estrictas para aquellas aplicaciones de IA que supongan una mayor amenaza para la seguridad de los usuarios. Los sistemas de IA que entren en la categoría de «riesgo inaceptable» de la Ley quedarían prohibidos en la UE.

Cambios principales

La posición adoptada por el Parlamento Europeo va más allá de las versiones de la Comisión y del Consejo, al establecer nuevas obligaciones para los proveedores y ampliar el alcance de lo que se considera un sistema de IA de alto riesgo. Entre los cambios más importantes se incluyen:

• Una definición más estricta de «sistema de inteligencia artificial» que se ajusta a la definición de la Organización para la Cooperación y el Desarrollo Económicos (OCDE). El borrador define un sistema de inteligencia artificial como «un sistema basado en máquinas, diseñado para funcionar con distintos niveles de autonomía y capaz, con fines explícitos o implícitos, de generar resultados tales como predicciones, recomendaciones o decisiones que influyen en entornos físicos o virtuales».
• Una lista más amplia de sistemas de inteligencia artificial clasificados como «riesgo inaceptable» que quedarán estrictamente prohibidos. Esa lista incluye ahora numerosos sistemas de identificación biométrica a distancia, sistemas de vigilancia policial predictiva, sistemas de reconocimiento de emociones y sistemas de categorización biométrica basados en la «puntuación social».
• Una clasificación ampliada de los sistemas de alto riesgo que incluya aquellos que puedan causar daños a la salud, la seguridad o los derechos fundamentales de las personas, así como al medio ambiente, entre otros.
• La obligación de que los proveedores de modelos base realicen evaluaciones de riesgos de sus sistemas, así como de que se registren en una base de datos de la UE.
• Nuevos requisitos de transparencia que deben cumplir los modelos generativos de base, tales como indicar cuándo el contenido ha sido generado por IA, diseñar los modelos de IA de manera que no generen contenido ilegal y publicar resúmenes de los datos protegidos por derechos de autor que los modelos utilizan para su entrenamiento.

La posición adoptada también aborda la IA generativa, que no había sido objeto de tanta atención en versiones anteriores. Entre esos cambios se incluyen:

La Ley de IA pasa ahora a la fase de negociaciones en pleno entre la Comisión, el Consejo y el Parlamento para determinar el texto definitivo de la ley, un proceso que podría prolongarse hasta finales de año. Como hemos visto en otros sectores, como el de los productos sanitarios, es posible que las normas establecidas en la Ley de IA queden obsoletas en poco tiempo, dado el rápido ritmo de innovación en la tecnología de IA. Los legisladores están tomando medidas para abordar este dilema, pero, por ahora, parece que la prioridad es sentar las bases para la regulación de los sistemas de IA.

Las empresas de todos los sectores —tanto si ofrecen o utilizan IA como si no— deberían seguir de cerca la evolución de la Ley de IA. Aunque es probable que no entre en vigor hasta 2026, se prevé que el incumplimiento acarree graves consecuencias. Por ejemplo, comercializar un sistema de IA inaceptable en el mercado de la UE se sancionaría con multas administrativas de hasta 40 millones de euros o el 7 % de la facturación anual total mundial de la empresa (la cifra que sea mayor), según la posición adoptada por el Parlamento.

Dado que la IA se considera cada vez más la tecnología del futuro, y que se prevé que otros gobiernos utilicen la Ley de IA de la UE como modelo para sus propias normativas, las empresas deberían tomar medidas desde ahora para adaptar sus operaciones a la IA y a su normativa.

Para descubrir cómo esta tecnología emergente va a revolucionar la seguridad de los consumidores y de los productos, inscríbaseaquí en nuestro seminario web. Durante esta sesión exclusiva de 45 minutos, nuestro grupo de expertos compartirá su punto de vista sobre el impacto potencial de la inteligencia artificial en las prácticas empresariales a lo largo de todo el ciclo de vida del producto. No se lo pierda: inscríbaseaquí.