A inteligência artificial (IA) está em todo o lado, mas até agora não foi regulamentada. A União Europeia está a tentar mudar isso com a sua proposta de Lei da IA da UE. O Parlamento Europeu deu um grande passo em frente na regulamentação da IA no início de junho, quando os seus membros chegaram a acordo sobre uma versão preliminar da lei.
A lei foi proposta pela primeira vez pela Comissão Europeia em 2021, e muito mudou com a IA desde então - especialmente com o surgimento de produtos de IA generativa. Como resultado, não é inesperado que a posição de negociação adotada pelo Parlamento seja diferente da posição da Comissão ou do Conselho Europeu adotada em 2022. As diferenças entre as três versões do projeto de lei sobre a IA podem prolongar as negociações e os regulamentos finais. No entanto, as empresas que fornecem ou utilizam sistemas de IA podem antecipar a direção aproximada dos regulamentos e devem começar a preparar-se.
A Lei da IA adopta uma abordagem baseada no risco para regulamentar a IA, definindo regulamentos mais rigorosos para as aplicações de IA que representam uma maior ameaça para a segurança dos utilizadores. Os sistemas de IA que se enquadram na categoria de "risco inaceitável" da lei seriam proibidos na UE.
Principais alterações
A posição adoptada pelo Parlamento Europeu vai mais longe do que as versões da Comissão e do Conselho, com novas obrigações para os fornecedores e âmbitos alargados para o que se qualifica como um sistema de IA de alto risco. Algumas das principais alterações incluem:
- Uma definição mais rigorosa de um sistema de inteligência de IA que se alinha com a definição da Organização para a Cooperação e Desenvolvimento Económico (OCDE). O projeto define um sistema de IA como um "sistema baseado em máquinas concebido para funcionar com vários níveis de autonomia e que pode, para objectivos explícitos ou implícitos, gerar resultados como previsões, recomendações ou decisões que influenciam ambientes físicos ou virtuais".
- Uma lista mais alargada de sistemas de IA classificados como "risco inaceitável" que serão estritamente proibidos. Esta lista inclui agora muitos sistemas de identificação biométrica à distância, sistemas de policiamento preditivo, sistemas de reconhecimento de emoções e sistemas de categorização biométrica de "pontuação social".
- Uma classificação alargada dos sistemas de alto risco para incluir aqueles que podem causar danos à saúde, à segurança ou aos direitos fundamentais das pessoas, bem como causar danos ao ambiente, entre outros.
- Obrigação de os fornecedores de modelos de base efectuarem avaliações de risco dos seus sistemas, bem como de se registarem numa base de dados da UE.
- Novos requisitos de transparência a cumprir pelos modelos de base generativa, tais como a divulgação do momento em que o conteúdo foi gerado pela IA, a conceção de modelos de IA para evitar que gerem conteúdos ilegais e a publicação de resumos dos dados protegidos por direitos de autor que os modelos utilizam para treino.
A posição adoptada também aborda a IA generativa, que era uma preocupação menor nas versões anteriores. Essas alterações incluem:
A Lei da IA vai agora ser objeto de negociações completas entre a Comissão, o Conselho e o Parlamento para determinar o texto final da lei, o que poderá demorar até ao final do ano. Tal como vimos noutros sectores, como o dos dispositivos médicos, os regulamentos delineados na Lei da IA podem em breve tornar-se obsoletos, dado o ritmo acelerado da inovação na tecnologia da IA. Os legisladores estão a tomar medidas para resolver este dilema, mas, por enquanto, o foco parece estar na criação de uma base para regulamentar os sistemas de IA.
As empresas de todos os sectores - quer forneçam ou utilizem IA ou não - devem acompanhar de perto a evolução da Lei da IA. Embora provavelmente não entre em vigor até 2026, espera-se que haja consequências graves em caso de incumprimento. Por exemplo, a colocação de um sistema de IA inaceitável no mercado da UE seria punida com coimas administrativas até 40 milhões de euros ou 7% do volume de negócios anual total a nível mundial de uma empresa (o valor que for mais elevado), de acordo com a posição adoptada pelo Parlamento.
Com a IA a ser cada vez mais encarada como a tecnologia do futuro e com a expetativa de que outros governos utilizem o AI Act da UE como modelo para os seus próprios regulamentos, as empresas devem tomar medidas agora para ajustar as suas operações à IA e aos seus regulamentos.
Para descobrir como esta tecnologia nascente está preparada para revolucionar a segurança dos consumidores e dos produtos, registe-se no nosso webinar aqui. Durante esta sessão exclusiva de 45 minutos, o nosso painel de especialistas partilhará a sua perspetiva sobre o potencial impacto da IA nas práticas comerciais ao longo do ciclo de vida do produto. Não perca - registe-se aqui.
Tags: IA, Tecnologia de IA, Inteligência Artificial, Europa, Regulamentação, Avanços tecnológicos, Tecnologia