A UE avança com a primeira regulamentação do género para a IA

A inteligência artificial (IA) está em toda parte, mas até agora tem sido amplamente desregulamentada. A União Europeia pretende mudar isso com a sua proposta de Lei da IA da UE. O Parlamento Europeu deu um grande passo em frente na regulamentação da IA no início de junho, quando os seus membros chegaram a um acordo sobre umaversão preliminar da lei.

A lei foiproposta pela primeira vezpela Comissão Europeia em 2021, e muita coisa mudou na IA desde então – especialmente com o surgimento dos produtos de IA generativa. Como resultado, não é surpreendente que a posição de negociação adotada pelo Parlamento difira daposiçãoda Comissão oudo Conselho Europeuadotada em 2022. As diferenças entre as três versões do projeto de lei sobre IA podem prolongar as negociações e a regulamentação final. No entanto, as empresas que fornecem ou utilizam sistemas de IA podem antecipar a direção aproximada da regulamentação e devem começar a preparar-se.

A Lei da IA adota uma abordagem baseada no risco para regulamentar a IA, delineando regulamentos mais rigorosos para aplicações de IA que representam uma ameaça maior à segurança do utilizador. Os sistemas de IA que se enquadram na categoria de «risco inaceitável» da lei seriam proibidos na UE.

Principais alterações

A posição adotada pelo Parlamento Europeu vai além das versões da Comissão e do Conselho, com novas obrigações para os fornecedores e âmbitos alargados para o que se qualifica como um sistema de IA de alto risco. Algumas das principais alterações incluem:

• Uma definição mais rigorosa de um sistema de inteligência artificial que se alinha com a definição da Organização para a Cooperação e Desenvolvimento Económico (OCDE). O rascunho define um sistema de IA como um «sistema baseado em máquinas, projetado para operar com vários níveis de autonomia e que pode, para objetivos explícitos ou implícitos, gerar resultados como previsões, recomendações ou decisões que influenciam ambientes físicos ou virtuais».
• Uma lista mais ampla de sistemas de IA classificados como «risco inaceitável» que serão rigorosamente proibidos. Essa lista agora inclui muitos sistemas de identificação biométrica remota, sistemas de policiamento preditivo, sistemas de reconhecimento de emoções e sistemas de categorização biométrica de «pontuação social».
• Uma classificação alargada dos sistemas de alto risco para incluir aqueles que podem causar danos à saúde, segurança ou direitos fundamentais das pessoas, bem como causar danos ao ambiente, entre outros.
• Obrigações dos fornecedores de modelos básicos de realizar avaliações de risco dos seus sistemas, bem como de se registarem numa base de dados da UE.
• Novos requisitos de transparência a serem cumpridos pelos modelos de fundação generativos, tais como divulgar quando o conteúdo foi gerado por IA, projetar modelos de IA para impedir que gerem conteúdo ilegal e publicar resumos dos dados protegidos por direitos autorais que os modelos utilizam para treinamento.

A posição adotada também aborda a IA generativa, que era menos preocupante nas versões anteriores. Essas alterações incluem:

A Lei da IA agora segue para negociações completas entre a Comissão, o Conselho e o Parlamento para determinar o texto final da lei, o que pode levar até o final do ano. Como vimos em outros setores, como o de dispositivos médicos, as regulamentações descritas na Lei da IA podem em breve se tornar obsoletas, dado o rápido ritmo da inovação na tecnologia de IA. Os legisladores estão tomando medidas para resolver esse dilema, mas, por enquanto, o foco parece estar na criação de uma base para regulamentar os sistemas de IA.

As empresas de todos os setores – quer forneçam ou utilizem IA ou não – devem acompanhar de perto o progresso da Lei da IA. Embora provavelmente não entre em vigor até 2026, espera-se que haja consequências graves para o incumprimento. Por exemplo, colocar um sistema de IA inaceitável no mercado da UE seria punido com multas administrativas de até 40 milhões de euros ou 7% do volume de negócios anual total da empresa a nível mundial (conforme o valor mais elevado), de acordo com a posição adotada pelo Parlamento.

Com a IA cada vez mais vista como a tecnologia do futuro e com outros governos a esperarem usar a Lei de IA da UE como modelo para as suas próprias regulamentações, as empresas devem tomar medidas agora para ajustar as suas operações à IA e às suas regulamentações.

Para descobrir como esta tecnologia emergente está prestes a revolucionar a segurança do consumidor e dos produtos, inscreva-se no nosso webinaraqui. Durante esta sessão exclusiva de 45 minutos, o nosso painel de especialistas partilhará a sua perspetiva sobre o impacto potencial da IA nas práticas comerciais ao longo do ciclo de vida do produto. Não perca esta oportunidade – inscreva-seaqui.