A UE avança com regulamentação pioneira para a IA

A inteligência artificial (IA) está em toda parte, mas até agora tem sido amplamente desregulamentada. A União Europeia pretende mudar isso com a proposta de Lei da IA da UE. O Parlamento Europeu deu um grande passo em frente na regulamentação da IA no início de junho, quando seus membros chegaram a um acordo sobre umaversão preliminar da lei.

A lei foiproposta pela primeira vezpela Comissão Europeia em 2021 e, desde então, muita coisa mudou na área da IA, especialmente com o surgimento dos produtos de IA generativa. Como resultado, não é surpreendente que a posição de negociação adotada pelo Parlamento difira daposiçãoda Comissão oudo Conselho Europeuadotada em 2022. As diferenças entre as três versões do projeto de lei sobre IA podem prolongar as negociações e a regulamentação final. No entanto, as empresas que fornecem ou utilizam sistemas de IA podem antecipar a direção aproximada da regulamentação e devem começar a se preparar.

A Lei da IA adota uma abordagem baseada no risco para regulamentar a IA, estabelecendo regulamentos mais rigorosos para aplicações de IA que representam uma ameaça maior à segurança do usuário. Os sistemas de IA que se enquadram na categoria de “risco inaceitável” da lei seriam proibidos na UE.

Principais alterações

A posição adotada pelo Parlamento Europeu vai além das versões da Comissão e do Conselho, com novas obrigações para os fornecedores e âmbitos alargados para o que se qualifica como um sistema de IA de alto risco. Algumas das principais alterações incluem:

• Uma definição mais rigorosa de um sistema de inteligência artificial que se alinha com a definição da Organização para a Cooperação e Desenvolvimento Econômico (OCDE). O rascunho define um sistema de IA como um “sistema baseado em máquina projetado para operar com vários níveis de autonomia e que pode, para objetivos explícitos ou implícitos, gerar resultados como previsões, recomendações ou decisões que influenciam ambientes físicos ou virtuais”.
• Uma lista mais ampla de sistemas de IA classificados como “risco inaceitável” que serão estritamente proibidos. Essa lista agora inclui muitos sistemas de identificação biométrica remota, sistemas de policiamento preditivo, sistemas de reconhecimento de emoções e sistemas de categorização biométrica de “pontuação social”.
• Uma classificação ampliada de sistemas de alto risco para incluir aqueles que podem causar danos à saúde, segurança ou direitos fundamentais das pessoas, bem como causar danos ao meio ambiente, entre outros.
• Obrigações dos fornecedores de modelos básicos de realizar avaliações de risco para seus sistemas, bem como de se registrarem em um banco de dados da UE.
• Novos requisitos de transparência a serem cumpridos pelos modelos de fundação generativos, tais como divulgar quando o conteúdo foi gerado por IA, projetar modelos de IA para impedir que eles gerem conteúdo ilegal e publicar resumos dos dados protegidos por direitos autorais que os modelos utilizam para treinamento.

A posição adotada também aborda a IA generativa, que era menos preocupante nas versões anteriores. Essas mudanças incluem:

A Lei da IA agora segue para negociações completas entre a Comissão, o Conselho e o Parlamento para determinar o texto final da lei, o que pode levar até o final do ano. Como vimos em outros setores, como o de dispositivos médicos, as regulamentações descritas na Lei da IA podem em breve se tornar obsoletas, dado o rápido ritmo da inovação na tecnologia de IA. Os legisladores estão tomando medidas para resolver esse dilema, mas, por enquanto, o foco parece estar na criação de uma base para regulamentar os sistemas de IA.

As empresas de todos os setores – quer forneçam ou utilizem IA ou não – devem acompanhar de perto o andamento da Lei da IA. Embora provavelmente só entre em vigor em 2026, espera-se que haja consequências graves para o não cumprimento. Por exemplo, colocar um sistema de IA inaceitável no mercado da UE seria punido com multas administrativas de até € 40 milhões ou 7% do faturamento anual total mundial da empresa (o que for maior), de acordo com a posição adotada pelo Parlamento.

Com a IA cada vez mais vista como a tecnologia do futuro e com outros governos a esperarem usar a Lei da IA da UE como modelo para as suas próprias regulamentações, as empresas devem tomar medidas agora para ajustar as suas operações à IA e às suas regulamentações.

Para descobrir como essa tecnologia emergente está prestes a revolucionar a segurança do consumidor e dos produtos, inscreva-se em nosso webinaraqui. Durante esta sessão exclusiva de 45 minutos, nosso painel de especialistas compartilhará sua perspectiva sobre o impacto potencial da IA nas práticas comerciais ao longo do ciclo de vida do produto. Não perca essa oportunidade – inscreva-seaqui.