Lei de IA: Regulamento de Inteligência Artificial da União Europeia

Após o surgimento de diferentes inteligências artificiais, como as populares ChatGPT ou Claude, e após muitos meses de debate, a Eurocâmara aprovou a Lei de Inteligência Artificial, que estabelece regras harmonizadas em matéria de Inteligência Artificial para garantir a segurança e o respeito pelos direitos fundamentais, ao mesmo tempo que promove a inovação.

O objetivo da Lei da Inteligência Artificial é estabelecer um quadro jurídico uniforme, em especial no que diz respeito ao desenvolvimento, comercialização e utilização da inteligência artificial em conformidade com os valores da União Europeia (a seguir designada por «UE»). Por outras palavras, regulamentar a introdução no mercado e a entrada em funcionamento de determinados sistemas de IA, uma vez que a UE pretende ser líder mundial no desenvolvimento de IA segura, fiável e ética.

Refira-se que a Lei da Inteligência Artificial será aplicável a:

1. Prestadores de serviços que colocam sistemas de IA no mercado, entram em serviço ou colocam no mercado modelos de IA para uso geral na União, independentemente de esses fornecedores estarem estabelecidos ou localizados na União ou num país terceiro;
2. Os responsáveis pela implantação de sistemas de IA estabelecidos ou localizados na União;
3. e os responsáveis pela implantação de sistemas de IA estabelecidos ou localizados num país terceiro, onde as informações geradas pelo sistema de IA são utilizadas na União.
4. importadores e distribuidores de sistemas de IA;
5. fabricantes de produtos que colocam no mercado ou colocam em serviço um sistema de IA juntamente com o seu produto e com o seu próprio nome ou marca;
6. Representantes autorizados de fornecedores não estabelecidos na União;
7. as pessoas em causa que se encontrem na União.

Entre outros casos que são desenvolvidos ao longo do Artigo 2º da Lei, não será aplicável a sistemas de IA desenvolvidos ou usados exclusivamente para fins militares; ou autoridades públicas de países terceiros ou organizações internacionais, caso essas autoridades ou organizações utilizem sistemas de IA ao abrigo de acordos internacionais para efeitos de aplicação da lei e de cooperação judiciária com a União ou com um ou mais Estados-Membros.

Pela primeira vez, o conceito de “sistema de inteligência artificial (sistema de IA)” é legalmente definido: “um sistema baseado em máquina projetado para operar com diferentes níveis de autonomia, que pode mostrar adaptabilidade após a implantação e que, para objetivos explícitos ou implícitos, infere das informações de entrada que recebe como gerar informações de saída, como previsões, conteúdo, recomendações ou decisões, que podem influenciar ambientes físicos ou virtuais”.

Os artigos também fornecem uma série de definições dos principais participantes da cadeia de valor da IA, como fornecedores, distribuidores, importadores ou usuários de sistemas de IA, entre outros.

Entrando na regulamentação da matéria, a Lei de Inteligência Artificial segue uma abordagem baseada em risco. Para fazer isso, ele distingue entre sistemas de IA que propõem:

1. Práticas proibidas de IA: Aqueles que violam os direitos fundamentais, como manipular pessoas ou grupos vulneráveis de maneiras prejudiciais.
2. Sistemas de IA de alto risco: Permitido no mercado europeu com requisitos obrigatórios e avaliação de conformidade ex ante.
3. Sistemas de IA de risco limitado: Requisitos menos rigorosos.
4. Sistemas de IA de risco baixo ou mínimo: Sem regulamentos especiais.

As práticas proibidas de IA serão aquelas que, entre outras, violem direitos fundamentais. Por exemplo, práticas que têm um alto potencial de manipular as pessoas por meio de técnicas subliminares que transcendem sua consciência ou que tiram proveito das vulnerabilidades de grupos vulneráveis específicos, como crianças ou pessoas com deficiência, para alterar substancialmente seu comportamento de uma forma que possa causar danos físicos ou psicológicos a eles ou a outros.

Em contrapartida, as práticas de IA de alto risco serão permitidas no mercado europeu, desde que cumpram determinados requisitos obrigatórios e estejam sujeitas a uma avaliação de conformidade ex ante. Deve-se notar que os provedores de IA são regulamentados com o dever de implementar sistemas de gerenciamento de risco associados a sistemas de IA de alto risco.

O sistema de gestão dos riscos deve consistir num processo contínuo que será realizado ao longo do ciclo de vida de um sistema de IA de risco elevado, o que exigirá atualizações sistemáticas regulares para identificar e atenuar os riscos relevantes para a saúde, a segurança e os direitos fundamentais dos sistemas de IA. Consistirá nas seguintes etapas:

• a identificação e análise dos riscos conhecidos e previsíveis associados a cada sistema de IA de risco elevado;
• A estimativa e avaliação dos riscos que podem surgir quando o sistema de IA de risco elevado em questão é utilizado de acordo com a sua finalidade prevista e quando é utilizado de forma abusiva de forma razoavelmente previsível;
• A avaliação de outros riscos que possam resultar da análise dos dados recolhidos com o sistema de monitorização pós-comercialização referido no artigo 61.º;
• A adopção de medidas adequadas de gestão dos riscos, em conformidade com o disposto nos números seguintes.

Em termos de proteção de dados pessoais, os utilizadores de sistemas de IA de risco elevado são obrigados a realizar uma avaliação de impacto sobre a proteção de dados nos termos do artigo 35.º do RGPD, se for caso disso.

O Gabinete Europeu da IA será o centro de conhecimentos especializados em IA em toda a União Europeia. Desempenhará um papel fundamental na aplicação da lei, especialmente no que diz respeito à IA de uso geral, promoverá o desenvolvimento e a utilização de uma IA fiável e a cooperação internacional. O Gabinete de IA foi criado na Comissão Europeia como um centro de conhecimentos especializados em IA e constitui a base de um sistema único europeu de governação da IA.

Além disso, cada Estado-Membro deve nomear ou criar pelo menos uma autoridade notificadora, que será responsável pelo estabelecimento e execução dos procedimentos necessários para a avaliação, designação e notificação dos organismos de avaliação da conformidade, bem como pela sua supervisão.

A Espanha foi o primeiro país da União Europeia a criar a Agência Espanhola de Supervisão da Inteligência Artificial (AESIA), cuja sede será estabelecida na Corunha.

Por fim, ao nível das sanções, a Lei da IA prevê coimas de montantes variáveis (até 35.000.000 euros ou, se o infrator for uma empresa, até 7% do volume de negócios anual global total do exercício anterior, consoante o que for mais elevado), consoante a gravidade da infração. Os Estados-Membros devem estabelecer o regime de sanções, incluindo coimas, e tomar todas as medidas necessárias para assegurar a sua aplicação correta e eficaz.

O Regulamento já foi adotado e publicado (Regulamento (UE) 2024/1689) e encontra-se em plena aplicação faseada de acordo com o calendário anterior. O foco atual reside na elaboração de códigos de boas práticas, normas harmonizadas e diretrizes da Comissão e do Gabinete Europeu de IA, bem como na implementação das autoridades nacionais como a AESIA.

A Lei de IA da UE representa um passo significativo para o estabelecimento de uma estrutura regulatória clara com o objetivo de estabelecer uma IA segura e ética. Quando entrar em vigor, afetará os fornecedores e utilizadores de sistemas de IA na União Europeia, garantindo a proteção dos dados e dos direitos fundamentais e promovendo a confiança na inteligência artificial.