A utilização da inteligência artificial na UE é regulada pela lei da IA, a primeira lei abrangente do mundo sobre a IA.

Lei da Inteligência Artificial: Regras Diferentes consoante os Níveis de Risco
As novas regras estabelecem obrigações para fornecedores e utilizadores em função do nível de risco associado à IA. Embora muitos sistemas de IA representem um risco mínimo, é necessário proceder à sua avaliação.

Risco Inaceitável

Os sistemas de IA classificados como de risco inaceitável são considerados uma ameaça para as pessoas e, por isso, serão proibidos. Estes incluem:

• Manipulação cognitivo-comportamental de pessoas ou grupos vulneráveis específicos: por exemplo, brinquedos ativados por voz que incentivem comportamentos perigosos em crianças;
• Pontuação social, ou seja, a classificação de pessoas com base no comportamento, estatuto socioeconómico ou características pessoais;
• Identificação biométrica e categorização de pessoas singulares;
• Sistemas de identificação biométrica em tempo real e à distância, como o reconhecimento facial.

Algumas exceções podem ser permitidas para fins de aplicação da lei. Os sistemas de identificação biométrica remota “em tempo real” serão autorizados em casos graves e restritos, enquanto os sistemas de “pós-identificação” biométrica à distância, onde a identificação ocorre após um atraso significativo, só serão permitidos para repressão de crimes graves e mediante aprovação judicial.

Risco Elevado

Os sistemas de IA que afetem negativamente a segurança ou os direitos fundamentais serão classificados como de elevado risco e divididos em duas categorias:

1. Sistemas de IA utilizados em produtos abrangidos pela legislação da UE relativa à segurança dos produtos, incluindo brinquedos, aviação, automóveis, dispositivos médicos e elevadores.

2. Sistemas de IA aplicáveis a áreas específicas, que terão de ser registados numa base de dados da UE:

   • Gestão e funcionamento de infraestruturas essenciais;
   • Educação e formação profissional;
   • Emprego, gestão de trabalhadores e acesso ao trabalho por conta própria;
   • Acesso e usufruto de serviços privados essenciais e de serviços e benefícios públicos;
   • Aplicação da lei;
   • Gestão da migração, do asilo e do controlo fronteiriço;
   • Assistência na interpretação jurídica e na aplicação da lei.

Todos os sistemas de IA de risco elevado serão avaliados antes de serem colocados no mercado e monitorizados durante todo o seu ciclo de vida. Os cidadãos terão o direito de apresentar queixas contra os sistemas de IA junto das autoridades nacionais competentes.

Requisitos de Transparência

Os sistemas de inteligência artificial generativa, como o ChatGPT, não serão classificados como de risco elevado, mas deverão cumprir requisitos de transparência e a legislação da UE em matéria de direitos de autor, incluindo:

• Divulgar claramente que o conteúdo foi gerado por IA;
• Conceber o modelo para evitar a geração de conteúdos ilegais;
• Publicar resumos dos dados protegidos por direitos de autor utilizados no treino.

Os modelos de inteligência artificial de uso geral com impacto elevado e risco sistémico, como o modelo GPT-4, estarão sujeitos a avaliações rigorosas e deverão comunicar quaisquer incidentes graves à Comissão Europeia.

Além disso, o conteúdo gerado ou modificado por IA, como imagens, arquivos de áudio ou vídeos (incluindo deepfakes), deverá ser claramente identificado como tal, para garantir que os utilizadores estejam cientes da sua origem.

Apoio à Inovação

A lei visa proporcionar às PMEs e start-ups oportunidades para desenvolverem e treinarem modelos de IA antes de os apresentarem ao público.

Por este motivo, as regras exigem que as autoridades nacionais ofereçam às empresas a possibilidade de realizarem testes de simulação em condições semelhantes às do mundo real.

Consulte o Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que cria regras harmonizadas em matéria de inteligência artificial e que altera os Regulamentos (CE) n.° 300/2008, (UE) n.° 167/2013, (UE) n.° 168/2013, (UE) 2018/858, (UE) 2018/1139 e (UE) 2019/2144 e as Diretivas 2014/90/UE, (UE) 2016/797 e (UE) 2020/1828 (Regulamento da Inteligência Artificial) (Texto relevante para efeitos do EEE)