A União Europeia (UE) orgulha-se do que garante ser “a primeira lei abrangente do mundo sobre a Inteligência Artificial (IA)”.
O processo legislativo teve o seu primeiro passo concreto concluído em abril de 2021, quando a Comissão Europeia apresentou a proposta de um quadro regulamentar da UE para a IA.
Passados 2 anos e 7 meses – após as várias etapas do processo legislativo e ao mesmo tempo que a própria IA evoluía e apresentava novas e surpreendentes valências (como as que decorrem da sua matriz generativa, de que o ChatGPT é o exemplo mais conhecido) –, Parlamento Europeu (PE) e Conselho da União Europeia chegaram a acordo sobre a “Lei da Inteligência Artificial”. Agora, apenas falta a aprovação nas duas comissões da especialidade no PE (Mercado Interno e Liberdades Cívicas) e, depois, no Conselho, para que a lei entre em vigor.
Em termos gerais, esta legislação pretende, por um lado, ser preventiva quanto aos riscos associados à IA – proteção da segurança, saúde e de outros direitos fundamentais das pessoas; da democracia; do Estado de Direito e da sustentabilidade ambiental – e, por outro, impulsionar a inovação que lhe está associada, tornando a Europa líder neste domínio.
O que estabelece, então, em concreto esta primeira regulamentação horizontal sobre a IA, que em dezembro passado conheceu um passo decisivo?
Em primeiro lugar, uma distinção operativa fundamental, a do nível de risco, que determina como irão variar as regras a aplicar. Comissão e PE entenderam delimitar os seguintes patamares:
Risco inaceitável – sistemas considerados uma ameaça para as pessoas e para a democracia, por isso proibidos, embora com algumas exceções;
Risco elevado (ou alto risco) – sistemas que serão avaliados tanto antes de serem colocados no mercado como durante todo o seu ciclo de vida;
Risco limitado – sistemas que devem cumprir requisitos mínimos de transparência que permitam aos utilizadores tomar decisões informadas, ou seja, depois de entrarem em contacto com estas aplicações, poderem decidir se querem continuar a utilizá-las.
Os colegisladores entenderam ainda que os dispositivos de IA generativa (como o ChatGPT) estão obrigados a divulgar que esse conteúdo foi gerado por via de IA; a utilizar um modelo que não gere conteúdos ilegais e a publicar resumos dos dados utilizados na formação que estejam protegidos por direitos de autor. Para os modelos de IA de alto impacto (caso do GPT-4 ) são impostas obrigações mais rigorosas, como por exemplo, a realização de testes contraditórios; a avaliação de riscos sistémicos ou a informação sobre a sua eficiência energética.
E o que está proibido, abrangido pelo “risco inaceitável”?
- “sistemas de categorização biométrica que utilizem características sensíveis (por exemplo, convicções políticas, religiosas, filosóficas, orientação sexual, raça)
- a recolha não direcionada de imagens faciais da Internet ou de imagens de CCTV para criar bases de dados de reconhecimento facial;
- reconhecimento de emoções no local de trabalho e nas instituições de ensino;
- classificação social com base no comportamento social ou nas características pessoais;
- sistemas de IA que manipulam o comportamento humano para contornar o seu livre arbítrio;
- IA utilizada para explorar as vulnerabilidades das pessoas (devido à sua idade, deficiência, situação social ou económica).”
No caso da categorização/identificação biométrica, a lei prevê diversas exceções, designadamente “em espaços acessíveis ao público para fins de aplicação da lei, mediante autorização judicial prévia e para listas de crimes estritamente definidas” e para busca seletiva de uma pessoa condenada ou suspeita de ter cometido um crime grave, prevenção de ameaça terrorista e buscas orientadas de vítimas (em casos de rapto, tráfico, exploração sexual).
Se não houver algum volte-face inesperado nas votações ainda por realizar, 2024 será mesmo o ano de arranque da vigência desta legislação. As sanções previstas para quem não a cumprir variam do grau da infração e da dimensão da empresa e vão dos 7,5 milhões (ou 1,5% do volume de negócios) aos 35 milhões de euros (ou 7% do volume de negócios global).
___________________________________
Este artigo foi desenvolvido pelo Polígrafo no âmbito do projeto “EUROPA”. O projeto foi cofinanciado pela União Europeia no âmbito do programa de subvenções do Parlamento Europeu no domínio da comunicação. O Parlamento Europeu não foi associado à sua preparação e não é de modo algum responsável pelos dados, informações ou pontos de vista expressos no contexto do projeto, nem está por eles vinculado, cabendo a responsabilidade dos mesmos, nos termos do direito aplicável, unicamente aos autores, às pessoas entrevistadas, aos editores ou aos difusores do programa. O Parlamento Europeu não pode, além disso, ser considerado responsável pelos prejuízos, diretos ou indiretos, que a realização do projeto possa causar.
