Texto citado em : Regulamento Inteligência Artificial: Parlamento aprova legislação histórica – https://www.europarl.europa.eu/news/pt/press-room/20240308IPR19015/regulamento-inteligencia-artificial-parlamento-aprova-legislacao-historica

• Salvaguardas para a inteligência artificial (IA) de uso geral
• Limites à utilização de sistemas de identificação biométrica pelas autoridades policiais
• Proibição da classificação social e da IA utilizada para manipular ou explorar vulnerabilidades dos utilizadores
• Direito dos consumidores a apresentar queixas e a receber explicações significativas

Na quarta-feira, o Parlamento aprovou o Regulamento Inteligência Artificial, que garante a segurança e o respeito dos direitos fundamentais, impulsionando simultaneamente a inovação.

O regulamento, acordado nas negociações com os Estados-Membros em dezembro de 2023, foi aprovado pelos eurodeputados por 523 votos a favor, 46 votos contra e 49 abstenções.

Visa proteger os direitos fundamentais, a democracia, o Estado de direito e a sustentabilidade ambiental contra a IA de alto risco, promovendo simultaneamente a inovação e tornando a Europa líder neste domínio. O regulamento estabelece obrigações para a IA com base nos seus potenciais riscos e nível de impacto.

Aplicações proibidas

As novas regras proíbem determinadas aplicações de IA que ameaçam os direitos dos cidadãos, incluindo sistemas de categorização biométrica baseados em características sensíveis e a recolha não direcionada de imagens faciais da Internet ou de televisão em circuito fechado para criar bases de dados de reconhecimento facial. Serão também proibidos o reconhecimento de emoções no local de trabalho e nas escolas, a classificação social, o policiamento preditivo (quando se baseia exclusivamente na definição de perfis de uma pessoa ou na avaliação das suas características) e a IA que manipula o comportamento humano ou explora as vulnerabilidades das pessoas.

Isenções para fins de aplicação da lei

A utilização de sistemas de identificação biométrica à distância pelas autoridades policiais é, em princípio, proibida, exceto em situações enunciadas exaustivamente e definidas de modo restrito. A identificação biométrica à distância «em tempo real» só pode ser aplicada se forem cumpridas salvaguardas rigorosas, nomeadamente se a sua utilização for limitada no tempo e no âmbito geográfico e se estiver sujeita a uma autorização judicial ou administrativa prévia específica. Tais utilizações podem incluir, por exemplo, a busca seletiva de uma pessoa desaparecida ou a prevenção de um ataque terrorista. A utilização de sistemas de identificação biométrica à distância «em diferido» é considerada um caso de uso de alto risco, exigindo uma autorização judicial associada a uma infração penal.

Obrigações aplicáveis aos sistemas de alto risco

Estão igualmente previstas obrigações claras para outros sistemas de IA de alto risco, devido aos seus potenciais danos significativos para a saúde, a segurança, os direitos fundamentais, o ambiente, a democracia e o Estado de direito. Exemplos de utilizações de IA de alto risco incluem infraestruturas críticas, educação e formação profissional, emprego, serviços públicos e privados essenciais (nomeadamente os cuidados de saúde e a banca), determinados sistemas de aplicação da lei, migração e gestão das fronteiras, justiça e processos democráticos (por exemplo, influenciando eleições). Esses sistemas devem avaliar e reduzir os riscos, manter registos de utilização, ser transparentes e exatos e garantir a supervisão humana. Os cidadãos terão o direito de apresentar queixas sobre os sistemas de IA e de receber explicações sobre as decisões baseadas em sistemas de IA de alto risco que afetem os seus direitos.

Requisitos de transparência

Os sistemas de IA de uso geral, bem como os modelos de IA de uso geral em que tais sistemas se baseiam, devem cumprir determinados requisitos de transparência, incluindo o respeito pela legislação da UE sobre direitos de autor e publicar informação detalhada dos conteúdos usados para treino. Os modelos de IA de uso geral mais poderosos que possam colocar riscos sistémicos terão de cumprir requisitos adicionais, tais como realizar avaliações de modelos, avaliar e atenuar os riscos sistémicos e comunicar incidentes.

Além disso, os conteúdos de imagem, áudio ou vídeo artificiais ou manipulados («falsificações profundas») devem ser claramente rotulados como tal.

Medidas de apoio à inovação e às PME

Terão de ser criados, a nível nacional, ambientes de testagem da regulamentação e testes em condições reais, acessíveis às PME e às empresas em fase de arranque (start-ups), a fim de desenvolver e treinar IA inovadora antes da sua colocação no mercado.

Citações

Durante o debate na sessão plenária de terça-feira, o relator da Comissão do Mercado Interno, Brando Benifei (S&D, Itália), declarou: «Finalmente, temos a primeira lei vinculativa do mundo em matéria de inteligência artificial, a fim de reduzir os riscos, criar oportunidades, combater a discriminação e trazer transparência. Graças ao Parlamento, as práticas inaceitáveis de IA serão proibidas na Europa e os direitos dos trabalhadores e dos cidadãos serão protegidos. O Gabinete de Inteligência Artificial será agora criado para ajudar as empresas a começarem a cumprir as regras antes de entrarem em vigor. Garantimos que os seres humanos e os valores europeus estão no centro do desenvolvimento da IA».

O relator da Comissão das Liberdades Cívicas, Dragos Tudorache (Renew, Roménia), declarou: «A UE obteve resultados. Ligámos o conceito de inteligência artificial aos valores fundamentais que formam a base das nossas sociedades. No entanto, há muito trabalho pela frente que vai além do próprio Ato de Inteligência Artificial. A IA levar-nos-á a repensar o contrato social no centro das nossas democracias, dos nossos modelos educativos, dos mercados de trabalho e da forma como conduzimos a guerra. A Lei da IA é um ponto de partida para um novo modelo de governação construído em torno da tecnologia. Devemos agora concentrar-nos em pôr esta lei em prática».

Próximos passos

O regulamento ainda terá de ser sujeito a uma verificação final pelos juristas-linguistas, prevendo‑se que venha a ser definitivamente adotado antes do final da legislatura (através do chamado «processo de retificação»). A legislação também tem ainda de ser formalmente apoiada pelo Conselho.

Entrará em vigor 20 dias depois da sua publicação no Jornal Oficial. Será plenamente aplicável 24 meses após entrar em vigor, exceto no que diz respeito: às práticas proibidas, cujas restrições serão aplicáveis seis meses após a data de entrada em vigor; aos códigos de conduta (nove meses após a entrada em vigor); às regras para a IA de uso geral, incluindo a governação (12 meses após a entrada em vigor); às obrigações para os sistemas de alto risco (36 meses).

Contexto
O Regulamento Inteligência Artificial vem responder diretamente às propostas dos cidadãos durante a Conferência sobre o Futuro da Europa, em particular:

• ao reforço da competitividade da UE em setores estratégicos (proposta 12.10);
• a uma sociedade segura e fiável, incluindo a luta contra a desinformação e a garantia de que os seres humanos estão, em última análise, no controlo (proposta 33.5);
• à promoção da inovação digital assegurando simultaneamente a supervisão humana e uma utilização fiável e responsável da IA, estabelecendo salvaguardas e garantindo a transparência (proposta 35.3 e 35.8, respetivamente;
• à utilização da IA e das ferramentas digitais para melhorar o acesso dos cidadãos à informação, incluindo as pessoas com deficiência (proposta 37.3).

https://www.europarl.europa.eu/news/pt/press-room/20240308IPR19015/regulamento-inteligencia-artificial-parlamento-aprova-legislacao-historica

• Salvaguardas para a inteligência artificial (IA) de uso geral
• Limites à utilização de sistemas de identificação biométrica pelas autoridades policiais
• Proibição da classificação social e da IA utilizada para manipular ou explorar vulnerabilidades dos utilizadores
• Direito dos consumidores a apresentar queixas e a receber explicações significativas

Na quarta-feira, o Parlamento aprovou o Regulamento Inteligência Artificial, que garante a segurança e o respeito dos direitos fundamentais, impulsionando simultaneamente a inovação.

O regulamento, acordado nas negociações com os Estados-Membros em dezembro de 2023, foi aprovado pelos eurodeputados por 523 votos a favor, 46 votos contra e 49 abstenções.

Visa proteger os direitos fundamentais, a democracia, o Estado de direito e a sustentabilidade ambiental contra a IA de alto risco, promovendo simultaneamente a inovação e tornando a Europa líder neste domínio. O regulamento estabelece obrigações para a IA com base nos seus potenciais riscos e nível de impacto.

Aplicações proibidas

As novas regras proíbem determinadas aplicações de IA que ameaçam os direitos dos cidadãos, incluindo sistemas de categorização biométrica baseados em características sensíveis e a recolha não direcionada de imagens faciais da Internet ou de televisão em circuito fechado para criar bases de dados de reconhecimento facial. Serão também proibidos o reconhecimento de emoções no local de trabalho e nas escolas, a classificação social, o policiamento preditivo (quando se baseia exclusivamente na definição de perfis de uma pessoa ou na avaliação das suas características) e a IA que manipula o comportamento humano ou explora as vulnerabilidades das pessoas.

Isenções para fins de aplicação da lei

A utilização de sistemas de identificação biométrica à distância pelas autoridades policiais é, em princípio, proibida, exceto em situações enunciadas exaustivamente e definidas de modo restrito. A identificação biométrica à distância «em tempo real» só pode ser aplicada se forem cumpridas salvaguardas rigorosas, nomeadamente se a sua utilização for limitada no tempo e no âmbito geográfico e se estiver sujeita a uma autorização judicial ou administrativa prévia específica. Tais utilizações podem incluir, por exemplo, a busca seletiva de uma pessoa desaparecida ou a prevenção de um ataque terrorista. A utilização de sistemas de identificação biométrica à distância «em diferido» é considerada um caso de uso de alto risco, exigindo uma autorização judicial associada a uma infração penal.

Obrigações aplicáveis aos sistemas de alto risco

Estão igualmente previstas obrigações claras para outros sistemas de IA de alto risco, devido aos seus potenciais danos significativos para a saúde, a segurança, os direitos fundamentais, o ambiente, a democracia e o Estado de direito. Exemplos de utilizações de IA de alto risco incluem infraestruturas críticas, educação e formação profissional, emprego, serviços públicos e privados essenciais (nomeadamente os cuidados de saúde e a banca), determinados sistemas de aplicação da lei, migração e gestão das fronteiras, justiça e processos democráticos (por exemplo, influenciando eleições). Esses sistemas devem avaliar e reduzir os riscos, manter registos de utilização, ser transparentes e exatos e garantir a supervisão humana. Os cidadãos terão o direito de apresentar queixas sobre os sistemas de IA e de receber explicações sobre as decisões baseadas em sistemas de IA de alto risco que afetem os seus direitos.

Requisitos de transparência

Os sistemas de IA de uso geral, bem como os modelos de IA de uso geral em que tais sistemas se baseiam, devem cumprir determinados requisitos de transparência, incluindo o respeito pela legislação da UE sobre direitos de autor e publicar informação detalhada dos conteúdos usados para treino. Os modelos de IA de uso geral mais poderosos que possam colocar riscos sistémicos terão de cumprir requisitos adicionais, tais como realizar avaliações de modelos, avaliar e atenuar os riscos sistémicos e comunicar incidentes.

Além disso, os conteúdos de imagem, áudio ou vídeo artificiais ou manipulados («falsificações profundas») devem ser claramente rotulados como tal.

Medidas de apoio à inovação e às PME

Terão de ser criados, a nível nacional, ambientes de testagem da regulamentação e testes em condições reais, acessíveis às PME e às empresas em fase de arranque (start-ups), a fim de desenvolver e treinar IA inovadora antes da sua colocação no mercado.

Citações

Durante o debate na sessão plenária de terça-feira, o relator da Comissão do Mercado Interno, Brando Benifei (S&D, Itália), declarou: «Finalmente, temos a primeira lei vinculativa do mundo em matéria de inteligência artificial, a fim de reduzir os riscos, criar oportunidades, combater a discriminação e trazer transparência. Graças ao Parlamento, as práticas inaceitáveis de IA serão proibidas na Europa e os direitos dos trabalhadores e dos cidadãos serão protegidos. O Gabinete de Inteligência Artificial será agora criado para ajudar as empresas a começarem a cumprir as regras antes de entrarem em vigor. Garantimos que os seres humanos e os valores europeus estão no centro do desenvolvimento da IA».

O relator da Comissão das Liberdades Cívicas, Dragos Tudorache (Renew, Roménia), declarou: «A UE obteve resultados. Ligámos o conceito de inteligência artificial aos valores fundamentais que formam a base das nossas sociedades. No entanto, há muito trabalho pela frente que vai além do próprio Ato de Inteligência Artificial. A IA levar-nos-á a repensar o contrato social no centro das nossas democracias, dos nossos modelos educativos, dos mercados de trabalho e da forma como conduzimos a guerra. A Lei da IA é um ponto de partida para um novo modelo de governação construído em torno da tecnologia. Devemos agora concentrar-nos em pôr esta lei em prática».

Próximos passos

O regulamento ainda terá de ser sujeito a uma verificação final pelos juristas-linguistas, prevendo‑se que venha a ser definitivamente adotado antes do final da legislatura (através do chamado «processo de retificação»). A legislação também tem ainda de ser formalmente apoiada pelo Conselho.

Contexto

Entrará em vigor 20 dias depois da sua publicação no Jornal Oficial. Será plenamente aplicável 24 meses após entrar em vigor, exceto no que diz respeito: às práticas proibidas, cujas restrições serão aplicáveis seis meses após a data de entrada em vigor; aos códigos de conduta (nove meses após a entrada em vigor); às regras para a IA de uso geral, incluindo a governação (12 meses após a entrada em vigor); às obrigações para os sistemas de alto risco (36 meses).Contexto
O Regulamento Inteligência Artificial vem responder diretamente às propostas dos cidadãos durante a Conferência sobre o Futuro da Europa, em particular:

• ao reforço da competitividade da UE em setores estratégicos (proposta 12.10);
• a uma sociedade segura e fiável, incluindo a luta contra a desinformação e a garantia de que os seres humanos estão, em última análise, no controlo (proposta 33.5);
• à promoção da inovação digital assegurando simultaneamente a supervisão humana e uma utilização fiável e responsável da IA, estabelecendo salvaguardas e garantindo a transparência (proposta 35.3 e 35.8, respetivamente;
• à utilização da IA e das ferramentas digitais para melhorar o acesso dos cidadãos à informação, incluindo as pessoas com deficiência (proposta 37.3).