Inteligência Artificial: breves notas sobre a Proposta de Regulamento

Os sistemas de Inteligência Artificial (IA) são responsáveis pela criação de muitas previsões, recomendações e decisões com as quais o ser humano interage. Hoje, conceitos como Machine Learning[1] e Deep Learning[2] são frequentemente discutidos. No que respeita aos sistemas limitados a software e caracterizados por operar com recurso a IA, destacam-se e.g. os assistentes de voz, os programas de análise de imagens, os motores de busca e os sistemas de reconhecimento facial; por sua vez, no que concerne aos sistemas integrados em dispositivos físicos/hardware, destacam-se e.g. os robôs, os automóveis autónomos e os veículos aéreos não tripulados.

Desafios supervenientes associados aos sistemas de IA como o enviesamento[3] ou a opacidade[4] (Black Box problem) deverão ser acautelados através de mecanismos de prevenção e combatidos através da criação de algoritmos e sistemas transparentes que permitam explicar, inspecionar e reproduzir as decisões e a utilização dos dados em causa.

Demonstrando-se imprescindível a consagração de um quadro normativo sólido, acompanhado de uma abordagem coordenada a nível mundial, com vista ao máximo aproveitamento de oportunidades oferecidas por estes sistemas tecnológicos, salienta-se a publicação de alguns diplomas, incluindo a nível Europeu, de carácter não vinculativo, tais como As Orientações Éticas para uma IA de confiança[5], o Livro Branco da Comissão Europeia sobre a IA[6] e as três Resoluções do Parlamento Europeu sobre os regimes relativos aos aspetos éticos da IA[7], à responsabilidade civil aplicável à IA[8] e aos direitos de propriedade intelectual para o desenvolvimento de tecnologias ligadas à IA[9]. Mais recentemente, foi também publicada a Proposta de Regulamento IA[10].

A Proposta de Regulamento IA assume como objetivos garantir a segurança e o respeito pelos direitos fundamentais dos sistemas de IA colocados no mercado da União Europeia e, simultaneamente, tornar mais eficiente a fiscalização desses sistemas e a aplicação da legislação nesse âmbito, bem como criar segurança jurídica em torno do investimento e da inovação nesta área e facilitar o desenvolvimento de um mercado único para a IA de modo a evitar fragmentações de mercado.

A Proposta prevê que o Regulamento seja aplicável aos fornecedores, utilizadores, distribuidores, importadores e fabricantes de sistemas de IA (excluindo os que sejam desenvolvidos ou usados exclusivamente para fins militares) e segue uma abordagem baseada no risco que diferencia entre as utilizações de IA que criam um risco inaceitável, um risco elevado e um risco baixo ou mínimo.

Neste seguimento, o diploma estabelece uma lista de práticas absolutamente proibidas, elenca os requisitos aplicáveis aos sistemas de IA de risco elevado e enumera as obrigações aplicáveis a tais sistemas, bem como obrigações de transparência relativas a outros sistemas que comportam riscos específicos decorrentes da sua interação com seres humanos (sistemas utilizados para detetar emoções ou determinar a associação categórica com base em dados biométricos e, ainda, sistemas que geram ou manipulam conteúdos de imagem, áudio ou vídeo e que falsamente pareçam ser autênticos ou verdadeiros).

Este diploma prevê, ainda, a criação de um novo organismo da União Europeia denominado Comité Europeu para a Inteligência Artificial que facilitará a aplicação simples, eficaz e harmonizada das disposições do Regulamento, contribuindo para a cooperação e aconselhamento especializado. Em simultâneo, o Regulamento proposto implica, no plano nacional, que cada um dos Estados-Membros estabeleça uma autoridade nacional de controlo de entre as autoridades nacionais competentes criadas ou designadas para o efeito.

Por fim, o diploma prevê um regime robusto de sanções aplicáveis em caso de infração às suas disposições, nomeadamente coimas até 30.000.000 € (trinta milhões de euros) ou, no caso de o infrator ser uma empresa, até 6% do seu volume de negócios anual.

Assim, o desenvolvimento de sistemas de IA deverá começar já a ser pensado, por parte dos operadores económicos, em consonância com as orientações que derivam da Proposta de Regulamento IA, de modo a acautelar eventuais constrangimentos ou violações normativas futuras.

[1] Uso de algoritmos para organização de dados e reconhecimento de padrões com vista à aprendizagem das máquinas e consequente produção de resultados que não decorrem de programação explícita.

[2] Este é considerado o grau de autonomia mais elevado em sistemas de IA. Neste estágio de autonomia, o mecanismo utiliza grandes volumes de dados e algoritmos complexos que o permitem interagir com o ambiente envolvente através de um raciocínio equiparável à rede neural do cérebro humano.

[3] Tendência a favor ou contra uma pessoa, um objeto ou uma posição. Os enviesamentos podem surgir de muitas formas nos sistemas de IA, não estando necessariamente relacionados com preconceitos humanos. Podem ser suscitados, por exemplo, pelos contextos limitados em que um sistema é utilizado, não havendo nesse caso oportunidades de generalização para outros contextos. O enviesamento pode ser positivo ou negativo, intencional ou não intencional. Em alguns casos, o enviesamento pode causar resultados discriminatórios e/ou injustos.

[4] A opacidade pode tornar determinados sistemas de IA incompreensíveis ou demasiado complexos para os cidadãos. Os utilizadores devem ser capazes de interpretar o resultado do sistema e utilizá-lo de forma adequada.

[5] A Comissão Europeia (CE) criou um grupo de peritos de Alto Nível (GPAN), o High-Level Expert Group on Artificial Intelligence (AI-HLEG).

[6] Livro Branco sobre a inteligência artificial – Uma abordagem europeia virada para a excelência e a confiança. Bruxelas, 19.02.2020 COM(2020) 65 final.

[7] Resolução do Parlamento Europeu que contém recomendações à Comissão sobre o regime relativo aos aspetos éticos da inteligência artificial, da robótica e das tecnologias conexas, 20.10.2020.

[8] Resolução do Parlamento Europeu que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial, 20.10.2020.

[9] Resolução do Parlamento Europeu que contém recomendações à Comissão sobre os direitos de propriedade intelectual para o desenvolvimento de tecnologias ligadas à inteligência artificial, 20.10.2020.

[10] Proposta de Regulamento do Parlamento Europeu e do Conselho que estabelece regras harmonizadas em matéria de Inteligência Artificial (Regulamento Inteligência Artificial) e altera determinados atos legislativos da União. Bruxelas, 21.04.2021 COM(2021) 206 final.