Guia: Regulação da IA

A Inteligência Artificial (IA) permeia cada vez mais o cotidiano, do entretenimento à saúde, do transporte à justiça. No entanto, o seu desenvolvimento acelerado e a sua capacidade de tomar decisões de forma autônoma trazem desafios complexos, exigindo uma reflexão profunda sobre a necessidade de regulamentação. Para os profissionais do setor público, como defensores, procuradores, promotores, juízes e auditores, compreender os contornos legais e éticos da IA torna-se fundamental para garantir a aplicação justa e equitativa da lei, bem como a proteção dos direitos fundamentais dos cidadãos. Este guia explora as principais questões envolvendo a regulação da IA, analisando os marcos legais e as perspectivas futuras no Brasil e no mundo.

A Necessidade de Regulação

A IA, com seu potencial de transformar a sociedade, também apresenta riscos consideráveis. A ausência de um marco regulatório claro pode gerar lacunas na proteção de direitos, como a privacidade, a não discriminação e a segurança. A regulação da IA busca estabelecer um equilíbrio entre a inovação tecnológica e a proteção dos direitos humanos, garantindo que o desenvolvimento e o uso da IA sejam éticos, transparentes e responsáveis.

Desafios Éticos e Jurídicos

A IA apresenta desafios éticos e jurídicos complexos, como:

• Viés e Discriminação: Algoritmos de IA podem reproduzir e amplificar preconceitos presentes nos dados utilizados para treiná-los, resultando em decisões discriminatórias.
• Falta de Transparência: A complexidade de alguns sistemas de IA, como redes neurais profundas, dificulta a compreensão de como as decisões são tomadas, gerando o problema da "caixa preta".
• Responsabilidade: A autonomia da IA levanta questões sobre quem deve ser responsabilizado por danos causados por sistemas de IA, seja o desenvolvedor, o usuário ou a própria IA.
• Privacidade e Proteção de Dados: O uso de grandes volumes de dados para treinar sistemas de IA levanta preocupações sobre a privacidade e a proteção de dados pessoais.

Marcos Legais e Iniciativas de Regulação

A regulação da IA é um tema em constante evolução, com diferentes abordagens sendo discutidas e implementadas em todo o mundo.

A União Europeia: O Regulamento da Inteligência Artificial (AI Act)

A União Europeia tem sido pioneira na regulação da IA, com a proposta do Regulamento da Inteligência Artificial (AI Act), que busca estabelecer um marco legal abrangente para o desenvolvimento e uso da IA na Europa. O AI Act propõe uma abordagem baseada em risco, classificando os sistemas de IA em quatro categorias:

• Risco Inaceitável: Sistemas de IA que representam uma ameaça clara aos direitos fundamentais, como sistemas de pontuação social ou sistemas que manipulam o comportamento humano de forma subliminar, seriam proibidos.
• Alto Risco: Sistemas de IA que apresentam riscos significativos para a saúde, segurança ou direitos fundamentais, como sistemas utilizados em infraestruturas críticas, recrutamento, aplicação da lei e justiça, estariam sujeitos a requisitos rigorosos de transparência, segurança e supervisão humana.
• Risco Limitado: Sistemas de IA que apresentam riscos menores, como chatbots, estariam sujeitos a requisitos de transparência, como a obrigação de informar os usuários de que estão interagindo com um sistema de IA.
• Risco Mínimo ou Nulo: Sistemas de IA que não apresentam riscos significativos, como filtros de spam, não estariam sujeitos a regulamentação específica.

O Brasil: O Projeto de Lei 21/2020 e a Estratégia Brasileira de Inteligência Artificial (EBIA)

No Brasil, o Projeto de Lei 21/2020 (Marco Legal da Inteligência Artificial) propõe estabelecer princípios, direitos e deveres para o uso da IA no país. O PL 21/2020 baseia-se em princípios como o respeito aos direitos humanos, a não discriminação, a transparência, a segurança e a responsabilidade.

Além do PL 21/2020, o Brasil também conta com a Estratégia Brasileira de Inteligência Artificial (EBIA), que define os objetivos e as ações do governo federal para promover o desenvolvimento e o uso da IA no país. A EBIA destaca a importância de um ambiente regulatório favorável à inovação, mas que também garanta a proteção dos direitos dos cidadãos.

Orientações Práticas para Profissionais do Setor Público

Diante do cenário de rápida evolução tecnológica e da complexidade da regulação da IA, os profissionais do setor público devem adotar uma postura proativa e informada.

Conhecimento Técnico e Jurídico

É fundamental que os profissionais do setor público busquem atualizar seus conhecimentos sobre a IA, compreendendo os princípios básicos da tecnologia, seus potenciais riscos e os marcos legais relevantes. Isso inclui acompanhar as discussões sobre o PL 21/2020 e outras iniciativas de regulação no Brasil e no mundo.

Avaliação de Risco e Impacto

Ao utilizar ou avaliar o uso de sistemas de IA, os profissionais do setor público devem realizar uma análise rigorosa dos riscos e do impacto potencial sobre os direitos fundamentais. Isso inclui avaliar a qualidade dos dados utilizados para treinar o sistema, a transparência do algoritmo e a existência de mecanismos de supervisão humana.

Transparência e Explicabilidade

Os profissionais do setor público devem exigir transparência e explicabilidade dos sistemas de IA utilizados na administração pública e no sistema de justiça. Isso significa que as decisões tomadas por sistemas de IA devem ser compreensíveis e justificáveis, permitindo que os cidadãos compreendam os motivos de uma decisão e possam contestá-la, se necessário.

Responsabilidade e Supervisão Humana

A responsabilidade pelas decisões tomadas por sistemas de IA deve ser claramente definida, garantindo que haja mecanismos de responsabilização em caso de danos. Além disso, a supervisão humana deve ser mantida, garantindo que os sistemas de IA não operem de forma totalmente autônoma, especialmente em áreas de alto risco, como a justiça criminal.

Jurisprudência e Normativas Relevantes

A jurisprudência brasileira sobre a IA ainda é incipiente, mas algumas decisões e normativas já começam a delinear os contornos legais da tecnologia.

O Caso do Sistema de Reconhecimento Facial na Segurança Pública

O uso de sistemas de reconhecimento facial na segurança pública tem gerado debates sobre a privacidade e a possibilidade de viés discriminatório. Em algumas decisões judiciais, o uso desses sistemas tem sido questionado, exigindo-se maior transparência e garantias de que não haverá discriminação.

A Resolução nº 332/2020 do Conselho Nacional de Justiça (CNJ)

A Resolução nº 332/2020 do CNJ dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário. A resolução estabelece princípios como o respeito aos direitos fundamentais, a não discriminação, a transparência, a segurança e a responsabilidade, orientando o desenvolvimento e o uso da IA nos tribunais brasileiros.

Conclusão

A regulação da IA é um desafio complexo que exige um debate amplo e aprofundado, envolvendo diferentes atores da sociedade, incluindo o setor público, o setor privado, a academia e a sociedade civil. Para os profissionais do setor público, compreender os marcos legais e éticos da IA é fundamental para garantir a aplicação justa e equitativa da lei, bem como a proteção dos direitos fundamentais dos cidadãos. A busca por um equilíbrio entre a inovação tecnológica e a proteção dos direitos humanos deve ser o norte para o desenvolvimento e o uso da IA no Brasil e no mundo.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.