Prática: IA e Transparência

A Inteligência Artificial (IA) tem se consolidado como uma ferramenta transformadora no cenário jurídico brasileiro, impulsionando a eficiência e a agilidade na prestação jurisdicional. No entanto, a adoção dessa tecnologia no setor público, especialmente em atividades que envolvem a tomada de decisões com impacto direto na vida dos cidadãos, exige um olhar atento à transparência. A opacidade algorítmica, característica inerente a muitos sistemas de IA, pode gerar desconfiança e questionamentos sobre a lisura e a imparcialidade das decisões automatizadas.

Neste artigo, exploraremos a interseção entre IA e transparência no contexto jurídico brasileiro, analisando os desafios, as exigências legais e as melhores práticas para garantir que a utilização de algoritmos no setor público ocorra de forma ética, responsável e transparente.

O Desafio da Transparência em Sistemas de IA

A complexidade técnica dos algoritmos de IA, especialmente os baseados em aprendizado de máquina (machine learning), frequentemente os torna "caixas pretas" (black boxes), dificultando a compreensão de como chegam a determinadas conclusões. Essa opacidade pode ser problemática em contextos jurídicos, onde a fundamentação das decisões é essencial para garantir o direito à ampla defesa e ao contraditório, conforme previsto no art. 5º, LV, da Constituição Federal.

A falta de transparência também pode mascarar vieses discriminatórios presentes nos dados utilizados para treinar os algoritmos, resultando em decisões injustas e perpetuando desigualdades. A Lei Geral de Proteção de Dados Pessoais (LGPD - Lei nº 13.709/2018) reconhece essa preocupação ao estabelecer o direito do titular de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses (art. 20).

Marco Legal da Transparência Algorítmica no Brasil

A legislação brasileira, embora ainda em processo de adaptação aos desafios da IA, já apresenta dispositivos que fundamentam a exigência de transparência na utilização de algoritmos pelo setor público.

A Constituição Federal e os Princípios da Administração Pública

A Constituição Federal de 1988 estabelece os princípios da legalidade, impessoalidade, moralidade, publicidade e eficiência (art. 37, caput) como pilares da Administração Pública. A publicidade, em especial, exige que os atos administrativos sejam transparentes e acessíveis ao escrutínio público. No contexto da IA, isso implica a necessidade de divulgar informações sobre o funcionamento, os critérios e os impactos dos algoritmos utilizados pelo Estado.

A Lei de Acesso à Informação (LAI)

A Lei de Acesso à Informação (Lei nº 12.527/2011) garante o direito de acesso a informações públicas, salvo exceções legais. A LAI se aplica aos sistemas de IA utilizados pelo setor público, exigindo a divulgação de informações sobre os algoritmos, os dados utilizados para treinamento e os critérios de decisão, desde que não configurem segredo industrial ou comercial.

A Lei Geral de Proteção de Dados Pessoais (LGPD)

A LGPD, como mencionado anteriormente, estabelece o direito de revisão de decisões automatizadas (art. 20). Além disso, a lei exige que o controlador forneça informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada (art. 20, § 1º).

O Marco Civil da Internet (MCI)

O Marco Civil da Internet (Lei nº 12.965/2014) prevê o fornecimento de informações claras e completas sobre a coleta, uso, armazenamento, tratamento e proteção de dados pessoais (art. 7º, VIII). Essa exigência se estende aos sistemas de IA que utilizam dados pessoais.

Resoluções do Conselho Nacional de Justiça (CNJ)

O CNJ tem editado resoluções para orientar a utilização de IA no Poder Judiciário. A Resolução CNJ nº 332/2020, por exemplo, dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário. A resolução estabelece princípios como o respeito aos direitos fundamentais, a não discriminação, a publicidade e a transparência, exigindo a publicação de informações sobre os sistemas de IA em desenvolvimento ou em uso.

Jurisprudência e a Transparência Algorítmica

A jurisprudência brasileira ainda está se consolidando em relação à transparência algorítmica. No entanto, algumas decisões importantes já sinalizam a necessidade de garantir a explicabilidade das decisões automatizadas.

No caso do "Robô do INSS", o Tribunal Regional Federal da 4ª Região (TRF4) determinou que o Instituto Nacional do Seguro Social (INSS) apresentasse os critérios utilizados pelo sistema automatizado de análise de benefícios, a fim de garantir a transparência e a possibilidade de contestação das decisões (Processo nº 5005953-27.2020.4.04.7100).

O Supremo Tribunal Federal (STF) também tem se manifestado sobre a importância da transparência na utilização de algoritmos. Na ADI 6387, o STF suspendeu a eficácia da Medida Provisória nº 954/2020, que previa o compartilhamento de dados de telecomunicações com o IBGE, argumentando, entre outros pontos, a falta de transparência sobre como os dados seriam utilizados e os algoritmos aplicados.

Orientações Práticas para Garantir a Transparência

Para garantir a transparência na utilização de sistemas de IA no setor público, é fundamental adotar práticas que promovam a explicabilidade e a auditabilidade dos algoritmos.

1. Documentação e Registro

É essencial manter uma documentação detalhada sobre o desenvolvimento e a implementação do sistema de IA. Essa documentação deve incluir informações sobre os objetivos do sistema, os dados utilizados para treinamento, os algoritmos selecionados, os critérios de decisão, os testes realizados e os resultados obtidos.

2. Explicabilidade (Explainable AI - XAI)

A utilização de técnicas de explicabilidade (XAI) pode auxiliar na compreensão do funcionamento de modelos de IA complexos. A XAI busca tornar os algoritmos mais transparentes, fornecendo explicações sobre como as decisões são tomadas e quais os fatores mais relevantes para cada conclusão.

3. Auditoria Algorítmica

A realização de auditorias regulares nos sistemas de IA é crucial para identificar e corrigir possíveis vieses discriminatórios, falhas de segurança e problemas de desempenho. As auditorias devem ser conduzidas por equipes multidisciplinares, incluindo especialistas em IA, direito e ética.

4. Participação Pública

A participação da sociedade civil no desenvolvimento e na implementação de sistemas de IA no setor público é fundamental para garantir a transparência e a legitimidade das decisões automatizadas. A realização de consultas públicas, audiências e debates pode contribuir para a identificação de riscos e a construção de soluções mais justas e equitativas.

5. Criação de Comitês de Ética e Governança

A instituição de comitês de ética e governança de IA pode auxiliar na definição de diretrizes, na avaliação de riscos e na supervisão da utilização de algoritmos no setor público. Esses comitês devem ser compostos por representantes de diferentes áreas, garantindo a diversidade de perspectivas e a independência das avaliações.

Perspectivas Futuras: O Marco Legal da Inteligência Artificial

O Congresso Nacional debate atualmente o Projeto de Lei (PL) nº 2338/2023, que propõe o Marco Legal da Inteligência Artificial no Brasil. O PL estabelece princípios, direitos, deveres e instrumentos de governança para a utilização de IA, com foco na proteção dos direitos fundamentais, na transparência e na responsabilidade. A aprovação do Marco Legal trará maior segurança jurídica e clareza sobre as obrigações do setor público e privado na utilização de algoritmos.

Conclusão

A transparência algorítmica é um imperativo ético e legal na utilização de Inteligência Artificial no setor público. A opacidade dos algoritmos pode gerar desconfiança e comprometer a legitimidade das decisões automatizadas. Para garantir que a IA seja utilizada de forma responsável e equitativa, é fundamental adotar práticas que promovam a explicabilidade, a auditabilidade e a participação pública. O desenvolvimento de um marco legal robusto, como o proposto pelo PL nº 2338/2023, contribuirá para a consolidação de um ambiente jurídico mais seguro e transparente para a inovação tecnológica no Brasil.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.