IA e Transparência: Visão do Tribunal

A inteligência artificial (IA) tem se consolidado como uma ferramenta indispensável no cenário jurídico brasileiro, impulsionando a eficiência e a agilidade processual. Contudo, essa integração traz consigo desafios complexos, especialmente no que tange à transparência e à explicabilidade algorítmica. Para os profissionais do setor público, que lidam com a tomada de decisões que afetam diretamente a vida dos cidadãos, compreender a visão dos tribunais sobre essa temática é fundamental para garantir a segurança jurídica e a proteção de direitos fundamentais.

Este artigo explora a evolução do entendimento jurisprudencial e normativo acerca da transparência na utilização de IA no sistema de justiça, analisando as implicações para defensores, procuradores, promotores, juízes e auditores. Discutiremos os marcos legais relevantes, as decisões paradigmáticas e as diretrizes práticas para assegurar que a inovação tecnológica não comprometa os princípios norteadores do Estado Democrático de Direito.

O Imperativo da Transparência: Fundamentos Legais e Normativos

A transparência, pilar da administração pública e do devido processo legal, ganha novos contornos no contexto da IA. A Constituição Federal de 1988 estabelece, em seu artigo 5º, incisos XXXIII e LX, o direito de acesso à informação e a publicidade dos atos processuais, respectivamente. Esses princípios constitucionais se estendem à atuação dos algoritmos no judiciário, exigindo que o funcionamento e os critérios de decisão desses sistemas sejam acessíveis e compreensíveis.

O Marco Civil da Internet (Lei nº 12.965/2014) e a Lei Geral de Proteção de Dados (LGPD - Lei nº 13.709/2018) também desempenham um papel crucial na regulamentação da IA. A LGPD, em seu artigo 20, garante ao titular dos dados o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade. Essa revisão, por sua vez, exige a transparência dos critérios e procedimentos utilizados na decisão automatizada.

O Papel do Conselho Nacional de Justiça (CNJ)

O CNJ tem sido proativo na regulamentação da IA no Poder Judiciário. A Resolução nº 332/2020 estabeleceu diretrizes éticas para a implementação e o uso de IA, enfatizando a transparência, a não discriminação e a responsabilidade. A resolução determina que os sistemas de IA devem ser projetados e utilizados de forma a garantir a explicabilidade das decisões, permitindo que as partes compreendam os fatores que influenciaram o resultado.

Mais recentemente, a Resolução nº 450/2022 consolidou as diretrizes para a governança e a gestão da IA no Judiciário, reforçando a necessidade de transparência ativa e passiva. A norma exige a publicação de informações sobre os sistemas de IA em uso, incluindo seus objetivos, bases de dados, algoritmos e métricas de desempenho.

A Visão dos Tribunais: Jurisprudência em Construção

A jurisprudência brasileira sobre IA e transparência ainda está em fase de consolidação, mas já é possível identificar tendências importantes. Os tribunais têm se mostrado cautelosos em relação à adoção de sistemas de IA que não ofereçam garantias suficientes de transparência e explicabilidade.

Casos Paradigmáticos

Embora o número de decisões judiciais que abordam diretamente a transparência algorítmica ainda seja limitado, alguns casos ganharam destaque. O Supremo Tribunal Federal (STF), no julgamento da ADI 6387, que questionava a constitucionalidade da Medida Provisória nº 954/2020 (que previa o compartilhamento de dados de telecomunicações com o IBGE), ressaltou a importância da proteção de dados e da transparência na utilização de informações pessoais pelo Estado.

No Superior Tribunal de Justiça (STJ), a discussão sobre a admissibilidade de provas produzidas por meio de algoritmos de reconhecimento facial tem evidenciado a necessidade de transparência nos critérios e nas bases de dados utilizados por esses sistemas. A falta de explicabilidade e a possibilidade de viés algorítmico têm sido apontadas como fatores que podem comprometer a validade dessas provas.

A Necessidade de Explicabilidade

A explicabilidade algorítmica, ou seja, a capacidade de compreender os motivos que levaram um sistema de IA a tomar determinada decisão, tem sido um tema recorrente nos debates jurídicos. Os tribunais têm enfatizado que a falta de explicabilidade pode configurar violação ao devido processo legal e ao direito à ampla defesa, uma vez que as partes ficam impossibilitadas de contestar a decisão de forma efetiva.

A complexidade de alguns algoritmos, como as redes neurais profundas, dificulta a explicabilidade, o que tem gerado preocupações entre os operadores do direito. Nesses casos, os tribunais têm exigido a demonstração de que o sistema é confiável e que seus resultados não são discriminatórios ou enviesados.

Desafios e Perspectivas para Profissionais do Setor Público

A integração da IA no setor público exige dos profissionais uma postura proativa e atenta aos desafios éticos e jurídicos. A transparência algorítmica não é apenas um requisito legal, mas um pressuposto para a confiança da sociedade nas instituições públicas.

O Papel do Ministério Público e da Defensoria Pública

O Ministério Público e a Defensoria Pública desempenham um papel fundamental na fiscalização e na defesa dos direitos fundamentais no contexto da IA. A atuação desses órgãos deve se pautar pela exigência de transparência e explicabilidade na utilização de sistemas de IA pelo Poder Público, bem como pela identificação e combate a possíveis vieses e discriminações.

A atuação proativa, por meio da instauração de inquéritos civis e da propositura de ações civis públicas, é essencial para garantir que a implementação da IA no setor público observe os princípios constitucionais e as normas legais de proteção de dados.

A Atuação de Juízes e Auditores

Os juízes, ao analisar casos que envolvam a utilização de IA, devem exigir a comprovação da confiabilidade e da transparência dos sistemas utilizados. A análise da explicabilidade algorítmica deve ser criteriosa, e a falta de transparência pode ensejar a nulidade da decisão ou a desconsideração da prova.

Os auditores, por sua vez, devem avaliar a governança e a gestão da IA nos órgãos públicos, verificando o cumprimento das diretrizes do CNJ e das normas legais de proteção de dados. A auditoria de sistemas de IA deve incluir a análise da transparência, da explicabilidade e da segurança dos algoritmos.

Orientações Práticas para a Atuação Profissional

Para lidar com os desafios da IA e da transparência, os profissionais do setor público devem adotar algumas medidas práticas:

1. Atualização Constante: Acompanhar as inovações tecnológicas e as discussões jurídicas sobre IA é fundamental para compreender os desafios e as oportunidades dessa tecnologia.
2. Exigência de Transparência: Em qualquer processo ou procedimento que envolva a utilização de IA, exigir a demonstração da transparência e da explicabilidade do sistema.
3. Análise Crítica: Analisar criticamente os resultados produzidos por sistemas de IA, buscando identificar possíveis vieses e discriminações.
4. Capacitação Específica: Buscar capacitação em áreas como ciência de dados, aprendizado de máquina e ética na IA.
5. Participação Ativa: Participar de debates e fóruns sobre IA e direito, contribuindo para a construção de um marco regulatório adequado.

Legislação Atualizada (Até 2026)

A legislação sobre IA no Brasil encontra-se em constante evolução. O Projeto de Lei nº 2338/2023, que dispõe sobre o uso da Inteligência Artificial no Brasil, prevê regras claras para a transparência e a explicabilidade dos sistemas de IA, especialmente aqueles considerados de alto risco. A aprovação desse marco legal será um passo importante para garantir a segurança jurídica e a proteção de direitos fundamentais no contexto da IA.

Além disso, a Autoridade Nacional de Proteção de Dados (ANPD) tem publicado guias e orientações sobre a aplicação da LGPD no contexto da IA, reforçando a necessidade de transparência e de respeito aos direitos dos titulares de dados.

Conclusão

A transparência na utilização de IA no sistema de justiça é um desafio complexo, mas inadiável. A visão dos tribunais, embora em construção, sinaliza para a necessidade de garantir que a inovação tecnológica não comprometa os princípios fundamentais do Estado Democrático de Direito. Para os profissionais do setor público, a exigência de transparência e explicabilidade algorítmica deve ser uma prioridade, assegurando que a IA seja utilizada de forma ética, responsável e em benefício da sociedade. A constante atualização e a atuação proativa são essenciais para enfrentar os desafios e aproveitar as oportunidades que a IA oferece para a modernização da justiça.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.