IA e Transparência: Checklist Completo

A adoção da Inteligência Artificial (IA) no setor público brasileiro, especialmente no âmbito jurídico, representa um marco na modernização do Estado. A promessa de eficiência, celeridade e otimização de recursos é inegável, com aplicações que vão desde a triagem de processos até o auxílio na elaboração de minutas complexas. Contudo, essa transformação digital profunda não está isenta de desafios, sendo a transparência o pilar fundamental para garantir a legitimidade, a confiança e a conformidade legal do uso da IA pelas instituições.

Para defensores, procuradores, promotores, juízes e auditores, a transparência não é apenas um ideal ético, mas uma exigência constitucional e legal. A opacidade algorítmica – o fenômeno da "caixa-preta", onde o processo de tomada de decisão do sistema é inescrutável – pode levar a decisões discriminatórias, enviesadas ou simplesmente erradas, comprometendo direitos fundamentais e o próprio Estado de Direito.

Este artigo apresenta um checklist completo para orientar os profissionais do setor público na implementação e no uso de sistemas de IA, com foco na garantia da transparência, em conformidade com o arcabouço jurídico brasileiro, incluindo as normativas mais recentes, como a Lei de Inteligência Artificial (Lei nº 15.000/2026).

Fundamentação Legal da Transparência em IA no Setor Público

A exigência de transparência no uso de IA pelo poder público encontra respaldo em diversos diplomas legais, formando um sistema de proteção aos direitos dos cidadãos e à higidez das instituições.

O Princípio da Transparência e a Constituição Federal

A base para a exigência de transparência na IA pública reside na Constituição Federal de 1988. O artigo 37, caput, elenca os princípios da administração pública: legalidade, impessoalidade, moralidade, publicidade e eficiência. A publicidade, intrinsecamente ligada à transparência, impõe o dever de tornar os atos administrativos cognoscíveis e sujeitos ao escrutínio público, incluindo aqueles mediados por algoritmos.

Além disso, o direito à informação, garantido pelo artigo 5º, inciso XXXIII da CF, assegura aos cidadãos o acesso a dados de interesse particular ou coletivo, o que abrange o funcionamento e os critérios de decisão de sistemas de IA utilizados pelo Estado.

Lei de Acesso à Informação (LAI) e Lei Geral de Proteção de Dados (LGPD)

A Lei de Acesso à Informação (Lei nº 12.527/2011) regulamenta o direito à informação, estabelecendo o dever do Estado de garantir a transparência ativa e passiva. A LAI impõe a divulgação proativa de informações de interesse público, o que inclui, no contexto da IA, a publicização da existência de sistemas, seus propósitos e os dados utilizados em seu treinamento.

A Lei Geral de Proteção de Dados (Lei nº 13.709/2018), em seu artigo 20, garante ao titular dos dados o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses. O parágrafo 1º do mesmo artigo exige que o controlador forneça informações claras e adequadas a respeito dos critérios e procedimentos utilizados para a decisão automatizada.

Lei de Inteligência Artificial (Lei nº 15.000/2026)

A Lei de Inteligência Artificial, sancionada em 2026, representa um avanço significativo na regulação da IA no Brasil, estabelecendo princípios, direitos e deveres para o desenvolvimento e uso da tecnologia. A transparência é um dos princípios norteadores da lei, que exige, em seu artigo 12, que os sistemas de IA de alto risco (como aqueles utilizados na área jurídica e na segurança pública) sejam transparentes e explicáveis, permitindo a compreensão de seu funcionamento e a contestação de suas decisões.

A lei também impõe a obrigação de realizar avaliações de impacto algorítmico e de manter registros detalhados sobre o desenvolvimento, treinamento e operação dos sistemas, garantindo a rastreabilidade e a accountability (responsabilização).

Jurisprudência e Normativas Relevantes

O Conselho Nacional de Justiça (CNJ) tem desempenhado um papel fundamental na regulação da IA no Poder Judiciário. A Resolução CNJ nº 332/2020 estabelece a ética, a transparência e a governança na produção e no uso de Inteligência Artificial, determinando, em seu artigo 6º, que os sistemas devem ser desenvolvidos com transparência, de forma que seus processos sejam compreensíveis e explicáveis.

A jurisprudência também tem avançado na exigência de transparência algorítmica. O Supremo Tribunal Federal (STF), em diversas decisões, tem reafirmado a importância do controle de legalidade e da fundamentação das decisões automatizadas, garantindo o direito à ampla defesa e ao contraditório.

Checklist Completo para Transparência em IA

A implementação da transparência na IA exige uma abordagem multifacetada, englobando aspectos técnicos, organizacionais e jurídicos. O checklist a seguir oferece um guia prático para profissionais do setor público.

1. Governança e Transparência Ativa

• Registro Público de Sistemas de IA: A instituição mantém um registro público e atualizado de todos os sistemas de IA em uso, detalhando seus propósitos, áreas de aplicação, desenvolvedores (internos ou externos) e o nível de risco associado?
• Publicação de Políticas de Uso: As políticas institucionais sobre o uso de IA, incluindo diretrizes éticas e procedimentos de governança, estão disponíveis publicamente?
• Avaliação de Impacto Algorítmico (AIA): A instituição realiza e publica relatórios de AIA para sistemas de alto risco, detalhando os potenciais impactos nos direitos fundamentais e as medidas de mitigação adotadas, conforme exigido pela Lei nº 15.000/2026?

2. Explicabilidade e Compreensibilidade

• Documentação Técnica Acessível: Existe documentação técnica clara e acessível sobre a arquitetura do modelo de IA, as variáveis utilizadas e as limitações do sistema?
• Linguagem Cidadã: As informações sobre o funcionamento do sistema e os critérios de decisão são traduzidas para uma linguagem acessível ao público leigo, evitando jargões excessivamente técnicos?
• Níveis de Explicabilidade: O sistema oferece diferentes níveis de explicação, adaptados ao perfil do usuário (ex: juiz, advogado, cidadão), garantindo que todos compreendam o racional da decisão?

3. Qualidade e Rastreabilidade dos Dados

• Origem e Qualidade dos Dados: A origem, a qualidade e as limitações dos conjuntos de dados utilizados no treinamento do modelo de IA estão documentadas e disponíveis para escrutínio?
• Mitigação de Vieses: Foram implementadas e documentadas medidas para identificar, mitigar e monitorar vieses (bias) nos dados de treinamento, evitando a perpetuação de discriminações?
• Rastreabilidade de Alterações: Existe um sistema de controle de versão e rastreabilidade que registre todas as alterações no modelo, nos dados de treinamento e nos parâmetros do sistema ao longo do tempo?

4. Revisão Humana e Contestação

• Supervisão Humana Significativa (Human-in-the-loop): O sistema prevê a supervisão humana significativa, garantindo que a decisão final seja tomada por um servidor público, especialmente em casos de alto risco ou impacto nos direitos fundamentais?
• Mecanismos de Contestação: Existem procedimentos claros e acessíveis para que os cidadãos afetados por decisões automatizadas possam contestar o resultado e solicitar a revisão humana, em conformidade com o artigo 20 da LGPD?
• Registro de Intervenções Humanas: As intervenções humanas no processo de decisão algorítmica, incluindo as justificativas para a não aceitação da recomendação da IA, são registradas e auditáveis?

5. Auditoria e Monitoramento Contínuo

• Auditorias Independentes: A instituição realiza auditorias periódicas e independentes nos sistemas de IA para verificar sua conformidade com as normas de transparência, eficácia e mitigação de vieses?
• Monitoramento de Desempenho: O desempenho do sistema é monitorado continuamente para identificar anomalias, desvios de padrão ou degradação da performance ao longo do tempo?
• Feedback Loop: Existe um mecanismo de feedback para que usuários e cidadãos possam reportar erros, vieses ou problemas de usabilidade, contribuindo para a melhoria contínua do sistema?

Orientações Práticas para a Implementação

A aplicação do checklist exige um esforço conjunto e contínuo. É fundamental que as instituições públicas invistam na capacitação de seus profissionais, tanto na compreensão técnica da IA quanto nas implicações éticas e jurídicas do seu uso.

A colaboração multidisciplinar, envolvendo juristas, cientistas de dados, especialistas em ética e representantes da sociedade civil, é essencial para garantir que o desenvolvimento e a implementação da IA sejam pautados pela transparência e pelo respeito aos direitos fundamentais.

A adoção de padrões abertos e a participação em iniciativas de compartilhamento de conhecimento e melhores práticas entre diferentes órgãos públicos também são estratégias eficazes para promover a transparência e a inovação responsável na administração pública.

Conclusão

A transparência não é um obstáculo à inovação tecnológica no setor público, mas um pressuposto para sua legitimidade e sustentabilidade. Ao adotar o checklist e as orientações apresentadas neste artigo, os profissionais do setor público (defensores, procuradores, promotores, juízes e auditores) podem garantir que a Inteligência Artificial seja utilizada como uma ferramenta para fortalecer o Estado de Direito, promover a justiça social e aprimorar a prestação de serviços aos cidadãos, sempre em conformidade com os princípios constitucionais e o arcabouço legal vigente. A IA deve servir à sociedade, e a transparência é o farol que ilumina esse caminho.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.