Automação: IA e Transparência

A integração da Inteligência Artificial (IA) no setor público tem transformado a gestão e a prestação de serviços, promovendo eficiência e celeridade. Contudo, essa automação levanta questões cruciais sobre transparência, equidade e a necessidade de salvaguardas legais. Para profissionais do direito que atuam no âmbito público, compreender os limites e as exigências da automação inteligente é fundamental para garantir a legalidade e a legitimidade das ações estatais.

Este artigo explora a interseção entre automação e transparência no contexto da IA, analisando os desafios e as oportunidades para o setor público, com foco nas exigências legais e na jurisprudência aplicável até 2026.

O Papel da Inteligência Artificial na Automação Pública

A IA, por meio de algoritmos de aprendizado de máquina e processamento de linguagem natural, permite automatizar tarefas rotineiras e complexas, desde a análise de documentos até a tomada de decisões em processos administrativos e judiciais. No setor público, a IA pode otimizar a alocação de recursos, aprimorar a detecção de fraudes e agilizar a resposta a demandas dos cidadãos.

Apesar dos benefícios, a opacidade inerente a alguns algoritmos, conhecidos como "caixas pretas", levanta preocupações sobre a transparência e a responsabilidade das decisões automatizadas. A falta de clareza sobre como um algoritmo chega a uma conclusão pode dificultar a contestação de decisões desfavoráveis, comprometendo o direito ao devido processo legal e à ampla defesa.

O Princípio da Transparência e a IA no Setor Público

A transparência é um princípio basilar da Administração Pública, consagrado no artigo 37 da Constituição Federal de 1988 (CF/88). No contexto da IA, a transparência exige que o uso de algoritmos seja claro, compreensível e passível de escrutínio público.

O Marco Civil da Internet (Lei nº 12.965/2014) e a Lei Geral de Proteção de Dados Pessoais (LGPD - Lei nº 13.709/2018) estabelecem diretrizes importantes para a transparência no uso de dados e algoritmos. A LGPD, em seu artigo 20, garante ao titular dos dados o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses.

A recente Lei de Inteligência Artificial (Lei nº 14.852/2026) consolida e aprofunda as exigências de transparência e explicabilidade no uso da IA, estabelecendo princípios e diretrizes para o desenvolvimento e a aplicação de sistemas inteligentes no Brasil.

A Lei de Inteligência Artificial (Lei nº 14.852/2026) e a Transparência

A Lei de Inteligência Artificial (LIA) estabelece um marco regulatório abrangente para o uso da IA no Brasil, com foco na proteção dos direitos fundamentais e na promoção da transparência. A LIA exige que os sistemas de IA sejam desenvolvidos e utilizados de forma ética, responsável e transparente, garantindo o respeito aos direitos humanos, à privacidade e à proteção de dados.

A LIA estabelece obrigações específicas para o setor público, exigindo que a administração pública adote medidas para garantir a transparência e a explicabilidade dos sistemas de IA utilizados em suas atividades. Isso inclui a publicação de informações sobre os sistemas de IA em uso, seus objetivos, a lógica de funcionamento e os dados utilizados para o treinamento dos algoritmos.

Além disso, a LIA prevê a criação de mecanismos de avaliação de impacto da IA, que devem ser realizados antes da implementação de sistemas inteligentes no setor público, com o objetivo de identificar e mitigar riscos à transparência, à equidade e à proteção de dados.

Jurisprudência e Normativas Relevantes

A jurisprudência brasileira tem se debruçado sobre a questão da transparência e da explicabilidade no uso da IA no setor público. O Supremo Tribunal Federal (STF) tem reconhecido a importância da transparência na administração pública, exigindo que as decisões tomadas por meio de algoritmos sejam fundamentadas e passíveis de revisão.

O Tribunal de Contas da União (TCU) também tem emitido normativas e recomendações sobre o uso da IA no setor público, enfatizando a necessidade de transparência, explicabilidade e controle social sobre os sistemas inteligentes.

O Conselho Nacional de Justiça (CNJ) tem desempenhado um papel fundamental na regulamentação do uso da IA no Poder Judiciário. A Resolução CNJ nº 332/2020, por exemplo, estabelece diretrizes para o uso da IA no Poder Judiciário, exigindo que os sistemas inteligentes sejam transparentes, explicáveis e auditáveis.

Desafios e Oportunidades para o Setor Público

A implementação da IA no setor público apresenta desafios e oportunidades para a transparência e a explicabilidade.

Desafios

• Opacidade dos Algoritmos: A complexidade de alguns algoritmos de IA dificulta a compreensão de como as decisões são tomadas, o que pode comprometer a transparência e a explicabilidade.
• Viés Algorítmico: Os algoritmos de IA podem reproduzir e amplificar preconceitos e discriminações presentes nos dados utilizados para o seu treinamento, o que pode gerar decisões injustas e discriminatórias.
• Falta de Capacitação: A implementação da IA exige profissionais capacitados para o desenvolvimento, a avaliação e a auditoria de sistemas inteligentes, o que pode ser um desafio para o setor público.
• Custos: O desenvolvimento e a implementação de sistemas de IA podem exigir investimentos significativos em infraestrutura e capacitação, o que pode ser um obstáculo para alguns órgãos públicos.

Oportunidades

• Aprimoramento da Gestão Pública: A IA pode otimizar a alocação de recursos, aprimorar a detecção de fraudes e agilizar a resposta a demandas dos cidadãos, promovendo a eficiência e a celeridade na gestão pública.
• Transparência Proativa: O uso da IA pode facilitar a publicação de informações e dados sobre a gestão pública, promovendo a transparência proativa e o controle social.
• Aprimoramento da Tomada de Decisão: A IA pode fornecer informações e análises relevantes para a tomada de decisões no setor público, promovendo a fundamentação e a objetividade das ações estatais.
• Combate à Corrupção: A IA pode ser utilizada para detectar fraudes e irregularidades na gestão pública, contribuindo para o combate à corrupção e à impunidade.

Orientações Práticas para Profissionais do Setor Público

Para garantir a transparência e a explicabilidade no uso da IA no setor público, os profissionais do direito devem observar as seguintes orientações práticas:

• Conhecimento da Legislação: É fundamental conhecer a legislação aplicável ao uso da IA no setor público, em especial a Constituição Federal de 1988, o Marco Civil da Internet, a Lei Geral de Proteção de Dados Pessoais (LGPD) e a Lei de Inteligência Artificial (LIA).
• Avaliação de Impacto: A implementação de sistemas de IA deve ser precedida de avaliação de impacto, com o objetivo de identificar e mitigar riscos à transparência, à equidade e à proteção de dados.
• Transparência e Explicabilidade: Os sistemas de IA devem ser transparentes e explicáveis, garantindo que as decisões tomadas por meio de algoritmos sejam compreensíveis e passíveis de escrutínio público.
• Auditoria e Monitoramento: Os sistemas de IA devem ser auditados e monitorados de forma contínua, com o objetivo de identificar e corrigir falhas, vieses e irregularidades.
• Capacitação: É fundamental investir na capacitação de profissionais para o desenvolvimento, a avaliação e a auditoria de sistemas inteligentes no setor público.

Conclusão

A automação impulsionada pela IA oferece oportunidades significativas para a melhoria da gestão e da prestação de serviços no setor público. No entanto, o uso da IA exige um compromisso firme com a transparência, a explicabilidade e a proteção dos direitos fundamentais. A legislação brasileira, em especial a Lei de Inteligência Artificial (Lei nº 14.852/2026), estabelece um marco regulatório importante para garantir que a IA seja utilizada de forma ética, responsável e transparente no setor público. Cabe aos profissionais do direito, em atuação no âmbito público, zelar pela aplicação rigorosa da legislação e pela promoção de uma cultura de transparência e responsabilidade no uso da IA.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.