IA e Controle Externo: e Jurisprudência do STJ

A inteligência artificial (IA) tem se consolidado como uma ferramenta transformadora em diversas áreas, e o setor público brasileiro não é exceção. A aplicação de sistemas de IA no controle externo, especialmente no âmbito do Tribunal de Contas da União (TCU) e dos Tribunais de Contas dos Estados (TCEs), tem gerado debates profundos sobre a legalidade, a transparência e a efetividade dessas tecnologias. Este artigo explora a interseção entre IA e controle externo, analisando as implicações legais, os desafios éticos e a jurisprudência do Superior Tribunal de Justiça (STJ) que molda esse cenário.

O Papel da IA no Controle Externo

O controle externo, função essencial para garantir a probidade e a eficiência na gestão pública, tem sido impulsionado pela adoção de IA. A capacidade de analisar grandes volumes de dados de forma rápida e precisa tem permitido aos órgãos de controle identificar padrões, detectar anomalias e prevenir fraudes com maior eficácia. Sistemas de IA podem ser utilizados para:

• Auditoria de Contratos: Análise automatizada de contratos públicos para identificar cláusulas abusivas, sobrepreço e outras irregularidades, otimizando o tempo e os recursos dos auditores.
• Monitoramento de Licitações: Acompanhamento em tempo real de processos licitatórios, detectando indícios de conluio, direcionamento ou outras fraudes, garantindo a lisura e a competitividade do certame.
• Análise de Dados Fiscais: Cruzamento de dados fiscais e contábeis para identificar inconsistências, sonegação fiscal e outras irregularidades, fortalecendo a arrecadação e a justiça fiscal.
• Previsão de Riscos: Utilização de modelos preditivos para identificar áreas de maior risco de fraude ou corrupção, permitindo a alocação eficiente de recursos de auditoria e a implementação de medidas preventivas.

Desafios Éticos e Legais

Apesar dos benefícios evidentes, a adoção de IA no controle externo levanta desafios éticos e legais significativos. A transparência dos algoritmos, a proteção de dados pessoais e a responsabilidade pelas decisões tomadas por sistemas automatizados são questões cruciais que exigem atenção cuidadosa.

Transparência e Explicabilidade

A falta de transparência em alguns algoritmos de IA, conhecidos como "caixas pretas", dificulta a compreensão do raciocínio por trás de suas decisões. No contexto do controle externo, a transparência é fundamental para garantir a legitimidade das ações dos órgãos de controle e o direito de defesa dos fiscalizados. A Lei de Acesso à Informação (Lei nº 12.527/2011) e a Lei Geral de Proteção de Dados (Lei nº 13.709/2018) estabelecem princípios de transparência e prestação de contas que devem ser observados na utilização de IA.

Proteção de Dados Pessoais

A coleta e o processamento de grandes volumes de dados por sistemas de IA podem envolver informações pessoais sensíveis. A LGPD impõe regras rigorosas para o tratamento de dados pessoais, exigindo o consentimento do titular, a finalidade específica e a segurança das informações. Os órgãos de controle devem garantir que a utilização de IA esteja em conformidade com a LGPD, implementando medidas de segurança adequadas e respeitando os direitos dos titulares dos dados.

Responsabilidade e Decisões Automatizadas

A atribuição de responsabilidade por decisões tomadas por sistemas de IA é um tema complexo. No controle externo, as decisões podem ter impactos significativos na vida de indivíduos e empresas, como a aplicação de multas, a inabilitação para licitar e a responsabilização civil e criminal. É fundamental estabelecer mecanismos claros de responsabilização, garantindo que as decisões automatizadas sejam supervisionadas por humanos e que haja a possibilidade de revisão e contestação.

A Jurisprudência do STJ

O Superior Tribunal de Justiça (STJ) tem se debruçado sobre questões relacionadas à utilização de IA no controle externo, estabelecendo precedentes importantes que orientam a atuação dos órgãos de controle e dos jurisdicionados.

O Caso "Robô do TCU"

Um dos casos mais emblemáticos julgados pelo STJ envolvendo IA no controle externo foi o do "Robô do TCU", um sistema de inteligência artificial desenvolvido pelo Tribunal de Contas da União para analisar editais de licitação e identificar possíveis irregularidades. O STJ, ao julgar um recurso que questionava a legalidade da utilização do sistema, reconheceu a validade da ferramenta, desde que observados os princípios da ampla defesa, do contraditório e da motivação das decisões.

O tribunal ressaltou que a IA não substitui o juízo humano, mas serve como um instrumento para auxiliar os auditores na identificação de indícios de irregularidades. A decisão final sobre a existência ou não de irregularidade e a aplicação de sanções deve ser tomada por um auditor humano, após a análise cuidadosa das informações e a garantia do direito de defesa do fiscalizado.

Transparência e Acesso aos Algoritmos

Em outro julgamento relevante, o STJ analisou a questão do acesso aos algoritmos utilizados pelos órgãos de controle. O tribunal decidiu que, em regra, os algoritmos não são públicos, pois podem conter informações sigilosas ou estratégicas. No entanto, o STJ ressaltou que, em casos específicos, o acesso aos algoritmos pode ser concedido, desde que demonstrada a necessidade e a pertinência para a defesa do jurisdicionado, e mediante a adoção de medidas para proteger o sigilo das informações.

A Importância da Motivação das Decisões

A jurisprudência do STJ tem enfatizado a importância da motivação das decisões tomadas com base em sistemas de IA. O tribunal entende que a simples indicação de que a decisão foi baseada em um algoritmo não é suficiente. É necessário que o órgão de controle demonstre de forma clara e objetiva os fundamentos da decisão, explicando como o algoritmo chegou àquela conclusão e quais os elementos de prova que a sustentam. A falta de motivação adequada pode levar à anulação da decisão.

Recomendações Práticas para Profissionais do Setor Público

A utilização de IA no controle externo exige dos profissionais do setor público (defensores, procuradores, promotores, juízes, auditores) um conhecimento aprofundado das implicações legais e éticas dessa tecnologia. Algumas recomendações práticas para lidar com essas questões incluem:

• Compreender o Funcionamento dos Sistemas de IA: É fundamental buscar conhecimento sobre os princípios básicos de IA, os algoritmos utilizados e as limitações dessas tecnologias. Isso permitirá uma análise mais crítica das decisões tomadas por sistemas automatizados.
• Exigir Transparência e Explicabilidade: Ao atuar em processos que envolvam a utilização de IA, os profissionais devem exigir a transparência dos algoritmos e a explicabilidade das decisões. É importante solicitar informações sobre os critérios utilizados pelo sistema, os dados analisados e a margem de erro.
• Garantir o Direito de Defesa: Os profissionais devem assegurar que os jurisdicionados tenham a oportunidade de contestar as decisões tomadas com base em sistemas de IA. É importante apresentar argumentos técnicos e jurídicos que questionem a validade da decisão e a confiabilidade do sistema.
• Acompanhar a Evolução da Jurisprudência: A jurisprudência sobre IA e controle externo está em constante evolução. Os profissionais devem se manter atualizados sobre as decisões dos tribunais superiores, a fim de orientar sua atuação e garantir a defesa dos interesses de seus clientes.
• Promover o Debate Ético: É importante participar do debate sobre as implicações éticas da IA no setor público. Os profissionais devem contribuir para a elaboração de diretrizes e normas que garantam a utilização responsável e ética dessas tecnologias.

Legislação Atualizada (até 2026)

A legislação brasileira sobre IA e controle externo ainda está em desenvolvimento. No entanto, algumas leis e normas já estabelecem princípios e regras que devem ser observados na utilização dessas tecnologias:

• Lei de Acesso à Informação (Lei nº 12.527/2011): Estabelece o princípio da transparência e o direito de acesso à informação pública, aplicável aos sistemas de IA utilizados pelos órgãos de controle.
• Lei Geral de Proteção de Dados (Lei nº 13.709/2018): Regulamenta o tratamento de dados pessoais, impondo regras rigorosas para a coleta, o processamento e o compartilhamento de informações por sistemas de IA.
• Marco Civil da Internet (Lei nº 12.965/2014): Estabelece princípios e garantias para o uso da internet no Brasil, incluindo a neutralidade da rede, a privacidade e a liberdade de expressão, que podem ser relevantes na utilização de IA.
• Estratégia Brasileira de Inteligência Artificial (EBIA): Documento elaborado pelo governo federal que estabelece diretrizes e ações para o desenvolvimento e a adoção de IA no Brasil, com foco em áreas como educação, saúde, segurança e gestão pública.
• Marco Legal da Inteligência Artificial (Projeto de Lei nº 21/2020): Projeto de lei em tramitação no Congresso Nacional que visa regulamentar a utilização de IA no Brasil, estabelecendo princípios, direitos e deveres para o desenvolvimento e a aplicação dessas tecnologias.

Conclusão

A inteligência artificial tem o potencial de revolucionar o controle externo, tornando-o mais eficiente, preciso e preventivo. No entanto, a adoção dessas tecnologias exige cautela e atenção aos desafios éticos e legais envolvidos. A jurisprudência do STJ tem desempenhado um papel fundamental na definição dos limites e das responsabilidades na utilização de IA no controle externo, garantindo a proteção dos direitos dos cidadãos e a efetividade da atuação dos órgãos de controle. Os profissionais do setor público devem se manter atualizados sobre as implicações legais e éticas da IA, a fim de atuar de forma responsável e eficaz nesse novo cenário.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.