IA: IA e Controle Externo

A Inteligência Artificial (IA) tem se consolidado como uma ferramenta transformadora em diversos setores da sociedade, e o setor público não é exceção. A capacidade da IA de analisar grandes volumes de dados, identificar padrões e automatizar tarefas complexas oferece um potencial imenso para aprimorar a eficiência, a transparência e a efetividade da administração pública. No entanto, a adoção dessa tecnologia no âmbito do controle externo, responsável por fiscalizar e avaliar a gestão pública, exige cautela e um profundo entendimento de seus desafios e implicações éticas e legais.

A IA no Controle Externo: Oportunidades e Desafios

A utilização da IA no controle externo apresenta um vasto leque de oportunidades para otimizar os processos de auditoria e fiscalização. A análise preditiva, por exemplo, permite identificar áreas de maior risco de irregularidades ou ineficiências, direcionando os esforços de fiscalização de forma mais estratégica e eficaz. A automação de tarefas rotineiras, como a coleta e organização de dados, libera os auditores para atividades de maior complexidade e valor agregado, como a análise aprofundada de informações e a elaboração de relatórios.

Oportunidades:

• Detecção de Fraudes e Corrupção: Algoritmos de aprendizado de máquina podem ser treinados para identificar padrões suspeitos em transações financeiras, contratos e outros documentos públicos, auxiliando na detecção de fraudes e desvios de recursos.
• Análise de Dados Complexos: A IA pode processar grandes volumes de dados não estruturados, como textos e imagens, extraindo informações relevantes para a auditoria, como a identificação de inconsistências em relatórios ou a análise de sentimentos em redes sociais.
• Avaliação de Políticas Públicas: A IA pode ser utilizada para avaliar o impacto e a efetividade de políticas públicas, analisando dados sobre indicadores sociais, econômicos e ambientais.

Desafios:

• Viés e Discriminação: Os algoritmos de IA podem reproduzir e amplificar vieses presentes nos dados utilizados para treiná-los, resultando em decisões discriminatórias ou injustas.
• Transparência e Explicabilidade: A complexidade de alguns modelos de IA dificulta a compreensão de como as decisões são tomadas, o que pode comprometer a transparência e a accountability no controle externo.
• Privacidade e Proteção de Dados: A utilização de dados pessoais e sensíveis no treinamento e operação de sistemas de IA exige rigorosas medidas de segurança e conformidade com a legislação de proteção de dados.

Fundamentação Legal e Normativa

A utilização da IA no controle externo deve estar pautada em um arcabouço legal e normativo que garanta a legalidade, a ética e a proteção dos direitos fundamentais. A Constituição Federal de 1988 estabelece princípios fundamentais da administração pública, como a legalidade, a impessoalidade, a moralidade, a publicidade e a eficiência (Art. 37, caput), que devem ser observados na adoção de qualquer tecnologia, incluindo a IA.

A Lei Geral de Proteção de Dados Pessoais (LGPD - Lei nº 13.709/2018) estabelece regras claras sobre o tratamento de dados pessoais, exigindo o consentimento do titular, a finalidade específica, a necessidade, a transparência e a segurança dos dados. A LGPD também prevê o direito do titular de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses (Art. 20).

A Estratégia Brasileira de Inteligência Artificial (EBIA), instituída em 2021, define diretrizes para o desenvolvimento e uso da IA no Brasil, enfatizando a importância da ética, da transparência, da responsabilidade e da proteção dos direitos humanos. O Tribunal de Contas da União (TCU) também tem emitido normativas e orientações sobre o uso da IA no controle externo, buscando garantir a aderência aos princípios constitucionais e legais.

Jurisprudência e Orientações Práticas

A jurisprudência brasileira ainda está em fase de consolidação no que diz respeito ao uso da IA no setor público. No entanto, algumas decisões já sinalizam a necessidade de cautela e observância dos princípios constitucionais e legais. O Supremo Tribunal Federal (STF), por exemplo, já se manifestou sobre a importância da transparência e da explicabilidade em sistemas algorítmicos utilizados pelo poder público, garantindo o direito à ampla defesa e ao contraditório.

Para garantir a utilização ética e responsável da IA no controle externo, é fundamental observar algumas orientações práticas:

• Avaliação de Impacto: Realizar avaliações de impacto prévias para identificar e mitigar riscos de viés, discriminação, violação de privacidade e outros impactos negativos.
• Transparência e Explicabilidade: Utilizar modelos de IA que sejam transparentes e explicáveis, permitindo a compreensão de como as decisões são tomadas e garantindo a accountability.
• Governança de Dados: Implementar políticas e procedimentos de governança de dados para garantir a qualidade, a segurança e a conformidade dos dados utilizados nos sistemas de IA.
• Capacitação: Investir na capacitação dos profissionais do controle externo para que compreendam os conceitos, as aplicações e os desafios da IA.

A IA como Ferramenta Auxiliar, não Substituta

É importante ressaltar que a IA deve ser vista como uma ferramenta auxiliar no controle externo, e não como uma substituta do julgamento humano. A expertise e o discernimento dos auditores, procuradores, defensores e juízes continuam sendo essenciais para a interpretação dos resultados gerados pela IA e para a tomada de decisões finais.

A IA pode otimizar processos, identificar padrões e gerar insights valiosos, mas a responsabilidade pelas decisões e ações no controle externo permanece nas mãos dos profissionais humanos. A integração harmoniosa entre a inteligência artificial e a inteligência humana é o caminho para um controle externo mais eficiente, transparente e efetivo.

Conclusão

A adoção da Inteligência Artificial no controle externo representa um avanço significativo para a administração pública, oferecendo ferramentas poderosas para aprimorar a fiscalização e a avaliação da gestão pública. No entanto, essa transição exige um compromisso firme com a ética, a transparência e a legalidade, garantindo que a IA seja utilizada de forma responsável e em conformidade com os princípios constitucionais e legais. A capacitação contínua dos profissionais do setor público e o desenvolvimento de um arcabouço normativo robusto são fundamentais para maximizar os benefícios da IA e mitigar seus riscos, assegurando um controle externo cada vez mais eficiente e a serviço da sociedade.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.