Futuro: IA e Transparência

A Inteligência Artificial (IA) tem revolucionado diversos setores da sociedade, e o Direito não é exceção. A adoção de ferramentas baseadas em IA no âmbito jurídico, especialmente no setor público, promete otimizar processos, reduzir custos e acelerar a tomada de decisões. No entanto, essa rápida integração levanta questões cruciais sobre transparência, responsabilidade e ética. Profissionais do setor público, como defensores, procuradores, promotores, juízes e auditores, encontram-se na linha de frente desse cenário em constante evolução, e a compreensão dos desafios e das diretrizes legais que norteiam a IA e a transparência é fundamental para garantir a justiça e a equidade no sistema legal.

A transparência na utilização da IA no Direito não se limita à mera divulgação do uso de algoritmos. Trata-se de garantir que as decisões tomadas ou influenciadas por sistemas de IA sejam compreensíveis, explicáveis e passíveis de contestação. A "caixa preta" de muitos algoritmos de aprendizado de máquina, onde o processo de tomada de decisão não é transparente, representa um risco significativo para a justiça e a confiança pública. A opacidade pode ocultar vieses discriminatórios, erros de cálculo e violações de direitos fundamentais, tornando imprescindível a implementação de mecanismos de transparência e prestação de contas.

O Marco Legal da IA e Transparência no Brasil (Atualizado até 2026)

O arcabouço legal brasileiro tem se adaptado para lidar com os desafios impostos pela IA, buscando equilibrar a inovação com a proteção dos direitos fundamentais. A legislação atualizada até 2026 estabelece diretrizes e obrigações para garantir a transparência e a responsabilidade no uso da IA, especialmente no setor público.

A Lei Geral de Proteção de Dados (LGPD) e a Transparência Algorítmica

A Lei Geral de Proteção de Dados (Lei nº 13.709/2018), em seu artigo 20, estabelece o direito do titular dos dados de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses. Esse dispositivo é fundamental para garantir a transparência algorítmica, pois exige que o controlador forneça informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada.

A LGPD, portanto, impõe um dever de explicação aos controladores de dados, incluindo os órgãos públicos que utilizam sistemas de IA. Essa explicação deve ser compreensível para o cidadão comum, permitindo que ele entenda como a decisão foi tomada e, se necessário, conteste a mesma. A falta de transparência na tomada de decisões automatizadas pode configurar violação da LGPD e sujeitar o órgão público a sanções.

O Marco Civil da Internet e a Responsabilidade Civil

O Marco Civil da Internet (Lei nº 12.965/2014) também oferece subsídios para a análise da responsabilidade civil no contexto da IA. Embora não trate especificamente de IA, seus princípios, como a garantia da liberdade de expressão, a proteção da privacidade e a responsabilização dos provedores de serviços de internet, podem ser aplicados de forma análoga.

A responsabilidade civil por danos causados por sistemas de IA é um tema complexo e em constante debate. A transparência na tomada de decisões automatizadas é crucial para determinar a responsabilidade, pois permite identificar se o dano foi causado por um erro do algoritmo, por um viés discriminatório ou por um uso inadequado do sistema. A opacidade, por outro lado, dificulta a atribuição de responsabilidade e pode gerar impunidade.

O Projeto de Lei de Regulação da Inteligência Artificial (PL nº 21/2020) e a Legislação Posterior

O Projeto de Lei nº 21/2020, que propõe a criação de um marco legal para o desenvolvimento e o uso da Inteligência Artificial no Brasil, e legislações posteriores que abordam o tema, estabelecem princípios fundamentais como a transparência, a explicabilidade, a responsabilidade e a não discriminação. A legislação em vigor até 2026 impõe obrigações específicas para o setor público, como a realização de avaliações de impacto algorítmico e a implementação de mecanismos de auditoria e prestação de contas.

A transparência, nesse contexto, não se resume apenas à explicação de decisões individuais, mas também à divulgação de informações sobre o funcionamento geral do sistema de IA, os dados utilizados para o seu treinamento e os riscos associados ao seu uso. A prestação de contas, por sua vez, implica na criação de mecanismos para responsabilizar os desenvolvedores e os usuários do sistema por eventuais danos causados.

A Jurisprudência e as Normativas Relevantes

A jurisprudência brasileira tem se debruçado sobre os desafios da IA e da transparência, estabelecendo precedentes importantes para o setor público. O Supremo Tribunal Federal (STF) e o Superior Tribunal de Justiça (STJ) têm proferido decisões que reforçam a necessidade de transparência e explicabilidade nas decisões automatizadas, especialmente quando afetam direitos fundamentais.

O Uso de IA no Processo Judicial

O Conselho Nacional de Justiça (CNJ) tem editado resoluções e recomendações para orientar o uso da IA no Poder Judiciário. A Resolução CNJ nº 332/2020, por exemplo, dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário. A resolução estabelece princípios como a transparência, a explicabilidade, a responsabilidade e a auditoria, e exige que os tribunais publiquem informações sobre os sistemas de IA que utilizam.

A jurisprudência tem reconhecido a importância da transparência no uso de IA para fins de triagem de processos, análise de jurisprudência e auxílio na tomada de decisões judiciais. A opacidade nesses sistemas pode comprometer a imparcialidade do juiz e o direito ao devido processo legal, tornando imprescindível a implementação de mecanismos de transparência e auditoria.

A IA na Administração Pública

A utilização da IA na administração pública, para fins como a concessão de benefícios sociais, a fiscalização tributária e a segurança pública, também tem sido objeto de análise pela jurisprudência. O Tribunal de Contas da União (TCU) tem emitido acórdãos que enfatizam a necessidade de transparência, prestação de contas e auditoria no uso de sistemas de IA por órgãos públicos.

A transparência na utilização da IA na administração pública é essencial para garantir a lisura e a eficiência dos serviços prestados, bem como para prevenir a corrupção e o desvio de finalidade. A opacidade nesses sistemas pode gerar desconfiança pública e comprometer a legitimidade das ações do Estado.

Orientações Práticas para Profissionais do Setor Público

A implementação da transparência na IA requer uma abordagem multidisciplinar e a adoção de boas práticas por parte dos profissionais do setor público. A seguir, apresentamos algumas orientações práticas para defensores, procuradores, promotores, juízes e auditores.

Defensores, Procuradores e Promotores

• Exigir Explicabilidade: Ao atuar em casos que envolvam decisões automatizadas, exija que o órgão público forneça explicações claras e compreensíveis sobre os critérios e os procedimentos utilizados pelo sistema de IA.
• Questionar Vieses: Esteja atento a possíveis vieses discriminatórios nos sistemas de IA utilizados pelo setor público. Questione a representatividade dos dados utilizados para o treinamento do algoritmo e as métricas de avaliação do sistema.
• Promover a Transparência: Defenda a publicação de informações sobre os sistemas de IA utilizados pelo setor público, incluindo os dados utilizados, os algoritmos empregados e os resultados obtidos.

Juízes

• Garantir o Contraditório: Assegure que as partes tenham a oportunidade de contestar as decisões automatizadas e de apresentar provas que comprovem a inadequação do sistema de IA.
• Exigir Auditoria: Em casos complexos que envolvam o uso de IA, exija a realização de auditorias independentes para avaliar a transparência, a explicabilidade e a confiabilidade do sistema.
• Aplicar os Princípios da Resolução CNJ nº 332/2020: Utilize a Resolução CNJ nº 332/2020 como guia para a avaliação ética e transparente de sistemas de IA no Poder Judiciário.

Auditores

• Avaliar a Governança de IA: Avalie a estrutura de governança de IA dos órgãos públicos, verificando a existência de políticas, procedimentos e mecanismos de controle para garantir a transparência e a responsabilidade.
• Realizar Auditorias Algorítmicas: Desenvolva metodologias para a realização de auditorias algorítmicas, com o objetivo de identificar vieses, erros e vulnerabilidades nos sistemas de IA utilizados pelo setor público.
• Promover a Transparência Ativa: Recomende a publicação proativa de informações sobre os sistemas de IA utilizados pelo setor público, em conformidade com a Lei de Acesso à Informação (Lei nº 12.527/2011).

Conclusão

A integração da Inteligência Artificial no setor público oferece oportunidades ímpares para aprimorar a prestação de serviços e a eficiência do sistema de justiça. No entanto, a transparência e a explicabilidade devem ser pilares fundamentais dessa transformação. A opacidade algorítmica representa um risco inaceitável para a equidade, a justiça e a confiança pública. A legislação atual, a jurisprudência e as normativas relevantes fornecem um arcabouço sólido para garantir que a IA seja utilizada de forma ética, responsável e transparente. Cabe aos profissionais do setor público, em suas respectivas áreas de atuação, aplicar essas diretrizes na prática, exigindo explicabilidade, questionando vieses e promovendo a transparência ativa, para que a IA seja, de fato, uma ferramenta a serviço da justiça e da sociedade.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.