IA e Transparência: na Prática Forense

A crescente integração da Inteligência Artificial (IA) no sistema judiciário brasileiro tem gerado debates acalorados sobre a necessidade de transparência e os limites éticos na aplicação dessa tecnologia. Se, por um lado, a IA promete otimizar processos, reduzir o tempo de tramitação e auxiliar na tomada de decisões, por outro, a opacidade inerente a muitos algoritmos levanta preocupações legítimas sobre a justiça, a imparcialidade e o direito à ampla defesa. Este artigo se propõe a explorar a complexa relação entre IA e transparência na prática forense, direcionado aos profissionais do setor público que atuam na linha de frente da justiça.

A implementação da IA no âmbito forense não é um fenômeno isolado, mas sim parte de um movimento global de modernização da justiça. No Brasil, o Conselho Nacional de Justiça (CNJ) tem desempenhado um papel fundamental na promoção e regulamentação da IA no Judiciário, por meio de resoluções como a Resolução nº 332/2020, que instituiu a Estratégia Nacional de Tecnologia da Informação e Comunicação do Poder Judiciário (ENTIC-JUD), e a Resolução nº 474/2022, que estabelece diretrizes para a utilização de IA no Poder Judiciário. Essas normativas buscam garantir que a adoção da IA seja pautada pelos princípios da transparência, accountability, segurança e respeito aos direitos fundamentais.

O Desafio da Transparência Algorítmica

A transparência algorítmica é um dos pilares para a utilização ética e responsável da IA na prática forense. A complexidade de muitos modelos de IA, especialmente aqueles baseados em aprendizado de máquina profundo (deep learning), muitas vezes os torna "caixas-pretas", dificultando a compreensão de como chegam a determinadas conclusões. Essa opacidade representa um desafio significativo para o sistema judiciário, que se baseia na fundamentação das decisões e no direito à revisão.

A "Caixa-Preta" e o Direito à Explicação

O princípio da fundamentação das decisões judiciais, previsto no artigo 93, inciso IX, da Constituição Federal, exige que as decisões sejam motivadas, permitindo o controle de legalidade e a interposição de recursos. Quando uma decisão é influenciada ou tomada por um sistema de IA opaco, a capacidade de o jurisdicionado compreender os fundamentos da decisão e de contestá-la fica comprometida. O direito à explicação, consagrado no artigo 20 da Lei Geral de Proteção de Dados Pessoais (LGPD - Lei nº 13.709/2018), garante ao titular dos dados o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade.

A aplicação do direito à explicação no contexto forense exige que os sistemas de IA utilizados no Judiciário sejam capazes de fornecer explicações claras e compreensíveis sobre os critérios e os fatores que influenciaram a decisão. Isso implica a necessidade de desenvolver modelos de IA explicáveis (XAI - Explainable AI), que permitam aos juízes, defensores e promotores compreender o raciocínio subjacente à decisão do algoritmo e avaliar a sua adequação e imparcialidade.

Vieses e Discriminação Algorítmica

Outro desafio crucial relacionado à transparência da IA na prática forense é a mitigação de vieses e a prevenção da discriminação algorítmica. Os sistemas de IA são treinados com base em grandes volumes de dados históricos, que muitas vezes refletem e perpetuam preconceitos e desigualdades presentes na sociedade. Se esses dados forem enviesados, o algoritmo aprenderá e reproduzirá esses vieses, resultando em decisões discriminatórias.

A Constituição Federal, em seu artigo 5º, consagra o princípio da igualdade, proibindo qualquer forma de discriminação. A utilização de sistemas de IA que perpetuem vieses e discriminem indivíduos com base em raça, gênero, orientação sexual, classe social ou qualquer outra característica protegida viola frontalmente esse princípio e compromete a legitimidade do sistema judiciário.

Para mitigar o risco de discriminação algorítmica, é fundamental garantir a transparência não apenas dos algoritmos, mas também dos dados utilizados no seu treinamento. Os desenvolvedores e usuários de sistemas de IA devem adotar medidas para identificar e corrigir vieses nos dados de treinamento, bem como para monitorar o desempenho do algoritmo e garantir que suas decisões sejam justas e imparciais.

A IA na Prática Forense: Casos e Aplicações

Apesar dos desafios, a IA já está sendo utilizada em diversas áreas da prática forense no Brasil, com resultados promissores.

Triagem e Classificação de Processos

Sistemas de IA têm sido empregados para auxiliar na triagem e classificação de processos, identificando petições semelhantes, agrupando casos por tema e direcionando os processos para os juízos competentes. Essa aplicação da IA pode reduzir significativamente o tempo de tramitação dos processos e otimizar o trabalho dos servidores do Judiciário.

Pesquisa Jurisprudencial e Análise Preditiva

Ferramentas de IA baseadas em processamento de linguagem natural (PLN) podem auxiliar juízes, defensores e promotores na pesquisa jurisprudencial, identificando decisões relevantes e analisando tendências jurisprudenciais. Além disso, a IA pode ser utilizada para análise preditiva, auxiliando na estimativa do resultado provável de um processo com base em casos semelhantes julgados anteriormente.

Reconhecimento Facial e Análise Forense de Imagens

O reconhecimento facial e a análise forense de imagens são áreas em que a IA tem demonstrado grande potencial. Sistemas de IA podem ser utilizados para identificar suspeitos em imagens de câmeras de segurança, analisar evidências fotográficas e de vídeo, e auxiliar na reconstrução de cenas de crime. No entanto, o uso dessas tecnologias levanta preocupações significativas sobre privacidade, precisão e risco de falsos positivos, exigindo cautela e regulamentação rigorosa.

O Papel dos Profissionais do Setor Público

Os profissionais do setor público (defensores, procuradores, promotores, juízes e auditores) desempenham um papel crucial na garantia da transparência e da utilização ética da IA na prática forense.

Exigência de Transparência e Fundamentação

Juízes devem exigir que as decisões auxiliadas por IA sejam acompanhadas de explicações claras e compreensíveis sobre os critérios e os fatores que influenciaram a decisão. Defensores e promotores devem ter acesso às informações sobre o funcionamento dos sistemas de IA utilizados, a fim de avaliar a sua precisão, imparcialidade e adequação.

Capacitação e Letramento Tecnológico

A compreensão dos princípios básicos da IA e dos desafios relacionados à sua utilização é fundamental para os profissionais do setor público. A capacitação e o letramento tecnológico devem ser priorizados, a fim de garantir que esses profissionais estejam preparados para lidar com as complexidades da IA na prática forense.

Participação no Desenvolvimento e Regulamentação

Os profissionais do setor público devem participar ativamente do desenvolvimento e da regulamentação da IA no Judiciário, contribuindo com sua expertise e garantindo que as tecnologias sejam desenvolvidas e utilizadas de acordo com os princípios éticos e legais.

Legislação e Jurisprudência Relevantes (Até 2026)

A regulamentação da IA no Brasil ainda está em desenvolvimento, mas já existem normativas e projetos de lei que abordam a questão da transparência e da utilização ética da IA:

• Resolução nº 332/2020 do CNJ: Institui a Estratégia Nacional de Tecnologia da Informação e Comunicação do Poder Judiciário (ENTIC-JUD).
• Resolução nº 474/2022 do CNJ: Estabelece diretrizes para a utilização de IA no Poder Judiciário, pautando-se pelos princípios da transparência, accountability, segurança e respeito aos direitos fundamentais.
• Lei Geral de Proteção de Dados Pessoais (LGPD - Lei nº 13.709/2018): O artigo 20 garante o direito à explicação em decisões automatizadas.
• Projeto de Lei nº 2338/2023 (Marco Legal da IA): O projeto de lei, em tramitação no Congresso Nacional, busca estabelecer um marco regulatório para a IA no Brasil, abordando questões como transparência, responsabilidade civil, mitigação de vieses e proteção de direitos fundamentais. A aprovação deste projeto, prevista para os próximos anos, representará um marco importante na regulamentação da IA no país.

A jurisprudência brasileira também tem começado a se debruçar sobre a questão da IA na prática forense. Decisões recentes têm enfatizado a necessidade de transparência e fundamentação em decisões auxiliadas por IA, bem como a importância de mitigar vieses e prevenir a discriminação algorítmica.

Conclusão

A integração da Inteligência Artificial na prática forense apresenta um enorme potencial para otimizar o sistema judiciário, mas também levanta desafios complexos relacionados à transparência, imparcialidade e respeito aos direitos fundamentais. A transparência algorítmica não é apenas um requisito técnico, mas um pilar fundamental para a justiça e a legitimidade do sistema. Os profissionais do setor público, em conjunto com o legislador e a sociedade civil, têm a responsabilidade de garantir que a IA seja utilizada de forma ética, transparente e em consonância com os princípios constitucionais, assegurando que a tecnologia sirva para aprimorar a justiça e não para perpetuar desigualdades. A busca por um equilíbrio entre a inovação tecnológica e a proteção dos direitos fundamentais é o grande desafio que se impõe na era da IA na prática forense.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.