IA e Transparência: e Jurisprudência do STJ

A inteligência artificial (IA) tem se tornado uma ferramenta onipresente em diversos setores, e o sistema judiciário não é exceção. A adoção de algoritmos para auxiliar na tomada de decisões judiciais promete maior eficiência, celeridade e consistência. No entanto, o uso da IA levanta questões cruciais sobre transparência, explicabilidade e o direito fundamental ao devido processo legal, especialmente no contexto da jurisprudência do Superior Tribunal de Justiça (STJ).

O Desafio da Transparência em Sistemas de IA

A principal preocupação em relação à IA no Judiciário reside na "caixa-preta" dos algoritmos. Muitas vezes, os sistemas de IA são complexos e opacos, dificultando a compreensão de como chegam a determinadas conclusões. Essa falta de transparência gera o risco de vieses, erros e decisões discriminatórias, minando a confiança pública na justiça e comprometendo o direito de defesa.

O princípio da transparência, consagrado no artigo 5º, inciso XXXIII, da Constituição Federal, exige que os atos da administração pública, incluindo o Judiciário, sejam públicos e acessíveis. A aplicação da IA não pode se tornar um obstáculo a esse princípio fundamental. É imperativo que os sistemas de IA sejam transparentes, permitindo o escrutínio de seus algoritmos, dados de treinamento e processos de decisão.

A Posição do STJ: Jurisprudência e Normativas

O STJ tem se posicionado de forma cautelosa em relação à IA, reconhecendo seus benefícios potenciais, mas enfatizando a necessidade de salvaguardas rigorosas. A jurisprudência do Tribunal tem reiterado a importância da transparência e da explicabilidade em decisões judiciais baseadas em algoritmos.

Em decisões recentes, o STJ tem exigido que os sistemas de IA utilizados no Judiciário sejam auditáveis e que suas lógicas de funcionamento sejam compreensíveis para as partes envolvidas. O Tribunal também tem enfatizado a necessidade de garantir o direito de revisão humana das decisões automatizadas, assegurando que a IA atue como uma ferramenta de auxílio, e não como um substituto do juiz.

A Resolução nº 332/2020 do Conselho Nacional de Justiça (CNJ), que institui a Estratégia Nacional de Tecnologia da Informação e Comunicação do Poder Judiciário (ENTIC-JUD), estabelece diretrizes importantes para o uso da IA. A resolução exige que os sistemas de IA sejam desenvolvidos e utilizados com base em princípios éticos, incluindo a transparência, a explicabilidade e a responsabilidade.

O Papel dos Profissionais do Setor Público

Os profissionais do setor público, como defensores, procuradores, promotores, juízes e auditores, desempenham um papel crucial na garantia da transparência e da justiça no uso da IA. Cabe a esses profissionais.

1. Compreender a Tecnologia.

É essencial que os profissionais do direito busquem compreender os princípios básicos da IA e os desafios associados ao seu uso no contexto jurídico. Isso inclui o conhecimento sobre diferentes tipos de algoritmos, potenciais vieses e métodos de avaliação da transparência e da explicabilidade.

2. Exigir Transparência.

No exercício de suas funções, os profissionais do direito devem exigir que os sistemas de IA utilizados no Judiciário sejam transparentes e auditáveis. Isso implica solicitar o acesso aos algoritmos, dados de treinamento e documentação técnica, bem como questionar a lógica por trás de decisões automatizadas.

3. Defender o Devido Processo Legal.

A utilização da IA não pode comprometer o direito fundamental ao devido processo legal. Os profissionais do direito devem estar vigilantes para garantir que as partes envolvidas tenham a oportunidade de contestar decisões baseadas em algoritmos e que o direito à ampla defesa seja assegurado.

4. Promover a Ética na IA.

Os profissionais do setor público devem atuar como defensores da ética na IA, promovendo o desenvolvimento e a utilização de sistemas que respeitem os direitos humanos, a igualdade e a justiça social.

O Futuro da IA no Judiciário: Desafios e Oportunidades

O uso da IA no Judiciário apresenta desafios significativos, mas também oferece oportunidades promissoras. A IA pode contribuir para a redução da morosidade processual, a identificação de padrões em grandes volumes de dados e a melhoria da qualidade das decisões judiciais.

No entanto, para que a IA alcance seu pleno potencial no Judiciário, é fundamental superar os desafios relacionados à transparência, à explicabilidade e ao risco de vieses. O desenvolvimento de sistemas de IA éticos e responsáveis requer a colaboração de profissionais do direito, especialistas em tecnologia e a sociedade como um todo.

O Marco Legal da Inteligência Artificial (Projeto de Lei nº 21/2020), atualmente em tramitação no Congresso Nacional, busca estabelecer um marco regulatório para o desenvolvimento e o uso da IA no Brasil. O projeto prevê princípios éticos e diretrizes para a IA, incluindo a transparência, a explicabilidade e a responsabilidade. A aprovação desse marco legal será um passo importante para garantir o uso responsável da IA no Judiciário e em outros setores.

Orientações Práticas para Profissionais do Setor Público

• Mantenha-se atualizado: Acompanhe as discussões sobre IA no Judiciário, incluindo a jurisprudência do STJ, normativas do CNJ e projetos de lei em tramitação.
• Busque capacitação: Participe de cursos, seminários e workshops sobre IA e suas implicações éticas e jurídicas.
• Exija transparência: Ao se deparar com decisões judiciais baseadas em algoritmos, exija informações sobre a lógica de funcionamento do sistema, os dados de treinamento e a possibilidade de revisão humana.
• Promova o debate: Incentive a discussão sobre IA no Judiciário entre seus pares e na sociedade como um todo.

Conclusão

A inteligência artificial tem o potencial de transformar o Judiciário, tornando-o mais eficiente e acessível. No entanto, o uso da IA deve ser guiado por princípios éticos e jurídicos rigorosos, com ênfase na transparência, na explicabilidade e no respeito ao devido processo legal. A jurisprudência do STJ e as normativas do CNJ fornecem diretrizes importantes para o uso responsável da IA no Judiciário. Cabe aos profissionais do setor público atuar de forma proativa para garantir que a IA seja utilizada como uma ferramenta para promover a justiça e a equidade, e não como um instrumento de opressão e discriminação. A busca por um equilíbrio entre a inovação tecnológica e a proteção dos direitos fundamentais é o desafio central que devemos enfrentar na era da IA no Judiciário.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.