Ética da IA no Direito: e Jurisprudência do STJ

Introdução: A Inserção da IA no Sistema de Justiça Brasileiro

A inteligência artificial (IA) tem se consolidado como uma ferramenta transformadora em diversos setores, e o sistema de justiça brasileiro não está imune a essa revolução. A implementação de sistemas algorítmicos promete otimizar processos, reduzir a morosidade e auxiliar na tomada de decisões. No entanto, essa adoção acelerada levanta questões éticas e jurídicas complexas, exigindo uma análise aprofundada da interação entre a tecnologia e os princípios fundamentais do direito. O Superior Tribunal de Justiça (STJ), como corte responsável por uniformizar a interpretação da legislação federal, tem um papel crucial na definição dos contornos éticos da IA no contexto jurídico.

O Marco Regulatório e a Ética da IA

A discussão sobre a ética da IA no Brasil não ocorre em um vácuo normativo. A Constituição Federal, em seu artigo 5º, garante os direitos fundamentais à igualdade, à privacidade e ao devido processo legal, pilares que devem nortear qualquer aplicação tecnológica no sistema de justiça. Além disso, a Lei Geral de Proteção de Dados (LGPD - Lei nº 13.709/2018) estabelece diretrizes claras para o tratamento de dados pessoais, um insumo essencial para o funcionamento dos algoritmos de IA.

A Resolução nº 332/2020 do Conselho Nacional de Justiça (CNJ) representa um marco importante ao instituir a Estratégia Nacional de Tecnologia da Informação e Comunicação do Poder Judiciário (ENTIC-JUD), que inclui diretrizes para o desenvolvimento e uso da IA. A resolução enfatiza a necessidade de transparência, explicabilidade e não discriminação nos sistemas algorítmicos. O Projeto de Lei nº 21/2020, que propõe o Marco Legal da Inteligência Artificial, também busca estabelecer princípios, direitos e deveres para o desenvolvimento e uso da IA no Brasil, reforçando a importância da ética e da responsabilidade.

Jurisprudência do STJ: Desafios e Perspectivas

O STJ tem se deparado com casos que envolvem, direta ou indiretamente, o uso de IA e sistemas algorítmicos. Embora a jurisprudência ainda esteja em construção, é possível identificar algumas tendências e desafios.

A Questão da Explicabilidade e Transparência

Um dos principais desafios éticos da IA é a "caixa preta" dos algoritmos, ou seja, a dificuldade de compreender como o sistema chega a uma determinada conclusão. No contexto jurídico, a falta de explicabilidade pode comprometer o direito à ampla defesa e ao contraditório. O STJ, em decisões recentes, tem enfatizado a necessidade de transparência nos critérios utilizados por sistemas automatizados. Por exemplo, em casos envolvendo a negativa de crédito por instituições financeiras com base em algoritmos de credit scoring, o Tribunal tem exigido que os critérios sejam claros e compreensíveis para o consumidor.

O Risco de Viés e Discriminação

Os algoritmos de IA são treinados com base em grandes volumes de dados, que podem refletir preconceitos e desigualdades existentes na sociedade. Se não houver um cuidado rigoroso, a IA pode perpetuar e até mesmo amplificar essas discriminações. O STJ tem se mostrado atento a esse risco, especialmente em áreas como o direito penal e a execução penal. A utilização de algoritmos para prever o risco de reincidência, por exemplo, exige uma análise criteriosa para evitar que variáveis como raça, gênero ou classe social influenciem indevidamente o resultado. A corte tem reforçado a necessidade de garantir a igualdade de tratamento e a não discriminação, em consonância com os princípios constitucionais.

A Responsabilidade Civil por Danos Causados por IA

A definição de quem é responsável por danos causados por sistemas de IA é um tema complexo e em debate. A responsabilidade pode recair sobre o desenvolvedor, o provedor do serviço, o usuário ou até mesmo sobre o próprio sistema, em cenários futuros de IA autônoma. O STJ, ao analisar casos de responsabilidade civil envolvendo tecnologia, tem aplicado as regras do Código Civil e do Código de Defesa do Consumidor, buscando identificar o nexo de causalidade e a culpa ou o risco inerente à atividade. A jurisprudência tem se inclinado para a responsabilidade objetiva em casos de danos causados por falhas em sistemas tecnológicos, mas a aplicação específica à IA ainda demanda aprofundamento.

Orientações Práticas para Profissionais do Setor Público

Diante do cenário em evolução, os profissionais do setor público devem adotar uma postura proativa e cautelosa em relação à IA:

• Capacitação Contínua: É fundamental buscar conhecimento sobre os princípios básicos da IA, seus potenciais e limitações. A compreensão técnica é essencial para uma análise crítica das ferramentas tecnológicas.
• Análise de Risco: Antes de implementar ou utilizar um sistema de IA, é necessário realizar uma avaliação rigorosa dos riscos envolvidos, considerando aspectos como viés, privacidade, segurança e explicabilidade.
• Transparência e Explicabilidade: Priorizar sistemas que ofereçam um nível adequado de transparência e explicabilidade, permitindo compreender os critérios utilizados para a tomada de decisão.
• Monitoramento e Auditoria: Estabelecer mecanismos contínuos de monitoramento e auditoria para identificar e corrigir possíveis falhas, vieses ou impactos negativos da IA.
• Atenção à Legislação e Jurisprudência: Acompanhar de perto a evolução legislativa e jurisprudencial sobre o tema, especialmente as decisões do STJ e do STF, para garantir a conformidade das ações com o ordenamento jurídico.

Conclusão

A integração da IA no sistema de justiça brasileiro apresenta um potencial enorme para aprimorar a eficiência e a qualidade da prestação jurisdicional. No entanto, essa transformação deve ser pautada por princípios éticos sólidos e pelo respeito aos direitos fundamentais. A jurisprudência do STJ desempenha um papel fundamental na definição dos limites e das responsabilidades no uso da IA, garantindo que a tecnologia sirva como um instrumento de justiça e não como um fator de exclusão ou discriminação. Os profissionais do setor público têm a responsabilidade de se capacitar e atuar de forma crítica e ética, assegurando que a inovação tecnológica esteja a serviço do interesse público e da consolidação do Estado Democrático de Direito.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.