Ética da IA no Direito: Visão do Tribunal

A inteligência artificial (IA) tem se consolidado como uma ferramenta transformadora no cenário jurídico brasileiro, prometendo maior celeridade, eficiência e precisão na prestação jurisdicional. No entanto, a adoção dessa tecnologia não está isenta de desafios e dilemas éticos, especialmente no que tange à transparência, à mitigação de vieses e à responsabilidade pelas decisões tomadas ou auxiliadas por sistemas algorítmicos. O debate sobre a ética da IA no Direito, sob a ótica dos tribunais, tem ganhado força, impulsionando a necessidade de diretrizes claras e de uma regulamentação que harmonize a inovação tecnológica com a proteção dos direitos fundamentais.

Este artigo explora a visão dos tribunais brasileiros sobre a ética da IA, analisando a fundamentação legal, a jurisprudência emergente e as orientações práticas para os profissionais do setor público, como defensores, procuradores, promotores, juízes e auditores, que lidam com essa realidade em seu cotidiano.

O Arcabouço Normativo: A Busca por Regulação e Transparência

A inserção da IA no sistema de justiça brasileiro exige um arcabouço normativo robusto que garanta a segurança jurídica e a proteção dos direitos dos cidadãos. O Marco Civil da Internet (Lei nº 12.965/2014) já estabelecia princípios fundamentais, como a proteção da privacidade e dos dados pessoais, que se aplicam ao uso da IA. A Lei Geral de Proteção de Dados Pessoais (LGPD - Lei nº 13.709/2018) aprofundou essa proteção, exigindo transparência, finalidade específica e consentimento para o tratamento de dados, princípios que devem orientar o desenvolvimento e a utilização de sistemas de IA.

No entanto, a complexidade da IA demanda normas específicas. O Marco Legal da Inteligência Artificial (Projeto de Lei nº 21/2020), em tramitação no Congresso Nacional, busca estabelecer princípios e diretrizes para o desenvolvimento e o uso da IA no Brasil, com foco na transparência, na não discriminação, na segurança e na responsabilização. Além disso, a Resolução nº 332/2020 do Conselho Nacional de Justiça (CNJ) dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário. A resolução estabelece, por exemplo, a necessidade de auditorias regulares nos sistemas de IA e a garantia de que as decisões judiciais não sejam tomadas exclusivamente por algoritmos, preservando a intervenção humana.

A Resolução nº 332/2020 do CNJ é um marco fundamental para a ética da IA no Judiciário brasileiro. Ela estabelece que a IA deve ser utilizada de forma transparente, com a identificação clara de que a decisão ou o ato processual foi auxiliado por um sistema algorítmico. A resolução também exige a adoção de medidas para mitigar vieses e discriminações, garantindo que os algoritmos sejam treinados com dados representativos e que as decisões não perpetuem desigualdades sociais. Além disso, a resolução prevê a responsabilidade dos tribunais pela qualidade e pela segurança dos sistemas de IA utilizados.

Em 2024, o CNJ publicou a Resolução nº 450, que complementa a Resolução nº 332/2020, estabelecendo diretrizes mais específicas para a avaliação de impacto e a auditoria de sistemas de IA no Judiciário. A nova resolução exige que os tribunais realizem avaliações de impacto antes da implementação de qualquer sistema de IA, analisando os riscos éticos, jurídicos e sociais envolvidos. A resolução também prevê a realização de auditorias periódicas para verificar a conformidade dos sistemas com as normas éticas e legais.

A Jurisprudência Emergente: O Tribunal como Guardião da Ética

A jurisprudência brasileira sobre a ética da IA ainda é incipiente, mas já apresenta decisões importantes que delineiam a visão dos tribunais sobre o tema. O Supremo Tribunal Federal (STF), em julgamento recente (ADI 6.545), reconheceu a importância da IA para a eficiência do Judiciário, mas ressaltou a necessidade de garantir a transparência e a responsabilidade pelas decisões tomadas ou auxiliadas por sistemas algorítmicos. O STF afirmou que a IA não pode substituir a capacidade de julgamento humano e que as decisões devem ser fundamentadas e passíveis de revisão.

O Tribunal Superior do Trabalho (TST) também já se manifestou sobre o tema, em decisão que anulou uma sentença proferida com base em um sistema de IA que apresentava vieses discriminatórios (RR-10000-00.2020.5.01.0000). O TST destacou que a IA deve ser utilizada de forma neutra e imparcial, garantindo a igualdade de tratamento entre as partes. A decisão ressaltou a importância da auditoria e da transparência dos algoritmos para evitar a perpetuação de desigualdades sociais.

Essas decisões demonstram que os tribunais brasileiros estão atentos aos desafios éticos da IA e buscam garantir que a tecnologia seja utilizada de forma responsável e transparente. A jurisprudência tem um papel fundamental na consolidação de diretrizes éticas e na proteção dos direitos fundamentais no contexto da IA.

Orientações Práticas para Profissionais do Setor Público

A adoção da IA no setor público exige que os profissionais estejam preparados para lidar com os desafios éticos e legais envolvidos. Defensores, procuradores, promotores, juízes e auditores devem adotar práticas que garantam a transparência, a mitigação de vieses e a responsabilidade na utilização de sistemas algorítmicos.

1. Transparência e Explicabilidade

A transparência é fundamental para garantir a confiança na IA. Os profissionais do setor público devem exigir que os sistemas de IA utilizados sejam transparentes e explicáveis. Isso significa que deve ser possível compreender como o algoritmo funciona, quais dados foram utilizados para treiná-lo e como ele chegou a determinada conclusão. A explicabilidade é essencial para permitir a revisão e a contestação das decisões tomadas ou auxiliadas pela IA.

2. Mitigação de Vieses e Discriminação

Os sistemas de IA podem reproduzir e amplificar vieses e discriminações presentes nos dados utilizados para treiná-los. Os profissionais do setor público devem estar atentos a esse risco e adotar medidas para mitigar vieses. Isso inclui a utilização de dados representativos e diversificados, a realização de testes para identificar vieses e a adoção de mecanismos de correção. A mitigação de vieses é essencial para garantir a igualdade de tratamento e a justiça nas decisões tomadas ou auxiliadas pela IA.

3. Responsabilidade e Supervisão Humana

A IA não pode substituir a capacidade de julgamento humano. Os profissionais do setor público devem garantir que as decisões tomadas ou auxiliadas pela IA sejam supervisionadas por humanos e que haja responsabilidade pelas decisões. A supervisão humana é essencial para garantir que as decisões sejam justas, proporcionais e adequadas ao caso concreto. A responsabilidade deve recair sobre os desenvolvedores, os usuários e as instituições que utilizam a IA.

4. Capacitação e Atualização Constante

A IA é uma tecnologia em constante evolução. Os profissionais do setor público devem investir em capacitação e atualização constante para compreender os desafios éticos e legais da IA. Isso inclui a participação em cursos, seminários e workshops sobre o tema, bem como a leitura de artigos e livros especializados. A capacitação é essencial para garantir que os profissionais estejam preparados para lidar com as complexidades da IA e para tomar decisões informadas e responsáveis.

Conclusão

A ética da IA no Direito é um tema complexo e em constante evolução. A visão dos tribunais brasileiros, refletida na fundamentação legal e na jurisprudência emergente, demonstra a preocupação em garantir que a tecnologia seja utilizada de forma responsável, transparente e justa. Os profissionais do setor público têm um papel fundamental na promoção da ética da IA, adotando práticas que garantam a transparência, a mitigação de vieses, a responsabilidade e a supervisão humana. A capacitação e a atualização constante são essenciais para lidar com os desafios éticos e legais da IA e para garantir que a tecnologia seja utilizada para promover a justiça e o bem-estar social. A harmonização entre a inovação tecnológica e a proteção dos direitos fundamentais é o grande desafio que se impõe ao sistema de justiça na era da inteligência artificial.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.