Inovação: IA e Transparência

A Inteligência Artificial (IA) tem se consolidado como uma ferramenta transformadora no cenário jurídico, oferecendo oportunidades ímpares para otimizar processos, aprimorar a análise de dados e, consequentemente, elevar a eficiência do sistema de justiça. No entanto, a adoção dessa tecnologia no setor público, especialmente por parte de defensores, procuradores, promotores, juízes e auditores, impõe desafios significativos, sendo a transparência um dos pilares fundamentais para garantir a legitimidade e a confiabilidade das decisões tomadas com o auxílio da IA.

A Necessidade de Transparência na IA Jurídica

A transparência na IA jurídica transcende a mera publicidade algorítmica. Trata-se de assegurar que os sistemas de IA utilizados no âmbito da justiça sejam compreensíveis, auditáveis e explicáveis, permitindo que os profissionais do direito e a sociedade como um todo compreendam os critérios e as lógicas que fundamentam as recomendações e decisões geradas por essas ferramentas.

O Desafio da "Caixa Preta"

Muitos sistemas de IA, especialmente aqueles baseados em aprendizado de máquina profundo (deep learning), operam como "caixas pretas". A complexidade de seus algoritmos e a vastidão de dados que processam tornam difícil, senão impossível, para um ser humano compreender a cadeia causal que leva a uma determinada saída. Essa opacidade, no contexto jurídico, pode gerar desconfiança e questionamentos sobre a imparcialidade e a justiça das decisões.

Fundamentação Legal e Normativa

A exigência de transparência na IA jurídica encontra respaldo em diversos diplomas legais e normativos, tanto no âmbito nacional quanto internacional.

Lei Geral de Proteção de Dados (LGPD)

A Lei nº 13.709/2018 (LGPD) estabelece princípios fundamentais que se aplicam ao uso de IA, como a finalidade, a adequação, a necessidade, o livre acesso, a qualidade dos dados, a transparência, a segurança, a prevenção, a não discriminação e a responsabilização e prestação de contas. O artigo 20 da LGPD assegura o direito do titular dos dados a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade.

Marco Legal da Inteligência Artificial (Projeto de Lei nº 21/2020)

O Projeto de Lei nº 21/2020, que propõe o Marco Legal da Inteligência Artificial no Brasil, ainda em tramitação, prevê princípios como a transparência, a explicabilidade, a auditabilidade, a segurança, a não discriminação e a responsabilização. O texto destaca a necessidade de que os sistemas de IA sejam desenvolvidos e utilizados de forma a garantir a compreensão de suas lógicas de funcionamento e a possibilidade de auditoria de seus resultados.

Resolução CNJ nº 332/2020

A Resolução CNJ nº 332/2020, que dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário, estabelece diretrizes para a adoção de sistemas de IA pelos tribunais. A resolução enfatiza a necessidade de transparência e explicabilidade dos algoritmos, bem como a realização de auditorias periódicas para garantir a conformidade com os princípios éticos e legais.

Diretrizes da União Europeia

No cenário internacional, a União Europeia tem liderado a regulamentação da IA, com a proposta de um Regulamento de Inteligência Artificial (Artificial Intelligence Act), que classifica os sistemas de IA em diferentes níveis de risco e estabelece requisitos de transparência e explicabilidade para os sistemas de alto risco, como aqueles utilizados na área jurídica.

Orientações Práticas para Profissionais do Setor Público

A implementação da IA no setor público exige cautela e adoção de boas práticas para garantir a transparência e a confiabilidade dos sistemas.

Exigência de Explicabilidade

Ao adotar sistemas de IA, os profissionais do setor público devem exigir dos fornecedores a explicabilidade dos algoritmos. Isso significa que o sistema deve ser capaz de fornecer informações compreensíveis sobre os critérios e as lógicas que fundamentam suas recomendações e decisões.

Auditoria e Validação

A realização de auditorias periódicas e a validação dos sistemas de IA são essenciais para garantir a sua precisão, imparcialidade e conformidade com os princípios éticos e legais. Essas auditorias devem avaliar a qualidade dos dados utilizados para treinar o sistema, a lógica do algoritmo e os resultados gerados.

Capacitação e Treinamento

Os profissionais do setor público devem receber capacitação e treinamento adequados para compreender os princípios e o funcionamento dos sistemas de IA, bem como os desafios e as implicações éticas e legais de sua utilização.

Transparência para o Cidadão

A transparência deve se estender aos cidadãos, que devem ser informados sobre a utilização de sistemas de IA no processamento de suas demandas. É importante que os cidadãos compreendam como a IA está sendo utilizada e quais os seus direitos em relação a essas ferramentas.

Conclusão

A Inteligência Artificial apresenta um potencial imenso para transformar o setor público, mas sua adoção deve ser pautada pela transparência e pela ética. A compreensão dos desafios da "caixa preta" e a observância da fundamentação legal e normativa são passos cruciais para garantir a legitimidade e a confiabilidade das decisões tomadas com o auxílio da IA. Através da exigência de explicabilidade, da realização de auditorias, da capacitação profissional e da transparência para o cidadão, os profissionais do setor público podem aproveitar os benefícios da IA de forma responsável e eficaz, contribuindo para um sistema de justiça mais justo, eficiente e transparente.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.