IA: IA e Transparência

Introdução: A Era da IA no Setor Público e o Desafio da Transparência

A Inteligência Artificial (IA) tem se consolidado como uma ferramenta transformadora no setor público brasileiro, otimizando processos, acelerando a análise de dados e auxiliando na tomada de decisões. No entanto, a implementação de sistemas de IA, especialmente no âmbito jurídico, traz consigo um desafio crucial: a transparência.

Para defensores, procuradores, promotores, juízes e auditores, a adoção da IA não é apenas uma questão de eficiência tecnológica, mas também de garantir a legalidade, a ética e a justiça. O uso de algoritmos opacos, os chamados "caixas-pretas", levanta preocupações sobre o viés, a discriminação e a falta de accountability. A transparência na IA, portanto, não é apenas um requisito técnico, mas um imperativo legal e ético.

Este artigo explora a importância da transparência na IA no contexto do Direito Público, analisando a fundamentação legal, a jurisprudência relevante e as diretrizes práticas para garantir o uso responsável e transparente da IA no setor público.

A Fundamentação Legal da Transparência na IA

A transparência na IA não é um conceito abstrato, mas um princípio ancorado na legislação brasileira e internacional. A seguir, destacamos alguns dos principais marcos legais que fundamentam a necessidade de transparência na IA.

Constituição Federal (CF/88)

A Constituição Federal de 1988 estabelece o princípio da publicidade (art. 37, caput) como um dos pilares da administração pública. A publicidade exige que os atos da administração sejam transparentes e acessíveis aos cidadãos. No contexto da IA, isso significa que os sistemas utilizados pelo setor público devem ser transparentes em seu funcionamento, critérios e resultados.

Além disso, a CF/88 consagra o princípio do devido processo legal (art. 5º, LIV), que garante aos cidadãos o direito a um processo justo e transparente. O uso de algoritmos opacos pode comprometer o devido processo legal, pois impede que as partes compreendam e contestem as decisões tomadas pelo sistema.

Lei Geral de Proteção de Dados (LGPD) - Lei nº 13.709/2018

A LGPD estabelece regras claras para o tratamento de dados pessoais, incluindo dados utilizados por sistemas de IA. A lei consagra o princípio da transparência (art. 6º, VI), que exige que os controladores de dados forneçam informações claras e precisas sobre o tratamento de dados, incluindo a finalidade, a base legal e os critérios utilizados.

A LGPD também prevê o direito à explicação (art. 20), que garante aos titulares de dados o direito de solicitar informações sobre os critérios e procedimentos utilizados em decisões automatizadas. Esse direito é fundamental para garantir a transparência na IA, pois permite que os cidadãos compreendam como os algoritmos afetam suas vidas.

Marco Legal da Inteligência Artificial (Projeto de Lei nº 2338/2023)

O Projeto de Lei nº 2338/2023, que institui o Marco Legal da Inteligência Artificial no Brasil, estabelece diretrizes para o desenvolvimento, implementação e uso de sistemas de IA. O projeto de lei prevê o princípio da transparência como um dos pilares da IA responsável, exigindo que os sistemas sejam transparentes em seu funcionamento, critérios e resultados.

O projeto de lei também prevê a criação de um Sistema Nacional de Avaliação de Sistemas de Inteligência Artificial (SINAIA), que terá a função de avaliar a conformidade dos sistemas de IA com os princípios e diretrizes estabelecidos na lei. A avaliação do SINAIA será fundamental para garantir a transparência e a accountability na IA.

Jurisprudência e Normativas Relevantes

A jurisprudência brasileira tem se debruçado sobre a questão da transparência na IA, com decisões que reforçam a necessidade de garantir a publicidade e o devido processo legal no uso de algoritmos.

Supremo Tribunal Federal (STF)

O STF tem se manifestado sobre a importância da transparência na administração pública, incluindo o uso de tecnologias da informação. Em decisões recentes, o STF tem reafirmado o princípio da publicidade e a necessidade de garantir o acesso à informação sobre os atos da administração.

No contexto da IA, o STF tem destacado a necessidade de garantir a transparência dos algoritmos utilizados pelo setor público, a fim de evitar o viés e a discriminação. O Tribunal tem enfatizado que a opacidade dos algoritmos pode comprometer o devido processo legal e a igualdade de tratamento.

Conselho Nacional de Justiça (CNJ)

O CNJ tem editado resoluções e recomendações sobre o uso de tecnologias da informação no Poder Judiciário, incluindo a IA. O Conselho tem destacado a necessidade de garantir a transparência, a segurança e a ética no uso da IA, a fim de preservar a independência e a imparcialidade dos juízes.

O CNJ também tem recomendado a adoção de medidas para garantir a explicabilidade dos algoritmos utilizados pelo Poder Judiciário, a fim de permitir que as partes compreendam e contestem as decisões tomadas pelo sistema.

Orientações Práticas para Profissionais do Setor Público

A implementação da IA no setor público exige a adoção de medidas práticas para garantir a transparência e a accountability. A seguir, apresentamos algumas orientações para profissionais do setor público.

1. Exigência de Transparência Contratual

Ao contratar o desenvolvimento ou a implementação de sistemas de IA, o setor público deve exigir a inclusão de cláusulas contratuais que garantam a transparência do sistema. Essas cláusulas devem prever o acesso ao código-fonte, a documentação técnica e os critérios utilizados pelo algoritmo.

2. Avaliação de Impacto Algorítmico

Antes de implementar um sistema de IA, o setor público deve realizar uma avaliação de impacto algorítmico, a fim de identificar e mitigar os riscos de viés, discriminação e opacidade. A avaliação de impacto deve ser documentada e disponibilizada ao público.

3. Explicabilidade dos Algoritmos

O setor público deve priorizar o uso de sistemas de IA que sejam explicáveis, ou seja, que permitam compreender como o algoritmo chegou a uma determinada decisão. A explicabilidade é fundamental para garantir o devido processo legal e a accountability.

4. Criação de Canais de Comunicação e Contestação

O setor público deve criar canais de comunicação e contestação para que os cidadãos possam solicitar informações sobre o uso da IA e contestar as decisões tomadas pelo sistema. Esses canais devem ser acessíveis e transparentes.

5. Capacitação Contínua

Os profissionais do setor público devem receber capacitação contínua sobre a IA, incluindo os aspectos técnicos, legais e éticos. A capacitação é fundamental para garantir que os profissionais possam utilizar a IA de forma responsável e transparente.

Conclusão

A transparência na IA é um desafio complexo, mas essencial para garantir a legalidade, a ética e a justiça no setor público. A implementação da IA deve ser acompanhada de medidas práticas para garantir a transparência dos algoritmos, a explicabilidade das decisões e a accountability do sistema.

Para os profissionais do setor público, a transparência na IA não é apenas uma obrigação legal, mas um compromisso ético com a sociedade. O uso responsável e transparente da IA é fundamental para construir a confiança dos cidadãos nas instituições públicas e para garantir que a tecnologia seja utilizada para o bem comum.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.