Regulação da IA: Checklist Completo

A inteligência artificial (IA) deixou de ser uma promessa futurista para se tornar uma realidade onipresente, impactando profundamente a sociedade e, por conseguinte, o sistema de justiça. No Brasil, o debate sobre a regulação dessa tecnologia tem se intensificado, culminando em propostas legislativas que buscam equilibrar a inovação com a proteção de direitos fundamentais. Para profissionais do setor público – defensores, procuradores, promotores, juízes e auditores –, compreender esse arcabouço normativo é essencial para garantir a aplicação ética e legal da IA em suas áreas de atuação. Este artigo apresenta um checklist completo para navegar nesse cenário complexo e em constante evolução.

O Cenário Regulatório Brasileiro: Uma Visão Geral

A regulação da IA no Brasil ainda se encontra em fase de consolidação, mas já é possível identificar diretrizes e princípios fundamentais que norteiam o desenvolvimento e a utilização dessa tecnologia. O Marco Civil da Internet (Lei nº 12.965/2014) e a Lei Geral de Proteção de Dados Pessoais (LGPD - Lei nº 13.709/2018) estabelecem bases importantes, como a proteção da privacidade e o uso responsável de dados. No entanto, a necessidade de um marco legal específico para a IA tem se tornado cada vez mais evidente.

O Projeto de Lei (PL) nº 21/2020, que institui o Marco Legal da Inteligência Artificial no Brasil, é a principal iniciativa nesse sentido. O texto, que já passou por diversas rodadas de debate e aprimoramento, busca estabelecer princípios, direitos e deveres para o desenvolvimento e a utilização da IA, com foco na transparência, na não discriminação e na responsabilidade civil. É fundamental que os profissionais do setor público acompanhem de perto a tramitação desse PL e suas eventuais alterações, pois ele será o pilar da regulação da IA no país.

Além do PL 21/2020, outras iniciativas legislativas e normativas merecem atenção, como as diretrizes do Conselho Nacional de Justiça (CNJ) e do Conselho Nacional do Ministério Público (CNMP) sobre o uso da IA no âmbito do Judiciário e do Ministério Público. Essas normativas buscam garantir que a tecnologia seja utilizada de forma a aprimorar a prestação jurisdicional e a atuação do Ministério Público, sem comprometer a imparcialidade, a transparência e o respeito aos direitos fundamentais.

Checklist Completo para Profissionais do Setor Público

Para garantir a aplicação ética e legal da IA em suas atividades, os profissionais do setor público devem observar um conjunto de princípios e diretrizes. O checklist a seguir apresenta os principais pontos de atenção.

1. Transparência e Explicabilidade

A transparência é um princípio fundamental para a confiança na IA. Os sistemas devem ser projetados de forma a permitir a compreensão de seu funcionamento e a identificação dos critérios utilizados para a tomada de decisão. A explicabilidade, por sua vez, exige que as decisões automatizadas sejam justificadas de forma clara e acessível, especialmente quando afetam direitos fundamentais:

• Fundamentação Legal: Art. 5º, XXXIII, da Constituição Federal (direito à informação); Art. 20 da LGPD (direito à revisão de decisões automatizadas).
• Orientação Prática: Ao utilizar sistemas de IA, exija dos desenvolvedores documentação clara sobre o funcionamento do algoritmo e os critérios utilizados para a tomada de decisão. Em caso de decisões que afetem direitos individuais, garanta que a justificativa seja apresentada de forma compreensível ao cidadão.

2. Não Discriminação e Imparcialidade

Os sistemas de IA podem reproduzir e amplificar vieses e preconceitos presentes nos dados utilizados para seu treinamento. É crucial garantir que a tecnologia não seja utilizada de forma discriminatória, prejudicando grupos vulneráveis ou perpetuando desigualdades sociais. A imparcialidade deve ser um objetivo constante no desenvolvimento e na utilização da IA:

• Fundamentação Legal: Art. 3º, IV, da Constituição Federal (promoção do bem de todos, sem preconceitos de origem, raça, sexo, cor, idade e quaisquer outras formas de discriminação); Art. 6º, IX, da LGPD (princípio da não discriminação).
• Orientação Prática: Avalie criticamente os dados utilizados para o treinamento dos sistemas de IA, buscando identificar e mitigar possíveis vieses. Monitore o desempenho da tecnologia para garantir que ela não produza resultados discriminatórios na prática.

3. Responsabilidade Civil e Accountability

A responsabilização por danos causados por sistemas de IA é um dos temas mais complexos da regulação. O PL 21/2020 propõe um modelo de responsabilidade civil subjetiva, com presunção de culpa, para os desenvolvedores e usuários da tecnologia. A accountability, ou prestação de contas, exige que os responsáveis pela IA sejam identificados e que mecanismos de reparação estejam disponíveis em caso de danos:

• Fundamentação Legal: Art. 927 do Código Civil (responsabilidade civil); Art. 42 e seguintes da LGPD (responsabilidade e ressarcimento de danos).
• Orientação Prática: Estabeleça contratos claros com os desenvolvedores de sistemas de IA, definindo as responsabilidades de cada parte em caso de danos. Implemente mecanismos de auditoria e monitoramento para garantir a conformidade da tecnologia com as normas legais e éticas.

4. Proteção de Dados e Privacidade

A IA depende de grandes volumes de dados para seu funcionamento. É fundamental garantir que a coleta, o processamento e o armazenamento desses dados sejam realizados em conformidade com a LGPD e outras normas de proteção à privacidade. O consentimento do titular dos dados, a finalidade específica do tratamento e a segurança das informações são princípios que devem ser rigorosamente observados:

• Fundamentação Legal: Art. 5º, X e XII, da Constituição Federal (inviolabilidade da intimidade, da vida privada, da honra e da imagem; sigilo das comunicações); LGPD.
• Orientação Prática: Ao utilizar sistemas de IA que processem dados pessoais, certifique-se de que a coleta e o tratamento estejam em conformidade com a LGPD. Implemente medidas de segurança da informação para proteger os dados contra acessos não autorizados, vazamentos e outras violações.

5. Supervisão Humana

A IA não deve substituir o julgamento humano, especialmente em decisões que afetam direitos fundamentais. A supervisão humana é essencial para garantir que a tecnologia seja utilizada de forma ética e responsável, corrigindo eventuais erros e vieses do algoritmo. O profissional do setor público deve manter o controle sobre o processo de tomada de decisão, utilizando a IA como uma ferramenta de auxílio, e não como um substituto:

• Fundamentação Legal: Art. 20 da LGPD (direito à revisão de decisões automatizadas por pessoa natural).
• Orientação Prática: Estabeleça procedimentos claros para a supervisão humana das decisões automatizadas. O profissional responsável deve ter autonomia para discordar da recomendação do sistema e tomar a decisão final com base em seu próprio julgamento e conhecimento jurídico.

Jurisprudência e Normativas Relevantes

A jurisprudência brasileira sobre a IA ainda é incipiente, mas já é possível identificar algumas decisões importantes. O Superior Tribunal de Justiça (STJ), por exemplo, tem utilizado sistemas de IA para auxiliar na triagem de processos e na elaboração de minutas de decisões. O Tribunal de Contas da União (TCU) também tem investido na tecnologia para aprimorar o controle externo.

No âmbito normativo, destacam-se a Resolução nº 332/2020 do CNJ, que dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário, e a Resolução nº 227/2020 do CNMP, que estabelece diretrizes para a utilização de IA no Ministério Público. Ambas as resoluções enfatizam a necessidade de observância dos princípios éticos e legais na utilização da tecnologia, garantindo a transparência, a não discriminação e a supervisão humana.

Conclusão

A regulação da IA no Brasil é um desafio complexo e em constante evolução, exigindo um esforço conjunto de legisladores, juristas, desenvolvedores e da sociedade como um todo. Para os profissionais do setor público, compreender esse arcabouço normativo é essencial para garantir a aplicação ética e legal da tecnologia em suas atividades. A observância dos princípios da transparência, da não discriminação, da responsabilidade, da proteção de dados e da supervisão humana é fundamental para que a IA seja utilizada como uma ferramenta de aprimoramento da justiça e da administração pública, sem comprometer os direitos fundamentais dos cidadãos. O checklist apresentado neste artigo serve como um guia prático para auxiliar esses profissionais a navegar nesse cenário desafiador e a contribuir para o desenvolvimento de uma IA responsável e benéfica para a sociedade brasileira.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.