Automação: Regulação da IA

A inteligência artificial (IA) consolidou-se como um pilar de inovação, trazendo consigo um ritmo acelerado de mudanças para a Administração Pública, e, de modo particular, para o sistema de justiça. A promessa de otimização de processos, redução de custos e maior eficiência no serviço público encontra-se lado a lado com desafios complexos e inadiáveis. Entre eles, destaca-se a necessidade imperativa de regulamentar a automação, assegurando que o desenvolvimento e a implementação da IA ocorram de forma ética, segura e em consonância com os princípios constitucionais. Este artigo analisa o panorama atual da regulação da IA no Brasil, com foco nas implicações para profissionais do setor público, como defensores, procuradores, promotores, juízes e auditores.

O Cenário Regulatório da IA no Brasil

O debate sobre a regulação da IA no Brasil ganhou contornos mais nítidos nos últimos anos, impulsionado pela crescente adoção da tecnologia em diversos setores. A busca por um marco regulatório que equilibre inovação e proteção dos direitos fundamentais tem se materializado em diferentes iniciativas legislativas e normativas.

O Marco Legal da Inteligência Artificial

O principal instrumento em discussão é o Projeto de Lei nº 2338/2023, que institui o Marco Legal da Inteligência Artificial no Brasil. Este projeto, resultado de um longo processo de debates e consultas públicas, busca estabelecer diretrizes, princípios e regras para o desenvolvimento e o uso da IA no país.

Entre os princípios fundamentais previstos no PL 2338/2023, destacam-se:

• Respeito aos direitos humanos e aos valores democráticos: A IA não deve ser utilizada para violar direitos fundamentais, como a privacidade, a liberdade de expressão e a igualdade.
• Transparência e explicabilidade: Os sistemas de IA devem ser transparentes em seu funcionamento, e as decisões tomadas por eles devem ser explicáveis de forma compreensível.
• Responsabilidade e prestação de contas: Os desenvolvedores e usuários de IA devem ser responsabilizados por eventuais danos causados pela tecnologia.
• Prevenção de vieses e discriminação: A IA não deve ser utilizada para perpetuar ou amplificar desigualdades sociais, raciais, de gênero ou de qualquer outra natureza.

A Lei Geral de Proteção de Dados (LGPD)

A Lei Geral de Proteção de Dados (Lei nº 13.709/2018), em vigor desde 2020, também desempenha um papel crucial na regulação da IA. A LGPD estabelece regras claras sobre o tratamento de dados pessoais, que são a matéria-prima para o treinamento de muitos sistemas de IA.

A lei garante aos titulares dos dados o direito de acesso, correção, anonimização, bloqueio ou eliminação de seus dados, bem como o direito de oposição ao tratamento em determinadas situações. Além disso, a LGPD exige que o tratamento de dados pessoais seja realizado com base em uma das hipóteses legais previstas, como o consentimento do titular ou a necessidade para a execução de um contrato ou para o cumprimento de uma obrigação legal.

A Aplicação da IA no Setor Público: Desafios e Oportunidades

A adoção da IA no setor público apresenta um vasto leque de oportunidades para a melhoria da prestação de serviços e a otimização de recursos. No entanto, a implementação da tecnologia também traz consigo desafios significativos que precisam ser enfrentados de forma responsável e transparente.

Automação de Processos e Tomada de Decisão

A IA pode ser utilizada para automatizar tarefas repetitivas e burocráticas, liberando os servidores públicos para atividades mais complexas e estratégicas. Por exemplo, a IA pode ser empregada para a triagem de documentos, a análise de dados e a elaboração de relatórios.

No entanto, a utilização da IA para a tomada de decisões, especialmente em áreas sensíveis como a justiça criminal, a concessão de benefícios sociais e a avaliação de servidores públicos, exige cautela e rigor. É fundamental garantir que os sistemas de IA sejam justos, transparentes e livres de vieses discriminatórios.

A Questão da Transparência e Explicabilidade

Um dos principais desafios na utilização da IA no setor público é a "caixa preta" dos algoritmos. Muitas vezes, é difícil entender como um sistema de IA chegou a uma determinada decisão, o que pode dificultar a identificação de erros, vieses e violações de direitos fundamentais.

A transparência e a explicabilidade dos sistemas de IA são essenciais para garantir a confiança do cidadão na Administração Pública e para permitir a responsabilização em caso de eventuais danos. A regulamentação da IA deve estabelecer mecanismos que garantam a transparência dos algoritmos e a explicabilidade das decisões tomadas por eles.

O Papel do Judiciário e do Ministério Público

O Judiciário e o Ministério Público desempenham um papel fundamental na garantia de que a utilização da IA no setor público ocorra de forma ética, segura e em consonância com a legislação em vigor.

Os juízes devem estar preparados para analisar casos que envolvam o uso da IA, avaliando a legalidade e a constitucionalidade das decisões tomadas pelos sistemas e garantindo a reparação de eventuais danos.

O Ministério Público, por sua vez, deve atuar na defesa dos direitos fundamentais dos cidadãos, fiscalizando a utilização da IA pela Administração Pública e promovendo a responsabilização em caso de irregularidades.

Jurisprudência e Normativas Relevantes

A jurisprudência brasileira sobre o uso da IA ainda está em fase de consolidação, mas já existem decisões importantes que começam a delinear os contornos da responsabilidade civil e administrativa em casos envolvendo a tecnologia.

O Supremo Tribunal Federal (STF), por exemplo, já se manifestou sobre a necessidade de garantir a transparência e a explicabilidade dos algoritmos utilizados pelo poder público, especialmente em áreas como a segurança pública e a justiça criminal.

Além da jurisprudência, existem diversas normativas e resoluções emitidas por órgãos como o Conselho Nacional de Justiça (CNJ) e o Conselho Nacional do Ministério Público (CNMP) que estabelecem diretrizes para o uso da IA no âmbito de suas respectivas competências.

Orientações Práticas para Profissionais do Setor Público

Diante do cenário regulatório em constante evolução e dos desafios e oportunidades apresentados pela IA, é fundamental que os profissionais do setor público estejam preparados para lidar com a tecnologia de forma ética e responsável.

Capacitação e Atualização Constante

A compreensão dos princípios e do funcionamento da IA é essencial para que os profissionais do setor público possam avaliar os riscos e os benefícios da tecnologia e tomar decisões informadas sobre a sua utilização. A capacitação contínua e a atualização sobre as novidades legislativas e jurisprudenciais são fundamentais.

Adoção de Boas Práticas e Diretrizes Éticas

A implementação de sistemas de IA no setor público deve ser guiada por boas práticas e diretrizes éticas que garantam a transparência, a explicabilidade, a justiça e a não discriminação. A criação de comitês de ética e a realização de avaliações de impacto algorítmico são medidas importantes para mitigar os riscos associados à tecnologia.

Colaboração e Diálogo Interinstitucional

A regulação e a governança da IA no setor público exigem a colaboração e o diálogo entre os diferentes órgãos e instituições envolvidos. A troca de experiências e a construção de consensos são essenciais para o desenvolvimento de um marco regulatório eficiente e eficaz.

Conclusão

A automação impulsionada pela IA representa um marco transformador para o setor público brasileiro, oferecendo oportunidades ímpares para a otimização de serviços e a melhoria da eficiência administrativa. No entanto, a implementação da tecnologia exige um arcabouço regulatório robusto que garanta a proteção dos direitos fundamentais, a transparência, a explicabilidade e a responsabilidade. A atuação proativa e qualificada de defensores, procuradores, promotores, juízes e auditores é fundamental para assegurar que a IA seja utilizada como um instrumento de promoção da justiça social e do bem-estar coletivo, em consonância com os valores democráticos e constitucionais. O desafio é complexo, mas inadiável, e a construção de um futuro onde a tecnologia sirva à sociedade exige o compromisso de todos os atores envolvidos.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.