Regulação da IA: e Jurisprudência do STF

A inteligência artificial (IA) tem se consolidado como uma ferramenta transformadora no cenário jurídico brasileiro. Seu potencial para otimizar processos, analisar grandes volumes de dados e auxiliar na tomada de decisões é inegável, especialmente no âmbito do setor público, onde a eficiência e a celeridade são demandas constantes. No entanto, a rápida adoção dessas tecnologias suscita importantes desafios regulatórios e éticos, exigindo uma reflexão aprofundada sobre seus limites e implicações legais. Este artigo analisa o panorama atual da regulação da IA no Brasil, com foco na jurisprudência do Supremo Tribunal Federal (STF) e nas diretrizes aplicáveis aos profissionais do setor público.

O Marco Regulatório da IA no Brasil

O Brasil encontra-se em um momento crucial de definição de seu marco regulatório para a IA. O debate sobre a necessidade de estabelecer regras claras para o desenvolvimento e o uso dessas tecnologias ganhou força nos últimos anos, culminando na proposição do Projeto de Lei n° 2338/2023, que institui o Marco Legal da Inteligência Artificial no Brasil. Este projeto, ainda em tramitação, busca equilibrar o fomento à inovação com a proteção dos direitos fundamentais, estabelecendo princípios, direitos e deveres para o desenvolvimento e a aplicação da IA.

O projeto de lei se baseia em uma abordagem de risco, categorizando os sistemas de IA de acordo com o potencial de impacto negativo que podem causar. Sistemas de alto risco, como aqueles utilizados em áreas sensíveis como saúde, segurança pública e justiça, estarão sujeitos a requisitos mais rigorosos de transparência, explicabilidade e supervisão humana. Essa abordagem alinha-se com as diretrizes internacionais e com as melhores práticas recomendadas por organizações como a OCDE e a União Europeia.

Além do projeto de lei em tramitação, o Brasil já conta com um arcabouço normativo que, embora não seja específico para a IA, aplica-se às suas diversas manifestações. A Constituição Federal de 1988, em seu artigo 5º, garante direitos fundamentais como a privacidade, a intimidade e a não discriminação, que devem ser observados no desenvolvimento e no uso de sistemas de IA. A Lei Geral de Proteção de Dados (LGPD - Lei nº 13.709/2018), por sua vez, estabelece regras para o tratamento de dados pessoais, inclusive aqueles utilizados para o treinamento e a operação de sistemas de IA.

A Jurisprudência do STF e os Desafios da IA

O STF tem se debruçado sobre questões relacionadas à IA, moldando a jurisprudência e estabelecendo parâmetros para a sua utilização no âmbito jurídico. Um dos casos mais emblemáticos é o julgamento da Ação Direta de Inconstitucionalidade (ADI) 6.444, que questionou a constitucionalidade da Medida Provisória (MP) 954/2020. A MP obrigava as empresas de telecomunicações a compartilhar dados de seus usuários com o Instituto Brasileiro de Geografia e Estatística (IBGE) para a realização de pesquisas durante a pandemia de COVID-19.

No julgamento da ADI 6.444, o STF reconheceu a inconstitucionalidade da MP 954/2020, argumentando que a medida violava o direito à privacidade e a proteção de dados pessoais. O tribunal destacou que o compartilhamento de dados deve observar os princípios da finalidade, da adequação e da necessidade, e que a utilização de tecnologias como a IA para analisar esses dados deve ser pautada pela transparência e pela responsabilidade.

Outro caso relevante é o julgamento da ADI 6.666, que questionou a constitucionalidade da Lei nº 13.853/2019, que alterou a LGPD. O STF reafirmou a importância da proteção de dados pessoais e estabeleceu que o tratamento de dados deve observar os princípios da transparência, da segurança e da prevenção. O tribunal também destacou a necessidade de garantir o direito à revisão de decisões automatizadas, especialmente aquelas que afetem interesses significativos dos indivíduos.

Implicações para Profissionais do Setor Público

A regulação da IA e a jurisprudência do STF têm implicações significativas para os profissionais do setor público. A utilização de sistemas de IA no âmbito da administração pública deve pautar-se pelos princípios da legalidade, da impessoalidade, da moralidade, da publicidade e da eficiência, conforme estabelecido no artigo 37 da Constituição Federal.

Transparência e Explicabilidade

Um dos principais desafios na utilização de sistemas de IA é a transparência e a explicabilidade. Os profissionais do setor público devem garantir que os sistemas de IA utilizados em suas atividades sejam transparentes e que as decisões tomadas por esses sistemas possam ser explicadas de forma clara e compreensível. Isso é fundamental para garantir a prestação de contas e a confiança da sociedade na administração pública.

Mitigação de Vieses e Discriminação

Os sistemas de IA podem reproduzir e amplificar vieses existentes nos dados utilizados para o seu treinamento. Isso pode levar a decisões discriminatórias e injustas, violando os princípios da igualdade e da não discriminação. Os profissionais do setor público devem estar atentos a esse risco e adotar medidas para mitigar os vieses e garantir a equidade na utilização de sistemas de IA.

Responsabilidade e Supervisão Humana

A utilização de sistemas de IA não exime os profissionais do setor público de sua responsabilidade. É fundamental garantir a supervisão humana e a possibilidade de revisão das decisões tomadas por sistemas de IA. Os profissionais do setor público devem estar preparados para intervir e corrigir eventuais erros ou falhas nos sistemas de IA.

Orientações Práticas para Profissionais do Setor Público

• Conheça a legislação: Familiarize-se com o marco regulatório da IA no Brasil, incluindo a LGPD e as normas específicas de sua área de atuação.
• Avalie os riscos: Antes de adotar um sistema de IA, avalie os riscos envolvidos, especialmente no que diz respeito à privacidade, à proteção de dados e à possibilidade de vieses e discriminação.
• Exija transparência: Solicite aos fornecedores de sistemas de IA informações claras e compreensíveis sobre o funcionamento do sistema, os dados utilizados para o seu treinamento e as medidas adotadas para mitigar os riscos.
• Garante a supervisão humana: Estabeleça mecanismos de supervisão humana e de revisão das decisões tomadas por sistemas de IA.
• Mantenha-se atualizado: Acompanhe a evolução da jurisprudência do STF e as discussões sobre a regulação da IA no Brasil e no mundo.

Conclusão

A regulação da IA é um desafio complexo e em constante evolução. O Brasil está dando passos importantes para estabelecer um marco regulatório que equilibre a inovação com a proteção dos direitos fundamentais. Os profissionais do setor público têm um papel fundamental nesse processo, devendo atuar de forma responsável e ética na utilização de sistemas de IA, garantindo a transparência, a equidade e a prestação de contas. A jurisprudência do STF continuará a moldar o cenário jurídico da IA no Brasil, e é fundamental que os profissionais do setor público estejam atentos a essas decisões e as incorporem em suas práticas.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.