Chatbot para Atendimento Público: Visão do Tribunal

A implementação de inteligência artificial (IA) na administração pública, particularmente no formato de chatbots para atendimento ao cidadão, representa um avanço significativo na modernização do Estado. O desafio, contudo, reside em equilibrar a eficiência proporcionada pela tecnologia com a necessidade de garantir a segurança jurídica, a transparência e o respeito aos direitos fundamentais, princípios basilares da atuação estatal. Este artigo analisa a visão dos tribunais sobre a utilização de chatbots no atendimento público, explorando as implicações legais, os precedentes jurisprudenciais e as diretrizes normativas que norteiam essa prática.

A Moldura Legal da IA no Atendimento Público

O arcabouço normativo que rege o uso de IA no Brasil, e que diretamente impacta a implementação de chatbots no setor público, está em constante evolução. A Lei Geral de Proteção de Dados (LGPD - Lei nº 13.709/2018) estabelece princípios fundamentais para o tratamento de dados pessoais, exigindo transparência, finalidade específica, minimização de dados e segurança, aspectos cruciais na interação entre o cidadão e o chatbot. O artigo 20 da LGPD garante o direito à revisão de decisões automatizadas, impondo a necessidade de mecanismos que permitam a intervenção humana em casos que afetem os direitos do titular.

A Lei do Governo Digital (Lei nº 14.129/2021) incentiva a adoção de tecnologias inovadoras na administração pública, buscando a eficiência e a melhoria na prestação de serviços. O artigo 4º, inciso I, da referida lei, destaca a importância da inovação e da modernização da gestão pública, princípios que encontram ressonância na implementação de chatbots. No entanto, o artigo 5º, inciso IV, da mesma lei, exige que a oferta de serviços públicos digitais observe a transparência, o controle social e a proteção de dados pessoais.

Mais recentemente, o Marco Legal da Inteligência Artificial (Lei nº 14.821/2024) consolidou princípios e diretrizes para o desenvolvimento e o uso da IA no Brasil, estabelecendo regras específicas para sistemas de IA de alto risco, categoria que pode englobar chatbots utilizados em contextos sensíveis do atendimento público. O artigo 15 do Marco Legal impõe a necessidade de avaliação de impacto algorítmico prévia à implementação de sistemas de IA de alto risco, exigindo transparência sobre os critérios de decisão e os potenciais impactos na sociedade.

A Visão dos Tribunais: Jurisprudência e Normativas

A jurisprudência brasileira ainda está se consolidando em relação ao uso de IA na administração pública, mas já é possível identificar algumas tendências e preocupações recorrentes. A principal questão enfrentada pelos tribunais diz respeito à responsabilidade civil do Estado por danos causados por falhas ou vieses em sistemas automatizados.

Em decisão recente, o Tribunal de Justiça do Estado de São Paulo (TJSP) condenou um município ao pagamento de indenização por danos morais a um cidadão que teve seu benefício assistencial negado indevidamente por um sistema automatizado, sem que houvesse a devida fundamentação ou a possibilidade de recurso humano. O acórdão enfatizou a necessidade de garantir a transparência e a revisabilidade das decisões automatizadas, em consonância com o artigo 20 da LGPD e os princípios da administração pública.

O Conselho Nacional de Justiça (CNJ), por meio da Resolução nº 332/2020, estabeleceu diretrizes para o desenvolvimento e a utilização de IA no Poder Judiciário. A resolução exige que os sistemas de IA sejam transparentes, explicáveis e auditáveis, garantindo a imparcialidade e a não discriminação. O artigo 12 da resolução determina que a utilização de IA não deve substituir a decisão judicial, mas sim atuar como ferramenta de apoio à atividade jurisdicional.

Essas diretrizes do CNJ, embora voltadas para o Poder Judiciário, servem como um importante referencial para a implementação de chatbots no atendimento público em geral, reforçando a necessidade de observar os princípios da transparência, da responsabilidade e do respeito aos direitos fundamentais.

Desafios Práticos e Recomendações

A implementação de chatbots no atendimento público exige planejamento cuidadoso e atenção a diversos aspectos práticos e legais. A seguir, apresentamos algumas recomendações para garantir a conformidade e a eficácia dessas ferramentas.

1. Transparência e Informação Adequada

É fundamental que o cidadão seja informado de forma clara e inequívoca de que está interagindo com um sistema de inteligência artificial. Essa informação deve ser apresentada logo no início da interação, de preferência em linguagem acessível e compreensível, em consonância com o princípio da transparência previsto na LGPD e no Marco Legal da Inteligência Artificial.

2. Direito à Revisão Humana

A possibilidade de revisão de decisões automatizadas, garantida pelo artigo 20 da LGPD, deve ser assegurada na prática. O cidadão deve ter a opção de solicitar a intervenção de um atendente humano em casos de discordância com a resposta ou decisão do chatbot. A transição para o atendimento humano deve ser ágil e eficiente, evitando frustrações e prejuízos ao usuário.

3. Proteção de Dados Pessoais

O tratamento de dados pessoais pelo chatbot deve observar estritamente os princípios e regras da LGPD. A coleta de dados deve ser minimizada ao estritamente necessário para o atendimento, e as informações devem ser armazenadas de forma segura e com controle de acesso rigoroso. O consentimento do cidadão para o tratamento de seus dados deve ser obtido de forma livre, informada e inequívoca, quando aplicável.

4. Mitigação de Vieses e Discriminação

Os sistemas de IA são suscetíveis a reproduzir e amplificar vieses e discriminações presentes nos dados utilizados para seu treinamento. É crucial que a administração pública adote medidas para identificar e mitigar esses vieses, garantindo que o chatbot ofereça um atendimento imparcial e igualitário a todos os cidadãos. Auditorias periódicas e avaliações de impacto algorítmico são ferramentas importantes nesse processo.

5. Avaliação de Impacto Algorítmico

Em conformidade com o Marco Legal da Inteligência Artificial, a implementação de chatbots que se enquadrem na categoria de alto risco deve ser precedida de uma avaliação de impacto algorítmico. Essa avaliação deve identificar os potenciais riscos e impactos da ferramenta na sociedade, propondo medidas de mitigação e garantindo a transparência sobre o funcionamento do sistema.

Conclusão

A utilização de chatbots no atendimento público representa uma oportunidade valiosa para a modernização e a eficiência da administração pública. No entanto, a adoção dessa tecnologia deve ser acompanhada de cautela e rigoroso respeito aos princípios legais e éticos que regem a atuação estatal. A transparência, a responsabilidade, a proteção de dados e a garantia do direito à revisão humana são elementos essenciais para assegurar que a IA atue em benefício do cidadão e não como um obstáculo ao acesso aos serviços públicos. A observância da legislação vigente e das diretrizes jurisprudenciais é fundamental para o sucesso e a legitimidade da implementação de chatbots no setor público.

Aviso: Este artigo tem caráter informativo e didático. Deve ser verificado e adaptado a cada caso concreto por profissional habilitado. Acesse minuta.tech para mais recursos.