O USO DE SISTEMAS DE INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES EM POLÍTICAS PÚBLICAS E OS RISCOS AOS DIREITOS FUNDAMENTAIS

Resumo

Quando nos referimos às Políticas Públicas, o Poder Público, principalmente o Poder Executivo, possui um papel central na definição e implementação dos programas e ações que visam a garantia dos direitos fundamentais da sociedade. Para a concretização de tais objetivos, a coleta de dados pessoais se torna imprescindível para a Administração Pública, que exige de seus titulares a exposição constante e crescente de suas informações pessoais para fins da execução de políticas públicas. Essas informações, quando conectadas e analisadas por meio da inteligência artificial (IA), fornecem uma melhor compreensão dos espaços e dos serviços públicos, permitindo aos gestores não só realizar políticas que atendam às necessidades sociais com maior conhecimento de causa, como também prever cenários futuros e avaliar a sua eficiência após a implementação, possibilitando ao Poder Público uma tomada de decisão mais informada, inteligente e, portanto, uma gestão pública mais eficiente. No entanto, o conjunto de informações obtidas por meio do tratamento massivo de dados pessoais - mesmo que anonimizadas - passam a produzir correlações que podem afetar grupos inteiros de indivíduos, colocando em risco a possibilidade de perpetuar desigualdades e preconceitos na sociedade. Nos últimos anos, a Administração Pública brasileira tem experimentado uma crescente adoção de tecnologias digitais para a gestão de políticas públicas, incluindo a inteligência artificial. Como resultado, várias situações em que decisões tomadas com uso de IA causaram danos a grupos específicos foram identificadas, sendo frequentes as citações de casos envolvendo o uso de reconhecimento facial em segurança pública, apoio à elaboração de sentenças judiciais, orientação a tratamentos de saúde, entre outros. Apesar do avançado progresso observado em diversos projetos de lei que buscam estabelecer os fundamentos, princípios e diretrizes para o desenvolvimento e aplicação da IA, a compreensão das normas e limitações que regem a utilização de dados com vistas a objetivos de interesse público assume um papel de grande importância, não apenas em termos de pertinência e atualidade, mas também como uma questão fundamental e indispensável. Estamos diante de um direito que ainda está em processo de construção no contexto brasileiro. Portanto, é evidente a importância de promover discussões com o objetivo de encontrar soluções seguras e práticas para enfrentar os desafios emergentes na era atual de governos altamente interconectados e voltados para o ambiente digital. Contudo, a hipótese sob a qual se elabora o trabalho é a de que a falta de uma estrutura jurídica-regulatória sobre o uso de IA pelo Poder Público, especialmente no processo de tomada de decisões em Políticas Públicas, oferece riscos à proteção dos Direitos Humanos. Para tanto, o estudo fará uso da pesquisa exploratória e do procedimento de análise documental e bibliográfica. A pesquisa espera obter como resultado a verificação da hipótese formulada e uma ampliação do campo de questionamentos jurídico-prospectivos acerca do uso de sistemas de Inteligência Artificial pelo Poder Executivo.