OS IMPACTOS DA ALGORITMIZAÇÃO DAS FUNÇÕES PÚBLICAS

AS IMPLICAÇÕES PARA OS DIREITOS HUMANOS E O ESTADO DE DIREITO

Abstract

O avanço da análise de dados, das capacidades informáticas e dos métodos de aprendizagem automática resultou na delegação de poder às máquinas em todas as divisões do governo para a execução de tarefas públicas, incluindo a assistência social, a aplicação da lei e, principalmente, os tribunais judiciais. Algoritmos estatísticos altamente complexos, juntamente com ferramentas de inteligência artificial, tomam decisões de forma automatizada, influenciando significativamente os direitos e deveres dos indivíduos. Disputas cercam a natureza não transparente desses sistemas, que podem levar a preconceitos não intencionais e impactos negativos em populações sub-representadas, gerando consequências jurídicas, sociais e éticas de longo alcance. Um exemplo notável é o caso Estado versus Loomis, ocorrido recentemente nos EUA, que demonstra como a delegação indiscriminada pode ameaçar os direitos humanos básicos e princípios como o Estado de direito. Este artigo investiga as complexidades da “caixa preta legal” e da “caixa preta técnica”, simbolizando componentes ocultos nas funções governamentais. Esses componentes revelam os riscos que uma algoritmização descontrolada representa para o devido processo, a igualdade de proteção e a transparência. Além disso, são examinadas algumas propostas de governança para aumentar a responsabilização nas decisões facilitadas pela IA. Dado que os sistemas de IA são utilizados em diversos contextos jurisdicionais consequenciais, são necessários modelos de governança tecnologicamente informados. O objetivo não é a aceitação cega ou a rejeição completa desses sistemas, mas encontrar designs institucionais ideais que equilibrem os benefícios e os custos da algoritmização.