DISCRIMINAÇÃO ALGORÍTMICA NO BRASIL

DESAFIOS AOS DIREITOS HUMANOS E À IGUALDADE DE GÊNERO NA ERA DA INTELIGÊNCIA ARTIFICIAL

Resumo

A discriminação é um fenômeno histórico onde diversos grupos foram marginalizados por questões relativas à raça, etnia, religião, gênero e condição social. Apesar de ser desumano, esse comportamento persistiu ao longo das gerações, sendo agora potencializado pela tecnologia. Máquinas e algoritmos de inteligência artificial (IA) têm reproduzido e até ampliado esses preconceitos, criando um problema significativo na sociedade moderna; especialmente no contexto brasileiro, considerando as complexidades socioeconômicas do país. A discriminação algorítmica impacta várias áreas sociais, incluindo trabalho, economia, educação e política, violando direitos protegidos pela Constituição Federal do Brasil. O presente estudo se propõe a discutir esses impactos em três seções: direitos humanos e discriminação de gênero; discriminação algorítmica; e responsabilidade civil. Ele explora a responsabilidade pelos danos causados por IA, especialmente em relação à discriminação de gênero no ambiente laboral. A pesquisa usa um método hipotético-dedutivo para examinar a autonomia dos robôs versus a responsabilidade de seus criadores, com foco na discriminação algorítmica, que é um problema emergente e de grande relevância social. O uso de algoritmos enviesados, oriundos de bases de dados pautadas em desigualdades históricas, pode perpetuar preconceitos em diversos setores, levantando questões sobre quem deve ser responsabilizado: os criadores dos algoritmos ou os próprios algoritmos. No Brasil, o Projeto de Lei 21/2020 busca regular o uso da inteligência artificial, mas ainda não há uma legislação clara sobre a responsabilidade dos algoritmos. Atualmente, a responsabilidade recai sobre os criadores dos algoritmos. No entanto, há debates sobre o reconhecimento da personalidade jurídica dos algoritmos, o que implicaria responsabilidades e direitos patrimoniais, além de uma necessidade de administradores para gerenciar essa personalidade jurídica. Concluindo, a pesquisa destaca a importância de respeitar a dignidade humana e os direitos humanos, independentemente do gênero, e sugere que, além de um esforço colaborativo entre o Governo e Sociedade Civil, uma legislação específica pode ser necessária para lidar com a discriminação algorítmica e suas implicações.