PROFILING E DISCRIMINAÇÃO ALGORÍTMICA

Resumo

A tecnologia gerou profundas transformações na sociedade que refletem, inclusive, no surgimento de novos modelos de negócios que estão potencializando a cultura baseada em dados. Indubitavelmente, a Inteligência Artificial e os algoritmos vêm assumindo grande importância neste cenário, nas mais diversas tarefas rotineiras dos indivíduos, se entranhando em todos os aspectos de sua vida. Toda essa tecnologia e conectividade demandam para o seu funcionamento um ininterrupto fluxo informacional, com quantidades cada vez maiores de dados. Assim, a tecnologia da informação, progride incessantemente no sentido de possibilitar formas cada vez mais complexas de processamento de dados. Com efeito, alguns pontos nevrálgicos na problemática da proteção de dados devem ser destacados, tais como: dados que se avolumam e que são direcionados para abastecer gigantes indústrias, a possibilidade que os dados pessoais proporcionam de influenciar decisivamente nas escolhas dos indivíduos ou no processo de recrutamento e seleção de candidatos, como por exemplo, na fase de triagem, na qual são utilizados dados de desempenho e rotatividade para recomendar ou não a contratação de determinado candidato ou ainda aplicando técnicas de leitura automática de currículos para realizar o ranqueamento dos candidatos. Neste contexto, ganha destaque a discussão acerca da utilização de dados pessoais para profiling ou perfilamento, no qual é utilizado Inteligência Artificial para analisar um elevado volume de dados para se estabelecer padrões comportamentais e, por conseguinte a definição de perfis. O estereótipo elaborado por meio desta técnica pode ser utilizado como base para a tomada de importantes decisões e, quanto mais intrusiva for a prática, adentrando em hábitos estritamente particulares e sensíveis dos titulares de dados, como os relativos às preferências sexuais ou biométricos, maiores serão os riscos de se causar danos aos indivíduos. Para além de um viés exclusivamente econômico, é evidente que este fenômeno gera repercussões nas esferas individuais dos cidadãos, afetando diretamente a vida do titular de dados pessoais e influenciando o seu acesso a oportunidades sociais, podendo inclusive ferir seus direitos fundamentais à privacidade, à liberdade e à intimidade. Desta forma, surgem questionamentos de natureza ética e jurídica à medida que novas aplicações ocorrem, trazendo à baila discussões sobre situações em que podem ocorrer discriminação algorítmica pela cor, idade ou gênero, por exemplo. Além disso, ante às maquinações dos algoritmos e das tecnologias que tratam dados, questiona-se sobre a capacidade, ou não, de o indivíduo autodeterminar-se. Resta evidente que a utilização de Inteligência Artificial deve garantir a segurança jurídica, afastando-se tendências e viés discriminatório. Sendo assim, o presente estudo investigará se há proteção jurídica no caso de detecção de viés discriminatório ou tóxico do algoritmo no profiling ante a “hipervulnerabilidade” do titular de dados pessoais, com especial análise da Lei n° 13.709/2018 - Lei Geral de Proteção de Dados, da Portaria GM n° 4.617 de abril de 2021, que instituiu a Estratégia Brasileira de Inteligência Artificial e do Projeto de Lei nº 21/2020, que propõe a criação do marco legal do desenvolvimento e uso da Inteligência Artificial pelo poder público, por empresas, entidades diversas e pessoas físicas.