DISCRIMINAÇÃO EM TEMPOS DE INTELIGÊNCIA ARTIFICIAL

Abstract

O objetivo desse artigo é refletir sobre os avanços tecnológicos relacionados à inteligência artificial (IA), também conhecida como algoritmos ou big data, enquanto um desdobramento do direito fundamental e social de como estas tecnologias têm constituído novos instrumentos de reprodução de desigualdades sociais de gênero, raça, capacitismo, entre outros, dando origem à prática de discriminação algorítmica, bem como demonstrar que práticas discriminatórias estão presentes, ainda, em relações de consumo, configurando dois principais tipos: geoblocking e geopricing. Discutimos, com base nos aportes teóricos de Adilson José Moreira O que é discriminação? (2017), como partida para refletir sobre o que é discriminação do ponto de vista jurídico, passando pela definição de discriminação algorítmica em relações de consumo. Ao fim, mencionamos brevemente o caso de geopricing e geoblocking. O desenvolvimento tecnológico possibilitou o surgimento de diversas ferramentas capazes de tornar diversos processos do cotidiano mais eficazes, e uma delas é o algoritmo (também chamado de big data ou inteligência artificial - IA). Os recentes debates em torno da temática têm demonstrado que o algoritmo não é, em si, enviesado, mas existem obscuridades em torno de seu funcionamento e aplicação que levantam à necessidade de discutir as melhores formas de empregá-lo e os contornos jurídicos de sua utilização, a fim de assegurar a igualdade e transparência. As questões aqui mencionadas ilustram aspectos importantes que devem ser considerados juntamente aos contornos jurídicos e legais para o uso de algoritmos, a fim de evitar que discriminações sociais sejam indefinidamente perpetradas em detrimento de grupos minoritários e estigmatizadas em nossa sociedade. Para tanto, realizamos uma pesquisa de caráter exploratório, a partir da coleta de dados sobre discriminação algorítmica em relações de consumo, comumente nas formas e práticas de geopricing e do geodiscriminação que violam a igualdade na contratação, embora não exista uma legislação específica em torno destas práticas, o Código de Defesa do Consumidor aliado aos aportes teóricos de Moreira (2017) em torno do princípio a não discriminação e igualdade podem – e devem - servir de importante arcabouço normativo para lidar com a temática. Nosso objetivo foi refletir, sem pretensão de exaustão do tema, sobre alguns dos principais tópicos envolvendo discriminação algorítmica, notadamente nas relações de consumo, quando assume a forma de geodiscriminação (geoblocking e geopricing). Por fim, destacamos a importância da transparência dos processos deliberativos realizados por algoritmos, bem como dos critérios utilizados para fundamentais tais decisões. O método utilizado é hipotético-dedutivo e baseou-se na revisão bibliográfica sobre direitos e avanços tecnológicos relacionados à inteligência artificial. Pesquisa realizada com apoio da Coordenação de Aperfeiçoamento de Pessoal de Nível Superior - Brasil (CAPES) - Código de Financiamento 001.