PERSPECTIVA DE GÊNERO E DISCRIMINAÇÃO POR ALGORITMOS

Abstract

Inúmeras pesquisas têm demonstrado o risco de resultados discriminatórios provenientes de decisões automatizadas e que nos faltam parâmetros de atuação para impedi-los. O mecanismo de decisão utiliza base de dados que têm acesso a informações que contém informações de gênero, raça e histórico pessoal e o que se tem percebido é que mecanismos de decisões automatizadas têm aprendido com base em preconceitos e desigualdades que estruturam a sociedade e tendem a reproduzir estereótipos. A discriminação de gênero é uma dessas questões estruturais e, nesse sentido, impacta todos os âmbitos da realidade da mulher. Não se trata apenas de personalizar propagandas para o público feminino. As decisões por algoritmos têm decidido quem tem acesso aos informes de vagas de emprego, quem está alinhado ao perfil de bom funcionário, quanto se paga por um seguro de carro e quão bom é um score de crédito. Se um juiz utilizasse o critério de gênero para decidir nesses casos, uma decisão que excluísse mulheres certamente seria apontada como um ato discriminatório. Quando se está lidando com decisões automatizadas, existe um mito de neutralidade que precisa ser superado. Nesse contexto, a análise que antecede uma decisão de impacto na vida de um indivíduo deve incluir a perspectiva de gênero, seja ela tomada por um ser humano ou por uma máquina. Esta pesquisa tem o objetivo de apontar as causas pelas quais ocorre a discriminação algorítmica de gênero e, nesse sentido, discutir como incluir a perspectiva de gênero nesse contexto decisório. A metodologia utilizada baseou-se na pesquisa exploratória, a partir do método hipotético-dedutivo e com técnica de pesquisa bibliográfica. Os resultados parciais demonstram que há três problemas centrais: pouca representatividade de mulheres no cenário tecnológico, a utilização de bancos de dados históricos de maneira acrítica e sem diversidade, bem como a falta de compatibilização dos ideais de justiça entre o meio jurídico e tecnológico. A partir dessas percepções, é possível pensar nas decisões automatizadas como instrumento de justiça no combate à discriminação, a partir da inclusão da perspectiva de gênero.