DISCRIMINAÇÃO ALGORÍTMICA E TRANSIÇÃO JUSTA

UM DIÁLOGO NECESSÁRIO

Abstract

Entender que o ser humano tem sempre um ponto de partida para compreender a realidade - possui  background familiar, religioso, moral, ético etc. - é essencial para se refletir sobre a criação e o manejo das tecnologias disruptivas, especialmente os algoritmos e a Inteligência Artificial - IA, no marco do respeito e da promoção dos Direitos Humanos, reconhecendo que a avaliação e o aperfeiçoamento constantes dessas ferramentas são imprescindíveis. É um equívoco acreditar que minimizar a participação humana em processos decisórios diminui a margem de erro de qualquer atividade, pois a potência de causar dano, em especial o potencial de violar direitos humanos, está em ações irrefletidas e acríticas, o que tem sido comumente visto quando da defesa do uso de algoritmos e da IA, diante da não reflexão sobre os viéses inerentes ao seu processo de desenvolvimento e na sua utilização. A indústria tecnológica é controlada por determinados grupos sociais hegemônicos, o que aponta para a presença de enviesamentos, típicos de nichos pouco diversos. Desta forma, não surpreende que a IA não tenha sido desenvolvida sob a perspectiva de gênero, e, desta forma, tem apontado para o aprofundamento de desigualdades históricas (como a divisão sexual do trabalho, o pay gap etc.). Ressalte-se que não só o setor privado, mas também o público, devem prevenir, bem como mitigar os riscos da discriminação, garantindo mecanismos que permitam acesso a soluções eficazes para evitar os riscos colocados pelas tecnologias e aprendizagem automática. É imprescindível um esforço consciente da sociedade para se quebrar a perpetuação de padrões que estereotipam e, como consequência, subalternizam determinados grupos sociais, como as mulheres. Não há uma fórmula única e exitosa para resolver problemas ou compreender a realidade, especialmente, no cenário da Quarta Revolução Industrial, em que nada está fora de um contexto tecnológico. À medida que sistemas de aprendizagem automática avançam, deve-se examinar o impacto desta tecnologia nos direitos humanos. O trabalho constante de desenvolver, aplicar, testar e corrigir os sistemas deve ser a regra, até mesmo porque esses sistemas não são engessados, podendo (e devendo) ser revistos. Um caminho que também parece razoável é maximizar a o ingresso das mulheres nas graduações STEMs, criar meios de mantê-las nesse nicho, qualificando-as para que ocupem cada vez mais espaços nesse setor, a fim de que a paridade de gênero seja um dos passos iniciais para se minimizar práticas discriminatórias. Ao mesmo tempo, marcos normativos e conceituais precisam ser criados e consolidados para enfrentar a discriminação algorítmica que já existe, pois é fundamental para tornar o desenvolvimento das novas tecnologias, especialmente da IA, igualitário, inclusivo e democrático.