ESPELHO DA SOCIEDADE

A PERPETUAÇÃO DA DESIGUALDADE DE GÊNERO PELOS ALGORITMOS DE INTELIGÊNCIA ARTIFICIAL

Abstract

A inteligência artificial (IA) tem sido utilizada em diversos âmbitos, inclusive o jurídico, e é inegável a relevância para a atualidade, haja vista o poder de impactar direta e indiretamente a vida dos cidadãos, seja por meio do reconhecimento facial utilizado em aeroportos ou das pesquisas no Chat Gpt. Os sistemas de inteligência artificial utilizam algoritmos criados por programadores e representam complexidades do mundo real, sendo que os criadores selecionam quais informações são relevantes o suficiente para serem inseridas, restando alguns pontos cegos. A inteligência artificial generativa, por exemplo, é fundada no treinamento que a possibilita realizar diversas atividades ao mesmo tempo a fim de apresentar uma resposta. Os dados inseridos nos sistemas são de extrema relevância e possuem o condão de impactar nos resultados, gerando tratamento desigual entre dois grupos, sem justificativa, o que é chamado de viés algorítmico, conforme definição da Comissão Australiana de Direitos Humanos. Os sistemas de inteligência artificial são alimentados por humanos, o que contribui para a reprodução de discriminação de raça, classe e gênero. O sistema COMPAS utilizado nos Estados Unidos reproduz racismo ao classificar homens negros como mais propensos a reincidirem criminalmente. Os sistemas de reconhecimento facial tecnológico utilizados para identificar pessoas foragidas não são capazes de distinguir rostos negros, classificando pessoas diferentes como as mesmas, reproduzindo racismo e violência não apenas institucionais, como praticados pelo Estado. As mulheres, de modo geral, também são afetadas pela reprodução de vieses algorítmicos, para além das discriminações enfrentadas na sociedade. O sistema de reprodução do Spotify beneficia artistas homens em detrimento de mulheres e o sistema de seleção de currículos da Amazon prioriza homens, reproduzindo discriminação de gênero. Não é apenas na Amazon que a automatização de seleção de currículos reproduz discriminação de gênero, mas em diversas empresas que utilizam sistemas de inteligência artificial de classificação para seleção de candidaturas. Além disso, a inteligência artificial generativa possui enorme papel na perpetuação da discriminação de gênero, a exemplo do Chat gpt, de acordo com a Unesco. Nesse contexto, este artigo objetiva identificar como os algoritmos de inteligência artificial reproduzem discriminação de gênero e analisar estudos de caso em que houve reprodução dessa discriminação, a exemplo dos sistemas utilizados pelo Spotify, pela Amazon e pelo Chat gpt. O artigo também se digna a apresentar medidas de mitigação da reprodução de vieses algorítmicos de gênero, a fim de diminuir os padrões discriminatórios perpetuados na sociedade, inclusive pelas máquinas. Para chegar às conclusões, a metodologia utilizada foi de revisão bibliográfica de diversos autores que tratam de inteligência artificial, viés algoritmo e discriminação de gênero, assim como de estudos de casos. Como resultado da pesquisa foi possível comprovar que os sistemas utilizados reproduzem discriminação de gênero e impactam negativamente as mulheres preteridas em razão dos sistemas. Concluiu-se pela necessidade de adoção de medidas por programadores para evitar a disseminação de discriminação de gênero também na inteligência artificial, especialmente no que diz respeito à adoção de práticas antidiscriminatórias no uso da IA generativa.