ALGORITMOS E A CONSTANTE MANIPULAÇÃO DE VONTADES

Abstract

Como objetivo, essa pesquisa busca explorar os limites, benefícios e dificuldades do uso da tecnologia e sua inserção nas relações sociais e, como consequência, os impactos trazidos para os direitos fundamentais dos cidadãos e do ordenamento jurídico como um todo. O historiador, professor e escritor Yuval Noah Harari, em seu livro “21 lições para o Século XXI” discorre sobre como nunca fazemos escolhas totalmente livres e sempre seremos manipulados de alguma forma. Um exemplo é o rastreio (que já se tornou usual) de nossos caminhos pelas redes. Sem saber, aquilo que vemos, curtimos e interagimos são condicionados antes mesmo de aparecer. Entretanto, com o passar do tempo, seremos cada vez mais vistos pelos nossos dispositivos, algoritmos e em tudo que fazemos. Como já previu George Orwell, o Grande Irmão já pode estar sendo formado. Tendo isso em vista, não podemos esquecer de que por trás de um algoritmo, sempre haverá um ser humano, mesmo que seja uma ferramenta impessoal. Mas, então, sendo todas as pessoas iguais, quais os deveres e direitos dessa pessoa que pode, em regra, criar um sistema de rastreio e condicionamento, restringindo nossa liberdade e privacidade, ou seja, nossos direitos fundamentais? A fim de ilustrar o problema, o documentário “Coded Bias” traz, com clareza, como a inteligência artificial (IA), nova ferramenta que está sendo amplamente incrementada na sociedade, pode gerar discriminações pelo meio como utiliza e forma sua base de dados. A pesquisadora do Massachusetts Institute of Technology – MIT, Joy Buolamwini, descreve como descobriu os vieses em algoritmos das tecnologias de reconhecimento facial. Explica como pode se tornar comum, como vem ocorrendo, o uso dessas tecnologias sem que as pessoas submetidas saibam como seus dados são utilizados, como são processados e como elas são rastreadas, indesejavelmente. Como o algoritmo aprende por meio da base de dados que é fornecido pela nossa sociedade e padrões de comportamento, explica, tendo em vista a sociedade machista, homofóbica e preconceituosa em que vivemos, as IA’s tendem a se tornar um reflexo disso. Desse modo, o tão esperado progresso que seria alcançado com seu uso será revertido em regresso. Porém, não há qualquer regulamentação ou lei que disponha sobre essas questões, ou até como as pessoas devem ser avisadas do uso dos algoritmos e como são rastreadas, diariamente. Inclusive, os próprios criadores das IA’s não conseguem descrever seu processo de discriminação e classificação de dados, que podem ser abusivos. Entretanto, se chegar a esse ponto, não há como questionar ou reclamar, já que não há nenhuma proteção àqueles que estão sujeitos aos algoritmos. Desse modo, é aqui, principalmente, que os direitos fundamentais são desrespeitados ou até anulados. Por isso, a regulamentação desse tipo de ferramenta é imprescindível, tanto para proteger aqueles que já estão sendo submetidos a esse tipo de tecnologia, quanto para evitar maiores e grandes violações aos direitos humanos de toda a sociedade, o que poderia gerar a um controle total. Afinal, também temos o direito de escolher até que ponto desejamos ser observados.