IA, DIREITOS HUMANOS E POLÍTICAS FAMILIARES

Resumo

Nas últimas décadas, vivenciamos o grande desenvolvimento das tecnologias de informação e da internet trazendo novas e importantes ferramentas de trabalho, comunicação e interação. Nessa era atual da tecnologia, a inteligência artificial (IA) é uma das áreas mais fascinantes e promissoras sendo aplicada em áreas como a tomada de decisão e planejamento, pesquisa científica e inovação, automação de processos, jogos e entretenimento, robótica, arte e criatividade etc. De um lado, temos as facilidades e benefícios trazidos pela era digital. De outro, nos deparamos com os riscos aos quais todos nós estamos sujeitos, em especial as crianças e adolescentes que, embora tenham facilidade para manusear os equipamentos eletrônicos, encontram-se vulneráveis e têm se tornado alvos de crimes cibernéticos como, por exemplo, a pornografia artificial. As deepfakes são imagens, áudios e vídeos manipulados através da IA. Tais programas estão facilmente disponíveis e, embora existam para fins legítimos, têm sido utilizados em larga escala para a produção de pornografia infanto-juvenil. Entre os adolescentes, cresce, assustadoramente, a pornografia artificial. Segundo pesquisa realizada pela Home Security Heroes, 98% dos vídeos deepfakes identificados em 2023 são pornográficos. Conforme dados do Instituto de Pesquisa em Direito e Tecnologia de Recife (IP.rec), grande parte das deepfakes no Brasil acontecem no ambiente escolar e são geradas por adolescentes. Muitos são os casos noticiados em que adolescentes manipularam fotos de suas colegas expondo-as (deepnudes). Em alguns casos, as imagens manipuladas chegaram a ser comercializadas para sites pornográficos. A proposta do presente trabalho é fazer uma reflexão acerca do uso inadequado da IA por adolescentes na produção de deepfakes pornagráficas, suas consequências e como as políticas familiares podem contribuir para a formação da cidadania digital, tendo como cerne a dignidade da pessoa humana. A pesquisa possui uma abordagem qualitativa por meio de análise de conteúdo dos dados coletados. Com objetivo exploratório, busca uma maior familiaridade e compreensão do objeto. Os dados quantitativos encontrados auxiliaram na análise do uso da IA para a produção de “nudes falsos” por adolescentes. O diálogo do Direito com as Ciências Sociais ampliou a visão investigativa e permitiu uma melhor compreensão do objeto em análise. A escalada das deepfakes pornográficas no ambiente escolar tem assustado os pais, o corpo docente escolar e os próprios alunos. Os impactos desse abuso digital para as vítimas alcança uma proporção imensurável no âmbito da saúde física e mental impactando, ainda, na família e na vida social. Muitas também são as consequências para aqueles que praticam essa violência. Embora seja produzida por menores de idade, há implicações criminais e a possibilidade de sanções no âmbito administrativo escolar, além de repercussões na vida pessoal e familiar. Frente aos danos mencionados, tanto para a vítima quanto para o agressor, especialistas sugerem a inserção do tema nas políticas de educação, saúde e familiar em especial. Ações voltadas apenas para o moralismo, banimento, prisão etc. são muito pouco produtivas. Intervenções com caráter preventivo que envolvem os pais apresentam impacto nove vezes maior que aquelas direcionadas apenas às crianças e aos adolescentes.