La protección de la dignidad, la intimidad y la propia imagen frente a los deepfakes

Resumo

Durante los últimos años, el avance de las tecnologías ha transformado radicalmente múltiples aspectos de la vida cotidiana, facilitando innovaciones en campos tan diversos como la medicina, la educación, la comunicación o el entretenimiento. La rápida evolución tecnológica ha traído consigo beneficios incontestables, mejorando en muchas ocasiones nuestra calidad de vida, pero también ha planteado nuevos desafíos y riesgos, especialmente en el ámbito de la privacidad y la seguridad.

La reciente llegada de la Inteligencia Artificial (en adelante IA) ha supuesto uno de los desarrollos más significativos de esta nueva era digital. Esta tecnología, capaz de aprender y actuar de manera independiente ha permitido la automatización de procesos complejos, la mejora en la toma de decisiones y la creación de contenido digital altamente sofisticado. No obstante, esta tecnología también está generando desafíos éticos y legales considerables, especialmente en lo que respecta a la generación de contenido pornográfico o sexual digital extremadamente realista, como es el caso de los denominados deepfakes pornográficos. Nos referimos a videos e imágenes manipulados o creados íntegramente mediante IA, que pueden ser utilizados para difundir material sexualmente explícito sin el consentimiento de las personas involucradas.

En el ámbito de los Derechos Humanos, la generación de videos e imágenes de contenido sexual generado por IA plantea un problema de extrema gravedad, puesto que, con estas herramientas, personas, mayores y menores de edad, que no han prestado su consentimiento, se podrían ver involucrados en imágenes o videos de contenido sexualmente explícito para su posterior difusión, lo que constituye una violación flagrante de la dignidad, y de los derechos a la intimidad personal y a la propia imagen de los mismos. De hecho, ya existen varios casos en todo el mundo donde este tipo de comportamientos ya son una realidad.

Debe tenerse en cuenta que la propagación viral de estos contenidos en Internet, sumada a la capacidad de replicación y re-subida constante a diferentes plataformas, hace que la erradicación total de estos materiales sea una tarea extremadamente compleja, una vez que se ha subido por primera y única vez contenido de estas características. Esta dificultad no solo perpetúa el daño emocional y psicológico a las víctimas, sino que también expone continuamente su privacidad a nuevos públicos, agravando el impacto a la dignidad de la persona, a su intimidad y a su propia imagen.

Por tanto, la justificación de este trabajo radica en la urgente necesidad de garantizar la tutela efectiva de los derechos humanos y la dignidad de todas las personas, especialmente los menores, frente a los riesgos y daños derivados de estas nuevas tecnologías de IA generativa. De esta forma, analizaremos cuáles son precisamente las conductas de dichos derechos para, seguidamente, identificar los principales riesgos y desafíos legales actuales, y proponer reformas legislativas que fortalezcan la protección de la libertad e indemnidad sexuales en la era digital.