El reciente caso que involucra fotos manipuladas con inteligencia artificial mostrando niñas desnudas, ha puesto en el foco de atención la problemática de los “deepfakes” sexuales, una práctica que puede constituir un delito y que, según expertos consultados por EFE, ha ganado popularidad gracias a nuevas herramientas tecnológicas al alcance de cualquier persona.
Los “deepfakes” son contenidos manipulados extremadamente realistas, ya sean vídeos, audios o imágenes, creados mediante técnicas de inteligencia artificial. Josep Albors, director de investigación y concienciación en Eset, señala que, si bien los “ultrafalsos” existen desde hace años, recientemente, estas herramientas están al alcance de cualquier usuario, lo que representa una amenaza significativa.
Eduardo Cruz, experto en ciberseguridad, destaca que los “deepfakes” suponen una grave amenaza, ya que pueden ser utilizados para diversos fines, desde fraudes y venganzas hasta ciberacoso. Además, señala que, a medida que la tecnología avanza, aumenta el riesgo de uso negativo, afectando no solo la imagen de las personas sino también generando impactos sociales y psicológicos irremediables.
El informe “State of deepfakes 2023” de Home Security revela que el 98% de las imágenes falsas en internet son de carácter sexual, y entre 2022 y 2023, los vídeos pornográficos manipulados con inteligencia artificial aumentaron un 464%.
El 99% del contenido “fake” pornográfico compromete al género femenino, afectando el derecho a la propia imagen y teniendo efectos psicológicos significativos. Cristina Pujol, profesora de Ciencias de la Información y de la Comunicación en la Universitat Oberta de Catalunya, advierte sobre el impacto en la dignidad de las mujeres que se ven convertidas en objetos de consumo pornográfico.
La preocupación se intensifica cuando se trata de “deepfakes” que involucran a menores, como en el caso de Almendralejo. Eduardo Cruz destaca que técnicamente, hacer un “deepfake” es fácil, y cualquiera con acceso a las herramientas puede crear contenidos manipulados. Según el estudio de Home Security, se puede crear un “deepfake” sexual de unos 60 segundos en menos de 25 minutos y sin costo alguno, utilizando solo una foto del rostro de alguien.
El acceso cada vez mayor a estas tecnologías por parte de los jóvenes, considerados nativos digitales, plantea desafíos adicionales. Aunque resulta complicado dar un perfil del creador de “deepfakes”, se advierte que la educación sobre el uso responsable de la tecnología y las redes sociales es esencial. El informe concluye que, aunque se están desarrollando mecanismos basados en inteligencia artificial para detectar “deepfakes”, la clave para hacerles frente radica en la educación y el uso responsable de la tecnología. Además, se insta a no compartir este tipo de contenidos y a denunciar cualquier situación que comprometa la privacidad y dignidad de las personas afectadas.
