¿Cómo proteger y educar a niños, niñas y adolescentes ante los ‘deepfake’ sexuales?

No es necesario ser una persona experta en informática para crear un contenido sexual falso mediante herramientas de inteligencia artificial. Basta una búsqueda sencilla en redes sociales o en cualquier motor de búsqueda para encontrar aplicaciones y tutoriales donde se explica, paso a paso y con todo lujo de detalles, cómo crear imágenes, vídeos o audios sexuales falsos.

La popularización de la inteligencia artificial ha convertido lo que antes era una práctica marginal en un fenómeno cada vez más extendido y con un impacto muy negativo en las personas que son objeto de ello. Los contenidos sexuales falsificados son una nueva forma de violencia digital que puede dañar gravemente la reputación y privacidad de las víctimas además de vulnerar su derecho al control de su propia imagen.

Tipo de falsificaciones sexuales

Los deepfakes sexuales, también conocidos como ultrafalsificaciones sexuales, son imágenes, vídeos o audios manipulados con herramientas de inteligencia artificial que muestran a una persona en situaciones eróticas o sexuales. Su gran capacidad para imitar la realidad hace que, a simple vista, resulten difíciles de distinguir de un contenido auténtico, aunque la persona representada nunca ha participado en estas escenas ni ha autorizado su creación.

Algunas manipulaciones son tan sutiles que pasan inadvertidas (por ejemplo, acortar una falda o aumentar el escote de una camiseta), mientras que otras recrean escenas sexuales extremadamente explícitas. A falta de una clasificación universalmente aceptada, los informes especializados distinguen los siguientes tipos:

1. Imágenes sugerentes o sexualizadas: alteraciones digitales que buscan sexualizar la imagen de una persona sin llegar necesariamente a mostrar un desnudo explícito.

2. Besos falsos: vídeos que hacen creer que dos personas se besan en la boca cuando, en realidad, esta situación nunca ha ocurrido.

3. Audios falsos (deepvoices): grabaciones generadas o manipuladas mediante inteligencia artificial que imitan la voz de una persona para atribuirle comentarios de carácter sexual que nunca ha realizado.

4. Desnudos artificiales (deepnudes): imágenes que se crean a partir de fotografías ordinarias. La inteligencia artificial predice cómo sería el cuerpo desnudo de la persona representada y genera una imagen completamente ficticia.

5. Intercambio de rostros (face swap): superponer la cara de una persona (obtenida de una fotografía ordinaria) sobre el cuerpo de otra que aparece en imágenes o vídeos sexuales preexistentes.

6. Creación de vídeos sexuales desde cero: en estos casos, no se parte necesariamente de una fotografía concreta de la víctima, sino que la inteligencia artificial genera una persona o una escena completa a partir de grandes volúmenes de datos de entrenamiento.

Leer más: Mi cuerpo, mi imagen, mi elección: cómo identificar y actuar ante un ‘deepfake’ sexual

Cada vez hay más

Gran parte de los deepfakes sexuales se difunden en canales privados o plataformas difíciles de rastrear y, además, muchas víctimas nunca llegan a oficializar una denuncia ante las autoridades competentes, por lo que es difícil saber cuántas personas han sido víctimas de ellos.

Aún así, algunas investigaciones especializadas concluyen que los deepfakes sexuales están aumentando de forma exponencial. Por ejemplo, un informe de Security Hero estimó que el 98 % de los vídeos deepfake que circulan en internet tienen carácter sexual y afectan principalmente a mujeres.

En España también comienzan a conocerse datos relativamente alarmantes. En un estudio del Centro Reina Sofía y FAD Joventut, realizado con jóvenes entre 16 y 29 años, alrededor de una de cada diez personas encuestadas reconocía haber creado un deepfake o sabía de alguna persona de su entorno inmediato que lo había hecho.

Contenido falso, pero no inocuo

Uno de los errores más frecuentes es pensar que, al tratarse de imágenes o vídeos falsos, el perjuicio es prácticamente inexistente. Sin embargo, el impacto no depende de la autenticidad del contenido en sí, sino de la vulneración que implica utilizar un rostro para recrear una escena sexual sin el consentimiento explícito de la persona representada.

La difusión de estos contenidos puede derivar en situaciones de aislamiento y convertir a la víctima en objeto de bromas, rumores o acoso.

Leer más: ¿Qué pasa con la igualdad en el contexto digital?

Prevenir tanto la victimización como el uso

La rapidez con la que evoluciona la inteligencia artificial hace necesario impulsar acciones educativas desde edades tempranas. Sin embargo, preparar al alumnado no es suficiente si el profesorado no dispone de los conocimientos y herramientas necesarios para afrontar este fenómeno.

Aún hoy, muchos docentes manifiestan inseguridad ante la posibilidad de abordar los deepfakes sexuales en el aula, bien porque consideran que no tienen formación suficiente, bien porque temen generar controversia con las familias o despertar el interés del alumnado por estas prácticas.

Cuando este tema sí se aborda, se suele limitar a consignas como “no envíe fotos” o “utilice menos el móvil”, que son completamente insuficientes. El reto educativo es mucho más profundo y exige desarrollar competencias relacionadas con la empatía, el consentimiento, la privacidad digital y la responsabilidad.

En esta línea, nuestro equipo de investigación está desarrollando y evaluando la efectividad de un programa formativo para docentes de primaria. La experiencia acumulada nos permite realizar algunas recomendaciones:

1. Ayudar al alumnado a comprender las consecuencias que puede tener manipular la imagen de otra persona. Actividades como la creación de campañas de sensibilización o el análisis de casos reales, como el de Almendralejo (Badajoz) o difundir contenidos sexuales falsos no es una broma, sino una forma de violencia digital.

2. Trabajar la empatía. En nuestro programa utilizamos dinámicas en las que el alumnado imagina cómo se sentiría si alguien modificara su imagen para ridiculizarlo. Estas actividades ayudan a comprender emociones como la vergüenza o la humillación, facilitando que los estudiantes identifiquen el daño que pueden causar estas prácticas.

3. Actuar sobre los observadores. Muchos episodios de victimización se mantienen porque quienes presencian los hechos callan, se ríen o redistribuyen su contenido. Actividades de análisis de casos inspirados en situaciones reales (un estudiante que recibe por WhatsApp una imagen manipulada de una compañera o alumna que observa cómo circulan montajes dentro de un grupo de mensajería) sirven como punto de partida para debatir qué acciones contribuyen a aumentar el perjuicio y cuáles ayudan a proteger a la víctima.

Legislar sin educar no es la respuesta

La rápida expansión de los deepfakes sexuales ha suscitado un gran debate social sobre la necesidad de adaptar la legislación a una realidad tecnológica que, normalmente, avanza mucho más rápido que las leyes vigentes. Disponer de un marco jurídico adecuado es indispensable para proteger a las víctimas y delimitar las responsabilidades de aquellos que crean o difunden estos contenidos.

Sin embargo, confiar únicamente en la respuesta penal constituye un gran error. La experiencia demuestra que prohibir una conducta no es suficiente para evitar que ocurra. Un ejemplo comparable es el consumo de alcohol entre menores porque, aunque su venta está prohibida, muchos siguen siendo consumidores habituales. Reducir esta problemática ha requerido una combinación de medidas legales, campañas de sensibilización y sobre todo programas educativos orientados a promover conductas más responsables.

Con los deepfakes sexuales ocurre algo similar. Muchos niños, niñas y adolescentes disponen de herramientas que pueden generar imágenes o vídeos sexuales falsos con sólo unos clics, pero pocos reflexionan sobre las consecuencias sociales y legales asociadas a su uso. De esta problemática surge la necesidad de explorar nuevas vías de concienciación en la escuela también desde la ciencia.

El programa formativo descrito ha sido financiado por el Vicerectorat de Formació Permanent, Transformació Docent i Ocupació de la Universitat de València (PIEE 3901460). El autor declara que esta financiación no ha influido en la redacción del artículo ni en la interpretación de los contenidos presentados.