En los últimos años, la tecnología ha avanzado a una velocidad que supera nuestra capacidad para comprender completamente su impacto social. Entre estos avances, la inteligencia artificial ha abierto nuevas posibilidades, pero también ha desatado amenazas silenciosas que afectan a los sectores más vulnerables: niñas y adolescentes. El caso de un estudiante que, sin reparo alguno, manipuló la imagen de una compañera usando una aplicación de “desnudez”, ilustra un fenómeno inquietante: la normalización del daño digital.
De acuerdo con The Guardian, resulta alarmante cómo estas prácticas se realizan a plena vista, como si fueran simples bromas o juegos entre pares. Para quienes trabajamos en responsabilidad social, este episodio evidencia la urgencia de abordar las deepfakes sexuales no solo como un problema tecnológico, sino como un reflejo de dinámicas culturales, educativas y éticas que requieren intervención inmediata. Estamos ante una problemática que trasciende lo digital y se inserta en los espacios que deberían ser más seguros para la infancia.
La escena en el autobús: la normalización del daño
Un director relató con incredulidad cómo un adolescente, camino a casa en un autobús escolar, manipuló la imagen de una niña de una escuela vecina. Lo hizo sin ocultarlo, sin culpas ni dudas, como quien usa un filtro más en redes sociales. Ese nivel de naturalidad provocó una mezcla de sorpresa e inquietud entre quienes lo presenciaron.
El acto se volvió aún más desconcertante al considerarse público y visible para otros estudiantes. Que nadie lo percibiera como grave en el momento habla de un fenómeno superficialmente trivializado. Es esa “normalidad” lo que más alarma: el daño se realizó en segundos, sin conciencia del impacto psicológico y social que podría desencadenar.
De los riesgos del sexting a la era de las deepfakes sexuales
Hace diez años, el principal reto en las escuelas eran las imágenes íntimas compartidas voluntaria o involuntariamente entre estudiantes. Hoy, la situación es distinta y más compleja. Con la IA generativa, la creación de desnudos falsos ya no requiere la participación de la víctima, lo que amplifica el riesgo y elimina cualquier noción de consentimiento.
Las llamadas deepfakes sexuales permiten alterar fotografías comunes para generar contenido manipulador que simula situaciones explícitas. Esto impacta profundamente la seguridad emocional de niñas y adolescentes, quienes pueden ver su imagen transformada en material ofensivo sin haber interactuado jamás con la tecnología involucrada.
Víctimas al azar: cuando cualquiera puede ser seleccionada
Uno de los aspectos más perturbadores del caso es que la niña victimada pudo haber sido elegida al azar. La directora de la escuela reconoció no saber si había un vínculo entre ambos estudiantes o si la selección fue completamente arbitraria. Para la víctima, esto implica vulnerabilidad absoluta: no hay forma de anticipar un ataque cuando no existe relación con el agresor.
Además, la denuncia surgió gracias a que otro estudiante se dio cuenta y decidió actuar. Esto demuestra la importancia de generar entornos escolares donde exista una cultura activa de reporte y acompañamiento. Sin testigos sensibles, este caso habría quedado oculto, como ocurre con miles más alrededor del mundo.
La respuesta institucional: entre el deber y el estigma
Tras conocer los hechos, la escuela actuó con rapidez: contactó a los padres, localizó al adolescente responsable y reportó el caso a la policía. Sin embargo, el proceso estuvo marcado por la vergüenza y el estigma, tanto para la víctima como para quienes intervinieron. Estos sentimientos suelen convertirse en barreras que frenan las denuncias en situaciones similares.
En contextos educativos, el miedo a la exposición pública o a represalias sociales contribuye a que muchos episodios de este tipo nunca se reporten. Para quienes trabajamos en responsabilidad social, esto plantea un desafío evidente: no basta con crear protocolos, es necesario garantizar que las víctimas no serán juzgadas, sino acompañadas.
La cultura digital que permite la violencia invisible
La facilidad con la que pueden crearse imágenes engañosas revela una cultura digital donde el respeto y la empatía parecen desdibujarse. Las aplicaciones que prometen “desnudez instantánea” convierten la violencia simbólica en entretenimiento, promoviendo prácticas que jóvenes usuarios asumen como inofensivas. Pero su impacto es devastador.
Esta cultura también se alimenta de la falta de educación mediática y emocional. Si no enseñamos a niñas, niños y adolescentes a identificar la violencia digital, será difícil enfrentar la expansión de las deepfakes sexuales, que hoy circulan con una velocidad que supera la capacidad de contención de familias, escuelas y autoridades.
Un llamado urgente a la comunidad educativa y a la sociedad
Este fenómeno exige una intervención coordinada: escuelas, familias, instituciones y sociedad civil deben trabajar juntas para crear estrategias preventivas y de acompañamiento. La IA no es el problema en sí; el problema radica en cómo la utilizamos y en la ausencia de límites éticos claros en su aplicación cotidiana.
Para mitigar los riesgos, es indispensable promover la alfabetización digital, fortalecer las rutas de denuncia y establecer políticas escolares que aborden la violencia digital desde una perspectiva restaurativa y protectora. Las deepfakes sexuales no desaparecerán, pero sí podemos reducir sus impactos mediante un enfoque integral.
La historia del autobús es solo un ejemplo de una problemática que crece silenciosamente. Las deepfakes son una expresión moderna de una violencia que lleva años transformándose, adaptándose y expandiéndose junto con la tecnología. La diferencia ahora es que la manipulación de imágenes ya no requiere acceso íntimo ni situaciones privadas, lo que amplifica la vulnerabilidad de niñas y adolescentes en entornos digitales.
Como especialistas en responsabilidad social, debemos insistir en la creación de espacios educativos y comunitarios que promuevan el respeto, la empatía y el uso ético de la tecnología. La prevención no se limita a restringir aplicaciones, sino a formar ciudadanos digitales conscientes, capaces de reconocer y rechazar conductas que atentan contra la dignidad y seguridad de otros.
