🎭 La identidad hackeada: El desafío ético de los "deepfakes" en la convivencia escolar
Por qué la violencia digital con IA no es un error del algoritmo, sino una crisis de ciudadanía.
“La tecnología no es neutral; o bien contribuye a la liberación humana y al pensamiento crítico, o bien se convierte en un instrumento de vigilancia y control que reproduce las peores violencias de nuestra sociedad.”
UNESCO (2024), Marco de competencias de IA para docentes.
El aula como escenario de lo sintético
Hasta hace poco, los riesgos digitales en el entorno educativo se limitaban al ciberacoso verbal o la difusión de fotos no consentidas. Sin embargo, la democratización de la Inteligencia Artificial Generativa (IAGen) ha introducido una variable que muchos centros educativos aún no saben cómo gestionar. Hoy, cualquier estudiante con un smartphone y una aplicación de libre acceso puede generar contenido altamente realista de algo que nunca existió. La IA ha dejado de ser solo una herramienta para resolver tareas y se ha convertido en una tecnología capaz de alterar la identidad y la integridad de las personas en segundos.
Cuando el cuerpo se vuelve un “prompt”
Un caso reciente narrado por Radio Ambulante puso rostro a esta amenaza: Ana, una universitaria, descubrió que un compañero utilizaba IA para desnudar digitalmente sus fotos de Instagram. Pero esto no es un problema exclusivo de la educación superior.
En Perú, durante el 2024 y 2025, se reportaron incidentes similares en colegios de Lima y Trujillo, donde adolescentes utilizaron herramientas de deepfake para crear pornografía no consentida de sus compañeras y docentes. La complicación es profunda: el sistema legal peruano (a través de la Ley de Delitos Informáticos) aún lucha por procesar evidencias de autoría en IA, y las instituciones educativas suelen reaccionar con el silencio o la expulsión, pero rara vez con una estrategia de alfabetización ética.
¿Es la IA el problema o solo el megáfono?
Ante esta realidad, nos toca preguntarnos: ¿Estamos frente a un problema tecnológico que requiere mejores filtros, o estamos ante una crisis de convivencia que la IA simplemente ha exponenciado? ¿Cómo debemos reaccionar cuando el cuerpo de una estudiante es vulnerado por un algoritmo manipulado por un compañero?
¿Te interesa transformar la educación con sentido humano?
Suscríbete a mi blog “Después de Clase” y recibe reflexiones semanales sobre IA, pedagogía y ciudadanía digital.
Hacia una pedagogía del consentimiento
Para abordar este desafío, no basta con prohibir el uso de dispositivos; la investigación sugiere tres rutas de acción urgentes:
1. De la técnica a la ética
La alfabetización en IA no puede limitarse a enseñar a redactar prompts, debe incluir una dimensión sobre la agencia y la identidad. Según el informe State of Deepfakes (2023), el 96% de los videos deepfake en la red son pornografía no consentida dirigida a mujeres. Ignorar esto en el currículo es ignorar una forma de violencia de género digital.
2. El error de la revictimización
Como ocurrió en el caso de Ana (Radio Ambulante, 2025), el entorno suele preguntar: “¿Por qué tenías tus fotos públicas?”. Esta lógica traslada la responsabilidad a la víctima. La respuesta institucional debe ser la protección de la integridad: la imagen de una persona, aunque sea pública, no es un insumo para la manipulación.
3. El valor de lo humano frente a lo generado
Debemos enseñar que los modelos de IA generan patrones, no verdades. Lo que un sistema produce es una correlación estadística de píxeles; sin embargo, el impacto emocional en la víctima es real y devastador. La “ineficiencia” de detenerse a conversar sobre el respeto es la inversión más sabia que un colegio puede hacer hoy.
Una conclusión personal
La historia de Ana nos enseña que el daño de una deepfake no es virtual, es un robo de identidad que deja secuelas de persecución y aislamiento. Como educadores, nuestro éxito no se medirá por cuánta IA usen nuestros alumnos, sino por cuánto respeto demuestren al convivir en entornos donde lo real y lo sintético se confunden.
La IA nos obliga, paradójicamente, a volver a lo más básico: la empatía y la responsabilidad por el otro.
¿Necesitas orientar a tu institución en estos temas?
Si buscas fortalecer la ciudadanía digital en tu comunidad, puedo ayudarte a través de estrategias, charlas o talleres diseñados para directivos, docentes y familias.
Escríbeme a: alberto@despuesdeclase.org
Hablemos sobre cómo construir un entorno digital más seguro para tus estudiantes.
¿Crees que este tema debe discutirse en tu colegio?
Comparte este artículo con otros educadores que crean que el futuro del aprendizaje requiere, ante todo, integridad humana.