Sebastian Zoroastro y Carlos Jiménez

Deepfakes, inteligencia artificial y violencia digital en los colegios secundarios en el AMBA

En este artículo problematizamos la respuesta institucional sobre la prohibición del uso de celulares, y sobre el endurecimiento de las sanciones hacia estudiantes, a partir de la circulación creciente de deepfakes de contenido sexual no consentido en colegios secundarios del AMBA, en función de la recuperación de casos e información disponible sobre la región.

Retomando aportes de los estudios sobre masculinidades (Kimmel, 1994; Segato, 2016) datos de organismos como UNICEF, ONU Mujeres y la Procuración General de la Provincia de Buenos Aires, podemos sostener que la violencia digital de género entre adolescentes reproduce lógicas de masculinidad hegemónica preexistentes, aceleradas por la inteligencia artificial y las nuevas dinámicas de la sociabilidad juvenil mediada por redes sociales. Frente a este contexto, diferentes actores institucionales, de organizaciones sociales y del ámbito educativo, proponen fortalecer la Educación Sexual Integral con una perspectiva específica de masculinidades como estrategia de prevención, frente a las respuestas punitivas, incluida la reciente baja de la edad de imputabilidad penal en la Argentina.

Algunas situaciones emergentes, vinculadas con la producción de imágenes falsas de alumnas generadas con inteligencia artificial y elaboradas por sus propios compañeros de curso, circulan con frecuencia creciente en los grupos de chat de los colegios secundarios. Lo que hace apenas algunos años podía parecer un caso excepcional se ha convertido en un problema que ocupa, y preocupa, a un número cada vez mayor de instituciones educativas. Un relevamiento de la Defensoría del Pueblo de la Ciudad Autónoma de Buenos Aires, difundido en agosto de 2026, encontró que el 43% de los adolescentes porteños había recibido alguna vez imágenes o vídeos manipulados con inteligencia artificial, y que más de la mitad (52%) manifestaba “niveles altos de preocupación” frente a la circulación de este tipo de contenido (Leis Montero, 2026). El dato, no solo refleja una problemática local, a escala global según estimaciones de UNICEF, ECPAT International e INTERPOL, al menos 1,2 millones de niños, niñas y adolescentes de entre 12 y 17 años fueron afectados por deepfakes de contenido sexual explícito en once países durante el último año relevado, una proporción que en algunos de esos países equivale a un niño o una niña por cada aula escolar (UNICEF, 2026).

Quienes trabajamos desde hace años con varones, desde una perspectiva crítica y situada sobre la masculinidad tradicional, no observamos ninguna novedad en estas situaciones, sino que identificamos una intensificación de una lógica conocida. Cambian los nombres de las instituciones y las tecnologías utilizadas, fotografías íntimas que circulan sin consentimiento, grupos de WhatsApp donde se humilla a compañeras, cuentas anónimas creadas para hostigar, videos editados para ridiculizar, deepfakes producidos con inteligencia artificial, pero la estructura se repite, la violencia digital encuentra, una y otra vez, nuevas formas de expresarse sin modificar su núcleo, sin romper con la cofradía, tal como describe Segato a propósito de la sociabilidad masculina.

En las últimas semanas, varias de estas situaciones tomaron estado público a través de notas periodísticas en diarios nacionales. Como suele ocurrir cuando una violencia se vuelve visible, las respuestas institucionales aparecen con rapidez: prohibir el uso de celulares, endurecer las sanciones disciplinarias. Son respuestas comprensibles, aunque acotadas y, probablemente, también insuficientes, porque desplazan una pregunta que emerge: ¿qué mandatos empujan a adolescentes de 14 años a ejercer violencia contra sus compañeras?

Cifras y casos desde una perspectiva territorial

Este problema no es ajeno a la provincia de Buenos Aires. En octubre de 2024, un adolescente del municipio de San Martín fue denunciado por robar fotografías de las redes sociales de sus compañeras, procesarlas con inteligencia artificial y venderlas como imágenes pornográficas a través de Discord y Telegram; la causa quedó radicada en el Fuero de Responsabilidad Penal Juvenil del departamento judicial de San Martín (Chequeado, 2026). El caso no es aislado: según los informes anuales del Departamento de Delitos Conexos a la Trata de Personas, Pornografía Infantil y Grooming de la Procuración General de la Suprema Corte de Justicia de la provincia de Buenos Aires, las investigaciones penales preparatorias (IPP) iniciadas por estos delitos pasaron de 2.030 en 2022 a 3.439 en 2023, y se mantuvieron en un nivel similar, 3.300 casos, durante 2024 (Procuración General de la Suprema Corte de Justicia de la Provincia de Buenos Aires, 2024, 2025). En 2023, seis departamentos judiciales del conurbano y el Gran La Plata concentraron el 60,6% de esas actuaciones: San Martín (426 IPP), Lomas de Zamora (412), San Isidro (342), La Matanza (320), Quilmes (302) y La Plata (283).

La propia Defensoría del Pueblo de la Provincia de Buenos Aires reconoce la magnitud del fenómeno entre la población adolescente. Su programa “Cortá a Tiempo”, dirigido a jóvenes de entre 15 y 20 años de escuelas secundarias públicas y privadas bonaerenses, releva que el 92% de los y las adolescentes teme que sus contenidos íntimos se filtren sin consentimiento (Defensoría del Pueblo de la Provincia de Buenos Aires, s.f.). A su vez, el Ministerio de las Mujeres, Políticas de Género y Diversidad Sexual de la provincia sostiene, desde la sanción de la Ley 14.603 (2014), el Registro Único de Casos por Violencia de Género, pensado para mapear estas situaciones y orientar políticas públicas (Ministerio de las Mujeres, Políticas de Género y Diversidad Sexual de la Provincia de Buenos Aires, s.f.). Es decir: la provincia de Buenos Aires ya cuenta con organismos, registros y programas capaces de sostener una estrategia de prevención sistemática. El desafío no es la infraestructura institucional, sino la decisión de integrar de manera sostenida al trabajo cotidiano del aula, dotando de herramientas concretas a quienes trabajan en los ámbitos educativos con los jóvenes. Sin duda, el rol de los docentes varones cobra relevancia para poder pensar dispositivos educativos para desarmar violencias machistas y misóginas en las escuelas.

El límite de las prohibiciones.

Un caso reciente ilustra los límites de esa respuesta. Luego de restringir el uso de teléfonos inteligentes en toda la secundaria, los colegios de la Red Itínere, ocho instituciones privadas del Gran Buenos Aires, decidieron chequear con datos la efectividad de la medida. En un estudio realizado durante 2025 y 2026 sobre 654 estudiantes secundarios, con la colaboración de investigadores del CONICET y del Instituto Tecnológico de Buenos Aires, comprobaron que el tiempo de pantalla total de los alumnos no se había modificado: seguía entre 5 y 5 horas 45 minutos diarios, el equivalente a 73 días al año (La Nación, 2026). Los estudiantes, simplemente, compensan fuera del horario escolar el tiempo que ya no podían usar el teléfono dentro de la institución. El hábito permanecía intacto; solo cambiaba de horario. La prohibición en principio puede ordenar el espacio escolar, pero no modifica la cultura que los jóvenes llevan en el bolsillo.

La inteligencia artificial no inventó el machismo.

Existe una tentación comprensible de responsabilizar a la tecnología por estas violencias. Antes fueron los fotologs y los blogs; después, las redes sociales; hoy es la inteligencia artificial. Mañana será otra plataforma, pero ninguna aplicación inventó el deseo de humillar públicamente a una mujer; eso es propio de la cultura patriarcal naturalizada y reproducida durante siglos. Los deepfakes son una herramienta nueva al servicio de una práctica muy antigua: convertir el cuerpo de las mujeres en un objeto de consumo, burla o prestigio entre varones.

Por eso el problema de fondo no es tecnológico, sino cultural, y remite a los modos en que buena parte de los adolescentes continúa aprendiendo qué significa “ser varón”. El sociólogo estadounidense Michael Kimmel (1994) describió este proceso como una actuación homosocial: la masculinidad no se construye principalmente en relación con las mujeres, sino que se exhibe y se valida ante la mirada de otros varones, que operan como una suerte de policía de género que evalúa permanentemente si un par cumple con las normas esperadas. En ese esquema, las mujeres suelen funcionar como una moneda de intercambio simbólico entre varones: humillar, exponer o sexualizar a una compañera puede convertirse en un recurso para ganar estatus y pertenencia dentro del grupo de pares. En términos parecidos la antropóloga argentina Rita Segato (2016) sostiene que existe un mandato de masculinidad que exige a los varones demostrar permanentemente su virilidad ante otros hombres, y que buena parte de la violencia hacia las mujeres debe leerse como parte de ese pacto entre pares antes que como un desborde individual. La inteligencia artificial no creó esa lógica: la aceleró, la abarató y le dio un alcance de circulación inédito, que valida la masculinidad de manera inmediata y a gran escala.

Esta dinámica no ocurre en el vacío, investigaciones recientes sobre el consumo de contenidos de la llamada manosfera muestran que muchos influencers construyen su popularidad entre varones adolescentes apelando precisamente a esas mismas reglas homosociales: el humor, la transgresión y la promesa de estatus masculino. Los propios adolescentes justificaban su carga misógina describiéndola como “entretenimiento” que termina por normalizar sus efectos. La manosfera no crea adolescentes aislados: interpela y organiza grupos de pares con recursos y lenguajes que los adultos muchas veces no conocemos.

El castigo tampoco alcanza.

Es probable que algunos de los adolescentes involucrados en estos hechos deban responder por sus acciones ante la justicia, que será la encargada de determinar responsabilidades. Pero el debate sobre qué hacer con esa responsabilidad ya no es hipotético en la Argentina. Con la sanción de la Ley 27.801, que baja la edad de imputabilidad penal de 16 a 14 años y entrará en vigencia el 5 de septiembre de 2026 (Congreso de la Nación Argentina, 2026), un adolescente de 14 años que hoy produzca o distribuya este tipo de contenido puede ingresar directamente al nuevo Régimen Penal Juvenil. Y ahí aparece un problema mayor: lo único que ese sistema les ofrece es el ingreso al circuito penal, sin que exista detrás una estrategia real de abordaje pensada para chicos de esa edad.

Convertir estos casos en un argumento a favor de la baja de imputabilidad, o celebrarla como si resolviera algo, vuelve a confundir castigo con prevención. Bajar la edad de imputabilidad no le enseña a un adolescente de 14 años qué significa el consentimiento, ni interpela a los grupos de pares donde aprendió que humillar a una compañera otorga prestigio. Solo lo convierte, más temprano, en sujeto de una causa judicial. Del mismo modo que prohibir los celulares no reduce el tiempo de uso, castigar con mayor severidad tampoco transforma las formas en que los jóvenes aprenden a relacionarse. La prevención, por definición, ocurre antes; nunca después. Un sistema penal pensado originalmente para personas adultas, aplicado cada vez más tempranamente, no reemplaza esa tarea: solo la posterga hasta que ya es tarde.

Traer el celular al aula.

La propuesta que se sostiene aquí es, en cierto sentido, la inversa de la que hoy parece imponerse: no se trata de sacar el celular de la escuela, sino de traerlo al centro de la clase. Desde la experiencia de trabajo en educación con varones, el problema nunca fue el dispositivo en sí, sino el modelo de masculinidad que organiza los usos que ese dispositivo permite. Y ese modelo no se aprende, ni se desarma, en un aula que mira para otro lado. La escuela secundaria no puede seguir enseñando de espaldas al mundo digital: si las relaciones, la construcción de la identidad y las violencias transcurren hoy también en las redes, esos temas deben entrar al aula en lugar de quedar tercerizados en la casa, en el grupo de amigos o, peor aún, en el algoritmo.

En la provincia de Buenos Aires, ese trabajo no partiría de cero: programas como “Cortá a Tiempo” de la Defensoría del Pueblo bonaerense ya recorren escuelas secundarias del conurbano y el interior provincial, y el Registro Único de Casos por Violencia de Género aporta información sistematizada para orientar dónde y cómo intervenir (Defensoría del Pueblo de la Provincia de Buenos Aires, s.f.; Ministerio de las Mujeres, Políticas de Género y Diversidad Sexual de la Provincia de Buenos Aires, s.f.). El desafío no es crear estructuras nuevas, sino sostener y profundizar las que ya existen, en lugar de dejarlas libradas a la buena voluntad de cada institución o de cada docente.

Fortalecer la Educación Sexual Integral (ESI), vigente en la Argentina desde 2006 por la Ley 26.150 (Ministerio de Educación de la Nación Argentina, 2006), con una perspectiva específica de masculinidades implica dedicar tiempo pedagógico sistemático a preguntas que, en la experiencia de quienes trabajamos con varones adolescentes, casi nunca llegan a discutirse en profundidad. Es central promover interrogantes sobre: ¿Qué es la inteligencia artificial y qué son los deepfakes? ¿Qué significan la privacidad y el consentimiento cuando se habla de imágenes íntimas? ¿Cómo operan las redes sociales, los algoritmos y los discursos de odio? ¿Qué imaginarios sobre el deseo, los cuerpos y las relaciones construye el consumo de pornografía? ¿Qué lugar ocupan la manósfera y los influencers antifeministas en la formación emocional de millones de adolescentes varones? ¿Cómo se reproducen los micromachismos en las nuevas formas de violencia digital? ¿Qué significa ser varón en la actualidad y qué modelos de masculinidad circulan entre los pares?; y, sobre todo, ¿cómo intervenir cuando un amigo comparte una imagen íntima sin consentimiento, hace un comentario violento o produce contenido que humilla a una compañera?

Porque en los grupos de varones con los que trabajamos, la pregunta relevante nunca es solamente qué hizo quien produjo una imagen. Es también qué hacen los otros cuarenta compañeros que la reciben, que la reenvían, que se ríen o que callan. Ahí, en ese silencio de pares que la teoría de la actuación homosocial permite leer como parte constitutiva, y no accesoria, de la violencia (Kimmel, 1994), se juega buena parte de la prevención posible. Y ahí es donde la escuela todavía tiene mucho por hacer.

Educar antes que prohibir.

Las escuelas no pueden asumir esta tarea en soledad. Las familias necesitan herramientas concretas. También los clubes deportivos, los centros culturales y las organizaciones comunitarias: en definitiva, todos los espacios donde los varones construyen pertenencia. La evidencia internacional sobre violencia de género facilitada por tecnología va en la misma dirección. Un informe de ONU Mujeres (2022) señala que, según relevamientos globales, entre el 16% y el 58% de las mujeres y niñas encuestadas declaró haber sufrido algún tipo de violencia en línea; que la mayoría experimenta su primer episodio de acoso digital entre los 14 y los 16 años; y que un 47% de las adolescentes acosadas con frecuencia fue además amenazada con violencia física o sexual. Se trata, en otras palabras, de un fenómeno que comienza precisamente en la edad escolar y que exige respuestas sostenidas en el tiempo, no reacciones puntuales cada vez que un caso llega a los medios.

Necesitamos una estrategia comunitaria que fortalezca la Educación Sexual Integral y la educación digital como políticas públicas permanentes, y no como respuestas de emergencia cada vez que un caso ocupa los titulares.

Porque la discusión nunca fue, en rigor, el celular. Tampoco la inteligencia artificial. La discusión es otra: ¿qué modelos de masculinidad están aprendiendo hoy los adolescentes? ¿Quiénes los están educando? ¿Qué lugar ocupan la pornografía, la manosfera y los influencers antifeministas en esa formación? ¿Y qué espacios les estamos ofreciendo los adultos para discutir críticamente esos aprendizajes? Si no respondemos estas preguntas, seguiremos llegando tarde. Seguiremos prohibiendo la herramienta mientras dejamos intacta la cultura que la convierte en un instrumento de violencia. El desafío no es construir escuelas sin celulares, sino comunidades capaces de educar a las nuevas generaciones para vivir en un mundo digital con responsabilidad, empatía y respeto. Porque las violencias digitales no se previenen apagando pantallas: se previenen educando. Y esa sigue siendo, antes que nada, una tarea colectiva.

Referencias

  • Chequeado. (2026). Deepfakes en escuelas: crean videos alterados con inteligencia artificial para “desnudar” a compañeras. https://chequeado.com/el-explicador/deepfakes-en-escuelas-crean-videos-alterados-co n-inteligencia-artificial-para-desnudar-a-companeras/
  • Congreso de la Nación Argentina. (2026). Ley 27.801: Régimen Penal Juvenil.
  • Defensoría del Pueblo de la Provincia de Buenos Aires. (s.f.). Las violencias de género en la era digital: violencias históricas, nuevos formatos [Programa Cortá a Tiempo]. https://www.defensorba.org.ar/pdfs/corta-a-tiempo-las-violencias-de-genero-en-la-era-digital.pdf
  • Haslop, C., Ringrose, J., Cambazoglu, I., & Milne, B. (2024). Mainstreaming the manosphere’s misogyny through affective homosocial currencies: Exploring how teen boys navigate the Andrew Tate effect. Social Media + Society, 10(1). https://doi.org/10.1177/20563051241228811
  • Kimmel, M. S. (1994). Masculinity as homophobia: Fear, shame, and silence in the construction of gender identity. En H. Brod y M. Kaufman (Eds.), Theorizing masculinities (pp. 119–141). Sage.
  • Leis Montero, E. (2026, 12 de agosto). Deepfakes en escuelas porteñas: el 43% de los adolescentes recibió alguna vez imágenes o videos hechos con IA. Chequeado. https://chequeado.com/el-explicador/deepfakes-en-escuelas-portenas-el-43-de-los-ado lescentes-recibio-alguna-vez-imagenes-o-videos-hechos-con-ia/
  • Ministerio de Educación de la Nación Argentina. (2006). Ley 26.150: Programa Nacional de Educación Sexual Integral. https://www.argentina.gob.ar/normativa/nacional/ley-26150-121222
  • Ministerio de las Mujeres, Políticas de Género y Diversidad Sexual de la Provincia de Buenos Aires. (s.f.). Registro Único de Casos por Violencia de Género (RUCVG), Ley 14.603. https://www.gba.gob.ar/mujeres/estadistica
  • La Nación. (2026, 18 de julio). Un grupo de colegios prohibió los celulares, luego midió el tiempo en pantalla de los alumnos y encontró resultados alarmantes. https://www.lanacion.com.ar/sociedad/un-grupo-de-colegios-prohibio-los-celulares-lu ego-midio-el-tiempo-en-pantalla-de-los-alumnos-y-nid18072026/
  • ONU Mujeres [UN Women]. (2022). Accelerating efforts to tackle online and technology-facilitated violence against women and girls. https://www.unwomen.org/sites/default/files/2022-10/Accelerating-efforts-to-tackle-o nline-and-technology-facilitated-violence-against-women-and-girls-en_0.pdf
  • Procuración General de la Suprema Corte de Justicia de la Provincia de Buenos Aires. (2024). Informe anual sobre pornografía infantil en internet y grooming – Año 2023. Departamento de Delitos Conexos a la Trata de Personas, Pornografía Infantil y Grooming. https://www.mpba.gov.ar/files/informes/Informe-PI-2023.pdf
  • Procuración General de la Suprema Corte de Justicia de la Provincia de Buenos Aires. (2025). Informe anual sobre ciberpedofilia y grooming – Año 2024. Departamento de Delitos Conexos a la Trata de Personas, Ciberpedofilia y Grooming. https://www.mpba.gov.ar/files/informes/Informe-PI-2024.pdf
  • Segato, R. L. (2016). La guerra contra las mujeres. Traficantes de Sueños.
  • UNICEF. (2026, 4 de febrero). Deepfake abuse is abuse [Comunicado de prensa]. https://www.unicef.org/press-releases/deepfake-abuse-is-abuse