Las denuncias contra el colegio han puesto de manifiesto la necesidad de que las instituciones se preparen para afrontar una tecnología capaz de generar imágenes sexuales falsas en cuestión de segundos y convertir fotos comunes en instrumentos de humillación. Zurita enfatiza que este nuevo panorama requiere un replanteo sobre cómo se guía a los jóvenes en el uso de tales tecnologías. “La velocidad del avance tecnológico supera nuestra habilidad de adaptación, lo que nos obliga a evaluar continuamente nuestras estrategias educativas, preventivas y de acompañamiento”, señala.
Desde AIEPA, el tema es cada vez más recurrente en las discusiones con directores y representantes de escuelas de todo el país. La organización apoya a las instituciones a través de capacitaciones, mientras que las guías y protocolos establecidos ofrecen un marco para encaminar las intervenciones necesarias. No obstante, Zurita advierte que ninguna acción tendrá efecto sin un trabajo coordinado entre las escuelas y las familias.
“Muchos de los incidentes ocurren fuera de la escuela, en dispositivos y herramientas que los jóvenes también usan en casa. Es esencial construir confianza: la escuela debe actuar con transparencia y las familias deben apoyar para mantener la autoridad pedagógica”, afirma.
El protocolo sugerido por AIEPA para estas situaciones comienza con la comunicación a la inspección de la Dirección General de Escuelas y la presentación de una denuncia ante el Ministerio Público Fiscal, así como la ampliación de la misma si ya existe. Además, se debe garantizar la protección a las alumnas afectadas y establecer la prohibición de cualquier contacto. “Las medidas deben centrarse principalmente en los alumnos implicados, no en las víctimas”, indica el documento. Los procedimientos de convivencia escolar deben ser independientes de las instancias penales y contemplar la participación de las familias.
El debate se intensificó tras el caso en el Colegio Modelo, donde un grupo de alumnos presuntamente utilizó inteligencia artificial para crear y difundir imágenes sexuales falsas de sus compañeras. Las familias han informado que el material se organizó en un catálogo que incluía nombres, fotos de redes sociales y versiones alteradas para simular desnudos, afectando estimativamente a entre 30 y 40 alumnas. La institución ha decidido que los estudiantes identificados continúen sus actividades de forma virtual y anunciará sanciones el 19 de octubre.
La causa se encuentra bajo la jurisdicción del fiscal Mariano Bonilla, de la UFI N° 6 del Fuero de Responsabilidad Penal Juvenil en Lomas de Zamora. Se han identificado a cuatro adolescentes, a quienes se les han incautado dispositivos electrónicos, y se han solicitado medidas cautelares y prohibiciones de acercamiento hacia las chicas afectadas. “Hasta el momento, no hemos encontrado evidencia de la participación de un adulto en estos hechos”, indicaron fuentes involucradas en la investigación.
El incidente en Lomas de Zamora no es un hecho aislado. En la misma semana, un caso en Ituzaingó involucró a una adolescente de 15 años que recibió mensajes de extraños que la invitaban a salir, explicando que obtuvieron su número a través de un grupo de mensajería. Al acceder al enlace que le enviaron, halló contenido pornográfico compartido en un chat. Según la denuncia de su madre, un compañero de su colegio reconoció haber manipulado fotos de sus redes sociales con inteligencia artificial y haberlas publicado allí. Este caso está siendo investigado por la Fiscalía de Responsabilidad Penal Juvenil N° 2 de Morón, bajo la carátula de presunta tenencia de representaciones sexuales de menores con fines de distribución.
A finales de julio, el Colegio Nacional de Buenos Aires y la Escuela Superior de Comercio Carlos Pellegrini también vivieron situaciones similares, donde alumnos habrían alterado fotos de sus compañeras para luego vender las imágenes.
Mientras tanto, los datos respaldan la preocupación. Un informe de la Defensoría del Pueblo de la Ciudad de Buenos Aires resalta el surgimiento de los deep fakes como una nueva modalidad de violencia digital entre los adolescentes. En un estudio realizado con 912 jóvenes de 12 a 19 años, el 1% admitió haber sido víctima directa, mientras que el 13% conoce casos en su entorno escolar. Además, el 43% ha recibido imágenes o videos alterados por inteligencia artificial.
Estos resultados evidencian que estas situaciones están arraigadas en el entorno escolar. El desafío radica en cómo las instituciones pueden actuar para prevenir que la producción y difusión de imágenes erróneas se normalice y se considere una “simple broma” entre pares.
Ana Correa, experta en violencia digital y autora del libro Ciberfeminismo. La hora de la acción, subraya que el problema va más allá del comportamiento individual de los jóvenes. También es crucial evaluar a las empresas que desarrollan estas herramientas, así como a las plataformas que difunden las imágenes y los servicios que permiten su circulación y monetización.
“Las plataformas tienen una gran responsabilidad”, señala. Y añade: “La pregunta central es: ¿quién se beneficia económicamente de la creación de imágenes sexuales de mujeres, niñas y adolescentes sin su consentimiento?”.
Correa advierte que no es necesario recurrir a circuitos clandestinos para acceder a estas tecnologías. Existen inteligencias artificiales diseñadas específicamente para simular desnudez y modelos que se pueden ejecutar en computadoras comunes. Por lo tanto, sostiene que no hay justificación para hablar de una supuesta deep web de inteligencia artificial, dado que muchas de estas herramientas son accesibles en la web convencional y, en ocasiones, en circuitos comerciales ordinarios.
La responsabilidad, enfatiza, no recae únicamente en las empresas desarrolladoras de estas tecnologías ni en los sitios que albergan las imágenes. “También se debe considerar a las tiendas de aplicaciones, los motores de búsqueda, las redes sociales y los servicios que se benefician de esta circulación. No puede ser que las empresas obtengan ganancias mientras las víctimas enfrentan todas las consecuencias”, sostiene.
Para Correa, el problema debe ser abordado en toda su extensión: desde la creación de herramientas que permiten fabricar imágenes sexuales sin consentimiento hasta su difusión y comercialización. En este contexto, responsabilizar solo a los adolescentes que producen o distribuyen el material no es suficiente si no se analizan también los mecanismos que facilitan el acceso y la circulación de dichos contenidos.
La magnitud del fenómeno se evidencia en investigaciones internacionales. En 2023, la organización Security Hero analizó más de 95.000 videos deep fake y encontró que el 98% pertenecía a la categoría pornográfica o sexualmente explícita, y de este porcentaje, el 99% de los sujetos representados eran mujeres.
Adicionalmente, una investigación del Tech Transparency Project identificó aplicaciones de desnudez artificial que en conjunto registraron 483 millones de descargas y más de 122 millones de dólares en ingresos estimados.
Estas cifras evidencian que no se trata solo de usuarios manipulando fotografías, sino de un mercado que se beneficia económicamente a partir de estas tecnologías.
“La tecnología no creó la violencia contra las mujeres, pero la ha vuelto más accesible, económica, rápida y en una escala impensada”, concluye.
Para las instituciones educativas, el problema se torna aún más serio, dado que las imágenes pueden generarse a partir de fotos que las propias alumnas publican en sus perfiles. No es necesario que hayan compartido material íntimo ni que hayan participado en situaciones sexuales: una imagen cotidiana puede ser utilizada para crear una representación falsa y difundirla sin su consentimiento.
La especialista resalta una desigualdad persistente: aunque las imágenes sean fabricadas, las consecuencias afectan a personas concretas. Las chicas pueden sufrir vergüenza, angustia, miedo al regreso al colegio y pérdida de privacidad, mientras que la responsabilidad de quienes crearon y difundieron el contenido a menudo queda relegada.
“Cuando se comparte una imagen sexual falsa de una mujer, la mirada social se dirige frecuentemente hacia ella, en lugar de hacia quien la creó, la difundió o se benefició económicamente de eso”, advierte.
El avance de estas tecnologías también trae aparejados desafíos legales. Correa aclara que en Argentina no hay un vacío legal total, pero sostiene que la normativa actual aún no aborda con suficiente claridad todas las formas de violencia que permite la inteligencia artificial.
La Ley Olimpia (27.736), sancionada en 2023, incorpora la violencia digital a la Ley 26.485 de protección integral ante la violencia contra las mujeres. Esta norma reconoce distintas manifestaciones de violencia ejercida a través de tecnologías y contempla la difusión no consentida de material íntimo o desnudez, incluso en formato editado. Además, incluye herramientas para solicitar medidas judiciales relacionadas con el retiro de contenidos y la preservación de pruebas.
Sin embargo, la legislación no abarca todas las conductas vinculadas a la creación, difusión y comercialización de imágenes sexuales falsas generadas con inteligencia artificial. En el caso de menores, pueden aplicarse otras normativas, dependiendo de la naturaleza del material y los hechos investigados.
Un caso judicial en Córdoba resalta cómo se enfrenta este desafío. La Cámara de Acusación de la provincia confirmó la elevación a juicio de un joven acusado de manipular fotos de compañeras de colegio, colocar sus rostros en cuerpos desnudos y publicarlas en un sitio pornográfico junto a sus nombres y enlaces a sus perfiles de Instagram.
El tribunal consideró que esos actos podían encuadrarse como lesiones graves calificadas por la existencia de violencia de género, reconociendo el daño psicológico como una lesión penal, aun sin una lesión física. La decisión también subrayó que la difusión de imágenes manipuladas puede ser considerada violencia digital por la exposición sexual pública y reiterada, así como sus consecuencias psicológicas y sociales.
La discusión ha llegado incluso al Congreso. Más de 300 organizaciones y referentes de Argentina y América Latina están impulsando una campaña nacional por una ley integral que proteja a niños, niñas y adolescentes en entornos digitales.
Bajo el lema “Está hecha la trampa, pero no la ley”, este esfuerzo reúne a entidades de la sociedad civil y expertos en derechos de la niñez, derechos digitales, educación, salud y protección de datos, junto con la Asociación de Defensorías del Pueblo de la República Argentina (ADPRA) y el Ministerio Público Tutelar de la Ciudad.
El objetivo es establecer responsabilidades claras para las plataformas, prevenir riesgos, proteger datos personales, hacer transparentes los algoritmos y aplicar sanciones ante incumplimientos. También se propone promover controles estatales, educación digital y la participación activa de niños, niñas y adolescentes. La campaña busca que el Congreso avance con esta legislación durante 2026, antes del fin del período ordinario.
Correa concluye que la responsabilidad no debe recaer solo en los jóvenes ni en sus familias. También deben involucrarse las empresas desarrolladoras de estas tecnologías, las plataformas que permiten la circulación del contenido, las instituciones educativas y el Estado.
