Una foto. Una inteligencia artificial y a un solo clic. En un grupo de WhatsApp entre compañeros empiezan a circular imágenes sexuales. Una alumna descubre que su cara fue montada sobre un cuerpo desnudo. Esta escena, que cada vez se repite con más frecuencia, encendió una señal de alarma en las escuelas. “Hay una preocupación creciente en los colegios sobre la IA”, dice a Clarín Martín Zurita, secretario ejecutivo de la Asociación de Institutos de Enseñanza Privada de Argentina (AIEPA). El caso del Colegio Modelo de Lomas de Zamora, donde estudiantes habrían utilizado IA para desnudar a sus compañeras, volvió a poner en alerta a los establecimientos sobre el uso incorrecto de esta herramienta y la violencia digital.
Las denuncias en el Modelo de Lomas puso sobre la mesa una preocupación que atraviesan todas las escuelas: cómo actuar frente a una tecnología que permite fabricar imágenes sexuales falsas en segundos y que puede convertir una fotografía cotidiana en una herramienta de humillación. Para Zurita, el escenario obliga a analizar cómo se acompaña a los chicos en el uso de estas herramientas. “La tecnología avanza más rápido que nuestra capacidad de adaptación y nos obliga a revisar permanentemente cómo educamos, prevenimos y acompañamos”, sostiene.
Desde AIEPA aseguran que el tema surge cada vez más en las reuniones que tienen con directivos y representantes legales de todo el país. Desde la entidad acompañan a las instituciones mediante instancias de capacitación, mientras que las guías y los protocolos oficiales ofrecen un marco para orientar las intervenciones. Sin embargo, el dirigente considera que ninguna acción será suficiente si la escuela y las familias no trabajan en paralelo.
“Muchas de estas conductas ocurren fuera del ámbito escolar, a través de dispositivos y accesos tecnológicos que los chicos utilizan también en sus hogares. Es fundamental fortalecer la confianza: transparencia por parte de la escuela y acompañamiento de las familias para sostener su autoridad pedagógica”, plantea.
El protocolo que AIEPA indica a sus escuelas asociadas ante estos casos implica, en primera instancia, comunicar la situación a la inspección de la Dirección General de Escuelas y realizar la denuncia ante el Ministerio Público Fiscal, o ampliarla en caso de que ya existiera. También, proteger a las alumnas y disponer la prohibición de contacto. "Las adecuaciones deberían recaer prioritariamente sobre los estudiantes señalados, no sobre las víctimas", señala el texto. Y establecer un proceso de convivencia escolar separado de la instancia penal, con participación de las familias.
El debate se reavivó cuando en el Colegio Modelo de Lomas de Zamora un grupo de alumnos habría utilizado inteligencia artificial para crear imágenes sexuales falsas de sus compañeras y hacerlas circular. Según reconstruyeron las familias, el material estaba organizado en una suerte de catálogo con los nombres de las chicas, fotos tomadas de sus redes sociales y versiones manipuladas para simular desnudos. Las familias estiman que hay entre 30 y 40 alumnas afectadas. El colegio dispuso que los alumnos identificados cursen de manera virtual y definirá las sanciones el lunes 19 de octubre.
La causa está a cargo del fiscal Mariano Bonilla, de la UFI N° 6 del Fuero de Responsabilidad Penal Juvenil de Lomas de Zamora. Hay cuatro adolescentes identificados y se les secuestraron dispositivos electrónicos. También se solicitaron medidas cautelares y prohibiciones de acercamiento respecto de las chicas. “Por el momento, no identificamos que esté un adulto detrás de todo esto”, señalaron fuentes cercanas a la investigación.
En la escuela de Lomas estiman que hay entre 30 y 40 alumnas afectadas.
Lo de Lomas de Zamora no es un caso aislado, también en esta misma semana se conoció otro caso en Ituzaingó, donde una adolescente de 15 años recibió mensajes de desconocidos que la invitaban a salir y le explicaban que habían obtenido su teléfono a través de un grupo de Telegram.
Al ingresar al enlace que le enviaron, encontró un chat en el que se compartía contenido pornográfico. Según la denuncia de su madre, un compañero de cuarto año del Colegio Thomas Edison le habría reconocido que descargó fotografías de sus redes sociales, las manipuló con inteligencia artificial y las publicó en ese grupo. Esta causa quedó a cargo de la Fiscalía de Responsabilidad Penal Juvenil N° 2 de Morón y fue caratulada como presunta tenencia de representaciones sexuales de menores de 18 años con fines de distribución o comercialización.
A fines de julio, los principales secundarios de la UBA, la Escuela Superior de Comercio Carlos Pellegrini y el Colegio Nacional de Buenos Aires, también se vieron envueltos en un escándalo por este mismo problema: alumnos del colegio que habrían intervenido con IA fotos de sus compañeras y vendido las imágenes.
Mientras tanto, la preocupación aparece en los datos. Un informe de la Defensoría del Pueblo de la Ciudad de Buenos Aires advierte sobre la aparición de los deep fakes como una nueva forma de violencia digital entre adolescentes. El relevamiento, realizado entre 912 estudiantes de 12 a 19 años, muestra que el 1% dijo haber sido víctima directa, mientras que el 13% conoce casos en su entorno escolar. Además, el 43% aseguró haber recibido imágenes o videos manipulados con inteligencia artificial.
Los resultados reflejan que estas situaciones ya forman parte del ámbito escolar. El desafío para las instituciones es cómo intervenir, cómo prevenir que la producción y difusión de imágenes falsas se naturalice y continúe como una “simple broma” entre compañeros.
Un negocio detrás de las imágenes
Ana Correa, especialista en violencia digital y autora del libro Ciberfeminismo. La hora de la acción, manifiesta a Clarín que el problema no puede reducirse al comportamiento individual de los adolescentes. También hay que mirar a las empresas que desarrollan las herramientas, a las plataformas que distribuyen las imágenes y a los servicios que permiten que circulen y se moneticen.
“Las plataformas tienen muchísima responsabilidad”, afirma. Y agrega: “La pregunta central es: ¿quién está ganando dinero con la posibilidad de fabricar imágenes sexuales de mujeres, niñas y adolescentes sin su consentimiento?”.
Correa advierte que no hace falta ingresar en circuitos clandestinos para encontrar este tipo de tecnología. Existen IA's creadas específicamente para simular desnudez y modelos que pueden ejecutarse en computadoras personales. Por eso, sostiene que no corresponde hablar de una supuesta deep web de inteligencia artificial: muchas de estas herramientas están disponibles en la web común y, en ocasiones, dentro de circuitos comerciales accesibles.
La responsabilidad -advierte- no termina en las empresas que desarrollan estas herramientas ni en los sitios donde se publican las imágenes. “También hay que mirar a las tiendas de aplicaciones, los buscadores, las redes sociales y los servicios que se benefician de esta circulación. No puede ser que las empresas ganen dinero y las víctimas carguen con todas las consecuencias”, sostiene.
Para la especialista, el problema debe abordarse a lo largo de toda la cadena: desde la creación de herramientas que permiten fabricar imágenes sexuales sin consentimiento hasta su difusión y eventual comercialización. En ese escenario -plantea- no alcanza con responsabilizar a los adolescentes que producen o comparten el material si no se examinan también los mecanismos que facilitan su acceso y circulación.
Un escenario global
La dimensión del fenómeno aparece también en investigaciones internacionales. En 2023, la organización Security Hero analizó más de 95.000 videos deep fake y encontró que el 98% era pornográfico o sexualmente explícito. Dentro de esa categoría, el 99% de las personas representadas eran mujeres.
Por su parte, una investigación del Tech Transparency Project identificó aplicaciones de desnudez artificial que, en conjunto, acumulaban 483 millones de descargas y más de 122 millones de dólares en ingresos estimados.
Para Correa, esas cifras muestran que no se trata únicamente de usuarios que manipulan fotografías, sino también de un mercado que obtiene beneficios económicos a partir de estas tecnologías.
“La tecnología no inventó la violencia contra las mujeres, pero hoy la vuelve más fácil, más barata, más rápida y de una escala impensada”, resume.
En el caso de las escuelas, la gravedad está en que las imágenes pueden producirse a partir de fotos que las propias alumnas publicaron en sus perfiles. No es necesario que hayan compartido material íntimo ni que hayan participado de una situación sexual: una imagen cotidiana puede ser utilizada para fabricar una representación falsa y difundirla sin su consentimiento.
La especialista pone el foco, además, en una desigualdad persistente: aunque las imágenes sean falsas, las consecuencias recaen sobre personas reales. Las chicas pueden enfrentar vergüenza, angustia, miedo a regresar al colegio y pérdida de privacidad, mientras que la responsabilidad de quienes crearon y difundieron el material corre el riesgo de quedar en segundo plano.
“Cuando circula una imagen sexual falsa de una mujer, muchas veces la mirada social se dirige a ella y no a quien la creó, la difundió o ganó dinero con eso”, advierte.
Qué puede hacer la Justicia
El avance de estas herramientas también plantea dificultades legales. Correa aclara que en la Argentina no existe un vacío legal absoluto, aunque considera que la legislación todavía no responde con suficiente claridad a todas las formas de violencia que permite la inteligencia artificial.
La Ley Olimpia (27.736), sancionada en 2023, incorporó la violencia digital a la Ley 26.485 de protección integral para prevenir, sancionar y erradicar la violencia contra las mujeres. La norma reconoce distintas formas de violencia ejercidas mediante tecnologías y contempla la difusión no consentida de material íntimo o de desnudez, incluso cuando haya sido editado. También prevé herramientas para solicitar medidas judiciales vinculadas con el retiro de contenidos y la preservación de pruebas.
Sin embargo, la legislación no contempla todas las conductas relacionadas con la creación, distribución y comercialización de imágenes sexuales falsas generadas con IA. Y cuando hay menores involucrados, pueden entrar en juego otras figuras, según las características del material y los hechos investigados.
Un antecedente judicial en Córdoba permite observar cómo se aborda este desafío. La Cámara de Acusación de esa provincia confirmó la elevación a juicio de un joven acusado de manipular fotos de compañeras de colegio, colocar sus rostros en cuerpos desnudos y publicar las imágenes en una página pornográfica, junto con sus nombres y enlaces a sus perfiles de Instagram.
El tribunal consideró que los hechos podían encuadrarse como lesiones graves calificadas por mediar violencia de género, al reconocer que el daño psíquico puede constituir una lesión penal aun cuando no exista una lesión física. La resolución también destacó que la difusión de imágenes manipuladas puede configurar violencia digital por la exposición sexual pública y reiterada y sus consecuencias psicológicas y sociales.
La discusión también llegó al Congreso. Más de 300 organizaciones y referentes de la Argentina y América Latina impulsan una campaña nacional para reclamar una ley integral de protección de niños, niñas y adolescentes en entornos digitales.
Bajo el lema “Está hecha la trampa, pero no la ley”, la iniciativa reúne a entidades de la sociedad civil y especialistas en derechos de la niñez, derechos digitales, educación, salud y protección de datos, junto con la Asociación de Defensorías del Pueblo de la República Argentina (ADPRA) y el Ministerio Público Tutelar de la Ciudad de Buenos Aires.
El reclamo apunta a establecer responsabilidades concretas para las plataformas, prevenir riesgos, proteger los datos personales, transparentar los algoritmos y aplicar sanciones ante incumplimientos. También propone controles estatales, educación digital y participación de niños, niñas y adolescentes. La campaña busca que el Congreso avance con una ley que contemple esos puntos durante 2026, antes del cierre del período ordinario.
Para Correa, la responsabilidad no puede recaer únicamente en los chicos ni en sus familias. También deben intervenir las empresas que desarrollan estas tecnologías, las plataformas que permiten su circulación, las instituciones educativas y el Estado.
AA
Todavia no hay comentarios aprobados.