Imágenes sexuales falsas con IA: qué deben hacer las escuelas

Las escuelas argentinas enfrentan un problema concreto: imágenes sexuales falsas creadas con inteligencia artificial a partir de fotos públicas de alumnas y difundidas sin consentimiento. Casos denunciados en Lomas de Zamora e Ituzaingó, junto con antecedentes en colegios de la Ciudad de Buenos Aires, impulsan a revisar cómo prevenir, proteger a las víctimas y preservar pruebas.

Las imágenes sexuales falsas con IA pueden fabricarse en pocos segundos usando una fotografía cotidiana, incluso si la persona nunca produjo ni compartió material íntimo. En los casos informados, las imágenes habrían circulado por grupos de WhatsApp, Telegram y otros canales digitales, con efectos concretos sobre alumnas y sus comunidades educativas.

Qué ocurrió en los colegios involucrados

En el Colegio Modelo de Lomas de Zamora, un grupo de alumnos habría utilizado inteligencia artificial para crear imágenes sexuales falsas de compañeras y compartirlas junto con sus nombres y fotografías tomadas de redes sociales. Las familias estiman que habría entre 30 y 40 alumnas afectadas, aunque esa cifra forma parte de sus declaraciones y no equivale a una cantidad judicialmente confirmada.

La causa está a cargo del fiscal Mariano Bonilla, de la UFI N.° 6 del Fuero de Responsabilidad Penal Juvenil de Lomas de Zamora. Hay cuatro adolescentes identificados, se secuestraron dispositivos electrónicos y se solicitaron medidas cautelares y prohibiciones de acercamiento. Según fuentes cercanas a la investigación citadas por Clarín, hasta el momento no se habría identificado la participación de una persona adulta.

El colegio dispuso que los estudiantes identificados cursaran de manera virtual y tenía previsto definir sanciones el lunes 19 de octubre. Como esa fecha es posterior a la fecha de referencia de esta nota, el resultado de esa decisión queda pendiente.

El caso de Ituzaingó muestra cómo se amplía la circulación

En Ituzaingó, una adolescente de 15 años recibió mensajes de desconocidos que la invitaban a salir y afirmaban haber obtenido su teléfono mediante un grupo de Telegram. El enlace enviado llevaba a un chat donde se compartía contenido pornográfico.

Según la denuncia de su madre, un alumno de cuarto año del Colegio Thomas Edison habría reconocido que descargó fotografías de las redes sociales de la adolescente, las manipuló con inteligencia artificial y las publicó en ese grupo. La investigación quedó a cargo de la Fiscalía de Responsabilidad Penal Juvenil N.° 2 de Morón y fue caratulada como presunta tenencia de representaciones sexuales de menores de 18 años con fines de distribución o comercialización.

Estos hechos se encuentran bajo investigación. La existencia de una denuncia o de una imputación no permite presentar como probada la responsabilidad de las personas señaladas.

Qué preocupa a las escuelas sobre las imágenes sexuales falsas con IA

Martín Zurita, secretario ejecutivo de la Asociación de Institutos de Enseñanza Privada de Argentina (AIEPA), dijo a Clarín que la preocupación por el uso de inteligencia artificial aparece cada vez más en reuniones con directivos y representantes legales. La entidad afirma que acompaña a instituciones mediante instancias de capacitación y que las guías y protocolos oficiales ofrecen un marco para intervenir.

El problema no se limita a la conducta dentro del establecimiento. Las imágenes pueden producirse desde dispositivos utilizados en los hogares y circular fuera del horario escolar. Por eso, la respuesta requiere coordinación entre la escuela y las familias, sin trasladar a las víctimas la carga de cambiar de curso, limitar su asistencia o abandonar sus espacios habituales.

La especialista en violencia digital Ana Correa sostuvo, también en declaraciones citadas por Clarín, que el análisis debe incluir a las plataformas, las tiendas de aplicaciones, los buscadores y los servicios que facilitan la creación, difusión o eventual monetización de ese material. Esa es una interpretación sobre las responsabilidades del ecosistema digital, no una conclusión judicial aplicable automáticamente a cada caso.

Qué datos disponibles permiten dimensionar el fenómeno

Un informe de la Defensoría del Pueblo de la Ciudad de Buenos Aires, realizado sobre 912 estudiantes de entre 12 y 19 años, indicó que el 1% dijo haber sido víctima directa de imágenes o videos manipulados con inteligencia artificial y que el 13% conocía casos en su entorno escolar. Además, el 43% afirmó haber recibido material manipulado con estas herramientas.

Los porcentajes describen las respuestas de ese relevamiento y no permiten extrapolar por sí solos la situación a todas las escuelas del país. Sí muestran que el contacto con contenidos manipulados ya forma parte de las experiencias digitales de una parte del alumnado.

En el plano internacional, Security Hero informó que en 2023 analizó más de 95.000 videos deepfake y que el 98% era pornográfico o sexualmente explícito. El Tech Transparency Project, por su parte, identificó aplicaciones de desnudez artificial que acumulaban 483 millones de descargas y más de 122 millones de dólares en ingresos estimados. Se trata de investigaciones citadas por la fuente original, con metodologías y alcances que deben considerarse antes de compararlas con los datos escolares argentinos.

Qué contempla el protocolo señalado por AIEPA

El protocolo que AIEPA indica a sus escuelas asociadas establece, como primeras medidas, comunicar la situación a la inspección de la Dirección General de Escuelas y realizar la denuncia ante el Ministerio Público Fiscal, o ampliarla si ya existiera una presentación previa.

También plantea proteger a las alumnas, disponer la prohibición de contacto cuando corresponda y concentrar las adecuaciones principalmente en los estudiantes señalados, no en las víctimas. Además, propone mantener separado el proceso de convivencia escolar de la investigación penal, con participación de las familias.

En la práctica, una institución necesita registrar cuándo detectó el contenido, conservar la información disponible sin volver a difundir las imágenes, identificar los canales de circulación y activar los organismos competentes. La forma concreta de actuar depende de la jurisdicción, de la edad de las personas involucradas y de las características del material.

Qué marco legal aparece en estos casos

La Ley 27.736, conocida como Ley Olimpia, incorporó la violencia digital a la Ley 26.485 de protección integral para prevenir, sancionar y erradicar la violencia contra las mujeres. La norma reconoce formas de violencia ejercidas mediante tecnologías y contempla la difusión no consentida de material íntimo o de desnudez, incluso cuando haya sido editado. También prevé herramientas judiciales relacionadas con el retiro de contenidos y la preservación de pruebas.

La fuente señala que la legislación no describe de manera exhaustiva todas las conductas vinculadas con la creación, distribución y comercialización de imágenes sexuales falsas generadas con inteligencia artificial. Cuando hay menores de edad, pueden intervenir otras figuras según los hechos investigados y el tipo de material.

Un antecedente de Córdoba citado en la noticia muestra que una cámara confirmó la elevación a juicio de un joven acusado de manipular fotografías de compañeras, publicar las imágenes en una página pornográfica y asociarlas con sus nombres y perfiles de Instagram. El tribunal consideró que los hechos podían encuadrarse como lesiones graves calificadas por mediar violencia de género, al admitir que el daño psíquico puede constituir una lesión penal aun sin una lesión física. Ese criterio corresponde a un caso concreto y no reemplaza el análisis de cada expediente.

Qué debería priorizar una escuela ante una denuncia

La prioridad es proteger a la estudiante afectada, evitar nuevos contactos y preservar la información necesaria para la investigación. La escuela no debería exigirle que demuestre por sí sola el origen de la imagen ni convertirla en responsable de explicar su circulación.

También resulta necesario diferenciar tres planos: la contención y protección dentro de la institución, el proceso de convivencia escolar y la denuncia ante las autoridades judiciales. Las sanciones internas no sustituyen la investigación penal, y una investigación penal en curso no elimina la obligación de la escuela de cuidar a las personas afectadas.

Para las familias, guardar capturas de los mensajes, usuarios, enlaces, fechas y grupos puede ayudar a documentar el caso, siempre evitando reenviar las imágenes sexuales. La denuncia debe realizarse ante los organismos correspondientes de la jurisdicción; ante una situación concreta, es recomendable solicitar orientación profesional y priorizar la seguridad de la adolescente.

La novedad no está solamente en la herramienta utilizada, sino en la velocidad con que una imagen falsa puede convertirse en una forma de hostigamiento escolar. Para evaluar la respuesta institucional, las familias pueden preguntar qué protocolo se activó, cómo se protege a la víctima, quién preserva la evidencia y qué organismo interviene.