Imágenes falsas con IA en las escuelas de Santa Fe: cómo actuar y qué propone el proyecto para sancionar estas prácticas

El avance de las herramientas de inteligencia artificial abrió un nuevo frente de preocupación en el ámbito educativo: la creación y circulación de imágenes manipuladas con IA, una forma de violencia digital que afecta cada vez a más estudiantes y plantea nuevos desafíos para las instituciones escolares y las familias.

En la provincia de Santa Fe, uno de los casos recientes se registró en San Justo, donde un adolescente de 14 años utilizó inteligencia artificial para “desnudar” a, al menos, seis chicas y viralizar las imágenes.

A esto se suma un nuevo caso en la ciudad de Rosario, donde denunciaron a tres estudiantes por tomar imágenes de al menos 27 compañeras y modificarlas con inteligencia artificial. Las imágenes alteradas habrían sido ofrecidas para la venta en grupos de WhatsApp.

Legislación vigente en Santa Fe

Frente a este escenario, Santa Fe cuenta con la Ley EMA (Ley Provincial Nº 14.471, promulgada el 26 de agosto de 2026), que crea el Sistema Provincial para la Prevención y Abordaje Integral de la Violencia Digital en el Ámbito Educativo. A nivel nacional, la Ley Olimpia incorporó la violencia digital como una modalidad de violencia de género en el marco de la Ley 26.485.

Sin embargo, la prevención no siempre alcanza para evitar que estas situaciones ocurran. Cuando las imágenes ya fueron creadas o difundidas, surgen otras preguntas: ¿qué acciones legales se pueden tomar? y ¿qué pueden hacer las familias y las instituciones educativas para proteger a las víctimas y frenar la circulación de las imágenes?

Denuncia formal y resguardo de evidencia: la guía de los expertos

En este marco, Soledad Martínez, especialista en ciberseguridad, habló con AIRE y explicó cómo actuar frente a estas situaciones. "Si hay víctimas, siempre hay que hacer la denuncia. No somos nosotros los que sabemos o no si estamos ante un delito penal o ante una falta". Respecto a los lugares a donde acudir, la experta recomendó "dirigirse a lo que son los centros de denuncia correspondientes o a las mismas comisarías".

A la hora de llevar el caso frente a la justicia o a la fiscalía, la forma en que se recolecta la información resulta determinante para que el caso prospere:

• Priorizar URLs y perfiles: para incorporar a la denuncia, es imprescindible aportar los enlaces directos (URLs) y los nombres de usuario o perfiles donde se almacena y comparte el contenido.
• Limitaciones de las capturas de pantalla: las imágenes estáticas de pantalla poseen una validez probatoria reducida si no están acompañadas por un proceso formal de verificación. Para que sean útiles, se debe dejar visible las URLs, la fecha y la hora exacta de la captura.
• El rol de las instituciones educativas: en el marco de la Ley EMA, las escuelas tienen la responsabilidad de aplicar protocolos de resguardo de la evidencia digital cuando los hechos involucren a miembros de la comunidad educativa.

La especialista en ciberseguridad Soledad remarcó que las capturas de pantalla pierden valor probatorio si no incluyen la URL, la fecha y el horario exacto del perfil donde se difunden las imágenes.

Herramientas digitales para eliminar imágenes

Frente a la difusión de contenido íntimo sin consentimiento e incluso de imágenes falsas generadas con IA, existen plataformas internacionales gratuitas que operan desde Argentina para pedir la eliminación del material:

• Take It Down: administrada por el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), está destinada a menores de 18 años. Permite retirar tanto fotografías reales como contenido íntimo falso generado con inteligencia artificial.
• StopNCII.org: enfocada en personas adultas, aplica el mismo mecanismo de identificación criptográfica para evitar la difusión de imágenes sin consentimiento en redes sociales y sitios asociados.

El procedimiento se ejecuta desde el propio teléfono o computadora del afectado. Para que el sistema pueda identificar el archivo en internet, es imprescindible seleccionar la imagen manipulada por la IA, ya que la fotografía original con ropa no sirve para generar la coincidencia técnica. A partir de esa foto falsa, la herramienta crea un código único que se envía a las plataformas adheridas para que eliminen las copias existentes y bloqueen futuras publicaciones.

Es importante tener en cuenta que estas herramientas tienen limitaciones: no operan sobre aplicaciones de mensajería con cifrado de extremo a extremo (como WhatsApp o Telegram) ni abarcan la totalidad de sitios web. Por este motivo, los especialistas recomiendan complementar el trámite digital reportando el contenido de forma directa en cada red social donde se detecte la publicación.

Acompañamiento familiar y prevención desde el hogar

Martínez enfatiza que la prevención primaria comienza en el núcleo familiar. La primera medida preventiva radica en mantener conversaciones abiertas y periódicas con los jóvenes sobre los riesgos y las transformaciones de la vida digital.

Asimismo, resulta clave que padres, madres y tutores conozcan el ecosistema digital donde interactúan los adolescentes. La dinámica social de los jóvenes excede por completo a las redes sociales tradicionales, por lo que comprender las aplicaciones, foros y comunidades virtuales que frecuentan es condición indispensable para detectar señales de alerta y ofrecer pautas de cuidado efectivas.

La diputada provincial Celia Arena presentó un proyecto para modificar el Código de Faltas y sancionar la creación, tenencia y venta de imágenes íntimas generadas con inteligencia artificial.

Cómo es el proyecto de Santa Fe para castigar la difusión de imágenes creadas con IA

A pesar de los avances en materia de violencia digital, como la Ley Olimpia a nivel nacional y la Ley EMA en las escuelas santafesinas, persiste un vacío legal en cuanto a las sanciones para quien crea y difunde imágenes íntimas generadas con inteligencia artificial. Para abordar esta problemática, la diputada Celia Arena impulsa un proyecto que propone modificar el Código de Faltas provincial (Ley Nº 10.703).

“Con la Ley Olimpia le pusimos nombre, qué era violencia digital; con la Ley EMA buscamos prevenir en el ámbito educativo, y ahora vamos por una sanción”, sostuvo la legisladora en una entrevista con AIRE.

La iniciativa busca ampliar el alcance del artículo 84B, que actualmente contempla la difusión de imágenes íntimas reales, para incluir también aquellas creadas o manipuladas con IA. “Nuestro proyecto de ley justamente lo que propone es la modificación del Código de Faltas como una forma de cubrir ese vacío legal”, explicó Arena.

De aprobarse la reforma, las sanciones podrían alcanzar a quienes generen o manipulen estas imágenes, las difundan, comercialicen o financien su circulación, así como a quienes las posean a sabiendas de su origen ilícito.