Imágenes sexuales creadas con IA: cómo hablar con adolescentes y prevenir situaciones de violencia digital
Alumnos de una escuela de Lomas de Zamora utilizaron inteligencia artificial para crear imágenes falsas de desnudos de sus compañeras y luego las comercializaron. El caso abrió el debate sobre los riesgos de estas herramientas y el rol que deben asumir las familias y las escuelas.
El caso de Lomas de Zamora involucra a estudiantes que habrían utilizado inteligencia artificial para generar imágenes sexuales falsas de sus compañeras menores de edad
Te podría interesar
El caso ocurrido en una escuela de Lomas de Zamora, donde estudiantes habrían utilizado IA para generar imágenes falsas de desnudos de sus compañeras y luego difundirlas y comercializarlas, generó preocupación entre familias y especialistas.
En ese contexto, la psicóloga, profesora y divulgadora de Educación Sexual Integral (ESI) Mariela Julieta Verzero habló en Una tarde a la vez sobre cómo abordar este tipo de situaciones desde la prevención, el acompañamiento y la educación.
Verzero sostuvo que una de las claves está en no minimizar el daño cuando las imágenes fueron generadas artificialmente. "Sea real o ficticio, o generado con inteligencia artificial, el daño que produce en la salud mental de estas adolescentes" es una dimensión que muchas veces no se llega a dimensionar.
El caso de Lomas de Zamora involucró a estudiantes que habrían intervenido fotografías de compañeras menores de edad para simular desnudos y videos pornográficos. Según la información difundida sobre la denuncia, las imágenes habrían circulado entre otros colegios y en sitios para adultos.
Por qué una imagen falsa también puede generar daño
Verzero cuestionó la idea de que una imagen sexual manipulada mediante inteligencia artificial resulte menos grave por no representar una situación que ocurrió realmente. "Además el rostro es verídico y son imágenes generadas", explicó al referirse al caso puntual. Y remarcó que se trató de imágenes creadas mediante herramientas de inteligencia artificial con resultados realistas.
La especialista señaló que existen tecnologías que pueden utilizarse con fines legítimos, por ejemplo en producciones audiovisuales, pero advirtió sobre el uso que pueden hacer de ellas adolescentes cuando las utilizan para generar material sexual de otras personas.
En este caso habría existido una planificación detrás de la producción y circulación del material. "Habían pagado un recurso y había una explotación económica de ese material", sostuvo.
Para Verzero, el problema no se limita a la tecnología utilizada. También involucra derechos, intimidad y consentimiento. "Esto está pasando con los jóvenes todo el tiempo", afirmó, al referirse a la manipulación de imágenes para colocar a otras personas en situaciones en las que nunca estuvieron.
Cómo empezar a hablar con adolescentes
Frente a una noticia de estas características, la especialista recomendó utilizarla como una oportunidad para abrir conversaciones en las familias y con adolescentes cercanos, aunque no exista un vínculo directo de parentesco.
"Tomar la noticia y ponerla sobre la mesa, empezar a hablar", propuso Verzero. Entre las preguntas que pueden servir como disparador mencionó consultar si conocen algún caso, si a alguna compañera le ocurrió algo similar o qué harían si alguien les comparte una imagen de este tipo.
Para la especialista, no se trata de esperar a que ocurra una situación para hablar sobre sexualidad, intimidad o violencia digital. "La ESI, la educación sexual, no es una charla. No es hoy hablamos de sexualidad o te enseño cómo cuidarte, cómo ponerte el preservativo. La educación sexual es todo esto, hablar sin barreras con nuestros hijos e hijas", explicó.
Por eso, planteó que una noticia como la de Lomas de Zamora puede servir para iniciar una conversación a partir de lo que los propios adolescentes piensan sobre el caso.
"¿Viste lo que hicieron los amigos, las amigas, los compañeros, las compañeras de la escuela? ¿Qué te parece? ¿Qué pensás?", ejemplificó.
A partir de esas respuestas, indicó, los adultos pueden avanzar con otras preguntas para conocer si el adolescente atravesó una situación similar o si sabe de algún caso entre sus compañeros.
El rol de las familias y las instituciones
Verzero también puso el foco en la responsabilidad compartida entre las familias y las instituciones. "Yo pienso que la ESI es en conjunto, entre las familias y las instituciones, no solo educativas", sostuvo.
En ese sentido, remarcó que no es necesario que el adulto sea el padre o la madre de un adolescente para intervenir desde el acompañamiento. También puede tratarse de un tío, una prima, un docente u otro adulto referente.
La especialista destacó además la importancia de que los adultos conozcan las herramientas tecnológicas que utilizan los adolescentes, aunque reconoció que se trata de un desafío frente a la velocidad con la que cambian las plataformas y las tecnologías.
Pero planteó que el problema no puede analizarse solamente desde el funcionamiento de la inteligencia artificial. "Los derechos no" cambian, señaló al remarcar que, aunque la tecnología avance, continúan vigentes los derechos vinculados a la intimidad y al respeto por el cuerpo de otras personas.
"Hoy por hoy, la inteligencia artificial es una gran herramienta para un montón de cosas, pero está sin regular y tiene... no tiene límites", afirmó.
Qué pasa cuando las víctimas son menores
La especialista remarcó que la difusión de imágenes sexuales de menores de edad en Internet constituye un delito y que el alcance de la circulación digital agrava la situación.
En el caso de Lomas de Zamora, las familias denunciaron que las imágenes fueron creadas a partir de fotografías de las alumnas y posteriormente difundidas. El caso quedó bajo investigación del Fuero de Responsabilidad Penal Juvenil de Lomas de Zamora.
La especialista también planteó una discusión sobre la forma de abordar a quienes participaron de estas situaciones dentro de una comunidad educativa.
"Las que trabajamos en género decimos que es injusto trabajar o correr a las víctimas de la situación. Lo que hay que hacer es trabajar sobre quienes agredieron", sostuvo.
En ese sentido, consideró que los estudiantes señalados como responsables deben atravesar un proceso antes de volver a compartir el mismo espacio educativo con las víctimas.
La ESI como herramienta de prevención
A pocos días de cumplirse los 20 años de la Ley de Educación Sexual Integral, Verzero defendió su rol frente a las nuevas formas de violencia que aparecen con el avance de la tecnología.
"La educación sexual integral es la herramienta, es la única herramienta que ha comprobado ser eficaz para prevenir violencias y más violencias de este tipo", afirmó.
Las estadísticas muestran el impacto de la ESI en la detección de situaciones de violencia sexual contra niños, niñas y adolescentes. Según el dato que mencionó durante la entrevista, entre el 70% y el 80% de las situaciones detectadas ante el Ministerio Público Tutelar fueron posteriores a una clase de ESI.
Por eso, planteó que las escuelas incorporen estos temas a sus contenidos y aprovechen los recursos disponibles sobre violencia digital.
"Hay que apoyarla a la ESI, hay que bancarla, hay que acompañar la currícula en las escuelas y hay que incorporar todos estos temas porque la tecnología avanza y estos temas están a la orden del día", concluyó.
