El caso de las fotografías de niñas desnudas creadas por Inteligencia Artificial (IA) por parte de menores de 12 a 14 años en Almendralejo (Badajoz), no solo ha puesto la alarma sobre una práctica más común de lo que se creía, con un nuevo caso que ha salido a la luz en Ayamonte (Huelva), sino que ha reabierto el debate sobre el control del uso de la tecnología en menores y el acceso a la pornografía.

El 98% de los niños españoles de diez a 15 años utiliza Internet de forma habitual desde la pandemia, según un estudio del Observatorio Nacional de Tecnología y Sociedad (ONTSI). Según una encuesta realizada por la empresa de ciberseguridad Kaspersky de 2021, el 61% de los menores recibe su primer dispositivo entre los ocho y 12 años.

En esta franja de edad, siete de cada diez disponen de un teléfono móvil, con su consiguiente acceso a Internet. Este estudio revela que en los municipios más pequeños se registra un mayor porcentaje, como el caso de Almendralejo, siendo la brecha digital de 4,6 puntos porcentuales con respecto a las grandes ciudades.

El director clínico de la Asociación Dale Una Vuelta y psicólogo, Alejandro Villena, aduce a la falta de control del uso de la tecnología en menores una de las causas de que los menores pudieran crear estas imágenes. "Ese acceso ilimitado que hay, con esa falta de control y de regulación también contribuye a que haya acceso a los menores. Primero por parte de las familias, que no tienen ninguna norma en casa, ni ninguna estructura respecto a las pantallas y luego, por otro lado, también respecto a organismos estatales o a las propias plataformas, que a veces pues no tienen un control de regulación de edad o de verificación de datos", explica.

A la revolución tecnológica que han supuesto los teléfonos móviles inteligentes, la inmensidad de Internet y las redes sociales, se les suma un nuevo ingrediente: la Inteligencia Artificial. "La IA es un nuevo medio que tiene la tecnología para hacer diversas cosas: algunas muy buenas y otras que pueden llegar a invadir la privacidad y dañar a otras personas", señala Villena.

Los conocidos como deepfakes sexuales, imágenes sexuales creadas por IA, no son nuevos, pero sí ha crecido la cantidad y popularidad de herramientas para hacerlos. Esta tecnología estaba antiguamente "en manos de unos pocos". Ahora "cualquiera puede hacerlo, como se demuestra en esa ocasión", ha explicado el director de investigación y concienciación de la empresa de ciberseguridad Eset, Josep Albors, a EFE.

Para jóvenes y adolescentes, "que son nativos digitales", acceder a este tipo de herramientas es "sencillo y gratuito", porque en la mayoría de aplicaciones no hay que registrarse o basta con un correo electrónico, indica Juan Ignacio Rouyet, profesor especializado en Ética e Inteligencia Artificial de la Universidad Internacional de La Rioja (UNIR). Fabricar imágenes falsas de desnudos con la ayuda de la inteligencia artificial (IA) es algo "relativamente fácil", solo hace falta una imagen real, una fotografía cualquiera, apunta Rouyet.

En el caso de Almendralejo, el experto considera que la sociedad, los padres, los educadores y los propios jóvenes tienen que concienciarse de que "estas prácticas no son chiquilladas". A pesar de que los autores sean menores, "delitos que van mucho más allá de una simple gracia entre adolescentes. Son delito", subraya y "hay que verlo y afrontarlo como tal". 

La problemática del acceso a la pornografía

Cerca de siete de cada diez adolescentes consumen pornografía, y su puerta de entrada es a los 12 años, edades de los presuntos autores de las imágenes, según un informe de Save The Children. Este mismo estudio también revela que el 54,1% de los adolescentes, en su mayoría los chicos, cree que la pornografía da ideas para sus propias experiencias sexuales y al 54,9% le gustaría poner en práctica lo que ha visto. 

En esta misma línea, Alejandro Villena apunta sobre los menores de Almendralejo: "Nunca puedes saber exactamente qué influencia ha tenido, pero es evidente que hay un efecto contagio, lo que se llama en la psicología el aprendizaje por observación: el aprendizaje vicario que afecta a las normas espejo. En estudios con adultos hemos visto cómo estos centros se pueden alterar debido al consumo de pornografía y favorecer los niveles de agresividad, de cosificación, de utilización del otro ser humano para para obtener placer, para dominarle o aumentar la dinámicas de poder. Sabemos que estos niños, que empiezan a edad tan temprana, no tienen autocontrol. Muchas veces tienen desconocimiento sobre lo que es la sexualidad, a veces por inocencia sin maldad, y otras veces con otras variables de personalidad de impulsividad, de hostilidad o de falta de regulación de las emociones".

Y es que la pornografía es la "gasolina" de ese cúmulo de desconocimiento y falta de autocontrol. "Con la gasolina que es la pornografía, al final hace de mediador para reproducir estos comportamientos, o para utilizar a las personas para imitar estos modelos pornográficos. Finalmente, de alguna manera hacen daño a personas imitando las agresiones grupales o la exposición de los demás. De hecho hay algunos contenidos recientes que se visualizan con bastante frecuencia, como el denominado porno venganza, que es difundir material de ese tipo. Es habitual en los grupos de WhatsApp entre algunos hombres enviarse contenido de otras mujeres sin su consentimiento. Parece que forma parte de la sociabilización, desgraciadamente, como si hacerlo fuera algo heroico o un trofeo. Es bastante peligroso", desarrolla el psicólogo y sexólogo clínico.

Un problema más social que legal

Los diez menores de edad identificados por el caso de Almendralejo tienen entre 12 y 14 años, eso implica que únicamente los que hayan cumplido 14 años son imputables, según la Ley del Menor. Más allá de una sanción penal o civil, uno de los objetivos primordiales pasa por la concienciación. Además de un nuevo marco legal ante el nuevo mundo que abre la IA, la educación de los menores en su uso es vital.

Será necesaria "una educación previa para prevenir y también una concienciación de lo ocurrido cuando se intervenga. Un nuevo aprendizaje para unas nuevas habilidades, a la hora de tratar a las personas desde la empatía y el respeto. Cultivar todas esas áreas también va a ser fundamental", señala Villena.

"Cuando chavales tan jóvenes no ponen en valor lo que es vulnerar los cuerpos de las mujeres, publicarlos, creo que tenemos que echar un pasito para atrás y empezar a reconocer que algo está fallando en la sociedad", ha criticado Gloria Angulo, de la asociación feminista Malvaluna, en una rueda de prensa que varias agrupaciones han ofrecido este jueves en Badajoz.

Las herramientas de Control Parental en los dispositivos que usan los menores no son "la solución definitiva", explica Josep Albors, quien considera más importante explicar a los jóvenes que este tipo de actividades "no son un juego", y destaca que la persona a quien se lo está haciendo "es una víctima que sufre por ello".

La importancia del "acompañamiento" a las víctimas

En estos casos de ciberacoso, las niñas experimentan una gran angustia emocional que puede llevar a problemas de salud mental a largo plazo, como depresión y ansiedad, destaca Kaspersky. "Lo mejor es poder hacer un acompañamiento, escucharlas, dar un apoyo familiar y un soporte en el colegio", explica Villena sobre los pasos a seguir con las menores. 

"Es necesario un soporte psicológico bueno, trabajar todo el shock y todas las emociones que ha podido vivir para que las vaya gestionando y expresando. Así se evalúa el impacto que tiene en su vida, en su afectividad y en su psique. En función de eso, se pueden ir adoptando unas medidas psicoterapéuticas u otras, que generalmente, van a consistir en un acompañamiento y en fortalecer de nuevo la autoestima. De alguna manera es un acto de poder recuperar todo eso que ha perdido, que probablemente le haya hecho mucho daño, en su autoconcepto y en su autoestima a nivel social", desarrolla el psicólogo.

Estos episodios también pueden condicionar el comportamiento social de las menores en el futuro, afectando a los roles relacionados con el género, a los comportamientos de violencia o a patrones de victimización que surgen en sus vidas más adelante, señala el informe de Kaspersky.

"Lo importante es siempre proteger a la víctima y ayudarla a que pase el proceso emocional de la forma más serena posible", resume Villena sobre la atención a las menores.

El miedo al "efecto llamada"

El caso de Almendralejo no es el primero de esta índole, pero sí el que mayor trascendencia ha tenido en los medios. La razón por la que no se conocían estos casos era por evitar el denominado "efecto llamada". El jefe del Grupo de Protección al Menor de la Unidad Central de Ciberdelincuencia, Javier Izquierdo, confirmó que existen otros previos, "pero hasta ahora no habían saltado a la opinión pública de esta manera". 

La Policía intenta dar "la menor publicidad posible para evitar el efecto llamada que podrían producir" estos casos. Es por ello que este jueves ha trascendido una investigación que se produjo el pasado mayo, cuando la Guardia Civil identificó a un menor de Ayamonte por modificar fotos de compañeras y difundirlas en las redes sociales.

Se trata de "hechos extremadamente graves", por lo que se debe "concienciar a la población del riesgo de esta tecnología y de su mal uso", y en particular a los menores, a los que "no se trata de meterles miedo, sino de educarlos en una nueva cultura de la ciberseguridad", ha remarcado Izquierdo. 

La IA, la realidad virtual y las redes sociales son parte del día a día, y cada vez más. Razón de más por la que "tenemos que ser conscientes y plantear unos cimientos básicos de cómo vamos a tratar este tema. Es hora de que se actúe dentro de un marco de regulación legal para proteger a los menores. También tiene que haber una responsabilidad de las propias empresas corporativas, porque si no va a ser muy difícil", concluye el psicólogo Alejandro Villena.