La app de falsos desnudos no tiene responsabilidad penal, pero podría ser acusada de negligencia

La empresa propietaria de la aplicación que usaron los menores de Almendralejo para crear imágenes de niñas desnudas a través de inteligencia artificial no tiene responsabilidad penal en el caso, pero podría ser acusada de "negligencia", según indican expertos en Derecho Penal. 

Estos mismos expertos han explicado que la Agencia Española de Protección de Datos podría actuar contra ella administrativamente, ya que "la empresa no está haciendo nada para impedir que sea usada por menores ni sobre las fotos que se suben".

La posible pena para los jóvenes menores de edad identificados por su presunta relación con la producción de falsos desnudos de chicas de Almendralejo (Badajoz), también menores, a partir de Inteligencia Artificial, sería, en caso de ser juzgado como delito de pornografía infantil, con finalidad educativa, no sancionadora y sin internamiento en régimen cerrado, en el caso de que tengan entre 14 y 18 años, ya que para los menores de 14 años no habría pena.

"Internamiento cerrado no, porque sería una pena menos grave. Podría ser una libertad vigilada, la obligación de asistir a algún tipo de taller o formación, trabajos en beneficios de la comunidad o se puede acordar el alejamiento con las víctimas", han explicado a Europa Press los profesores de Derecho Penal de ICADE Miriam Cabrera y Javier Gómez.

Respecto a si la ley está o no preparada para hacer frente a este tipo de fenómenos, los expertos, en primer lugar, se preguntan si la ley "debe hacer frente a este tipo de fenómenos". "La ley sí que está preparada para hacer frente de alguna manera, establece algunas consecuencias. La cuestión es si queremos que las consecuencias sean más intensas o más gravosas que las actuales", precisa Gómez.

Actualmente, según asegura el experto, una conducta de este estilo "no queda sin respuesta", así que lo que habría que calibrar es "si la respuesta es suficiente o habría que tener una respuesta más contundente", ya que hay leyes que permiten adoptar medidas.

Ambos profesores coinciden en que no conocen ningún caso similar al denunciado en Almendralejo, ya que el mecanismo a través del cual se genera la imagen manipulada "es relativamente novedoso". Ante la posibilidad de poder combinar una imagen real con una creada por el ordenador, las directivas europeas instaban a los Estados a revisar los delitos.

Si las imágenes creadas por los menores de Almendralejo fueran explícitamente sexuales entrarían dentro del delito de creación, posesión y difusión de pornografía infantil. En este caso, se sanciona cualquier conducta, incluso el acceso y la posesión para uso propio.

"En este caso parece que no se trata de conductas sexuales explícitas, entonces entraríamos en el problema de los desnudos, ya que el mero desnudo podría considerarse imagen pornográfica", ha subrayado los expertos, que detallan que los genitales de un menor pueden ser considerados pornografía infantil si tiene fines sexuales.

En referencia a la posible responsabilidad que tiene la empresa dueña de la app con la que se han producido dichas imágenes, los profesores afirman que no tendría ninguna responsabilidad desde el punto de vista penal, al no haber realizado una conducta dolosa en la participación del delito, es decir, no ser consciente de la infracción.

No obstante, matizan que sí podría llegar a prosperar una demanda civil por infracción del derecho a la propia imagen. "Desde el punto de vista de la responsabilidad penal nada en absoluto y, desde el punto de vista de responsabilidad civil es complicado, pero algún juez puede considerar negligencia por parte de la empresa", concretan.

Cualquiera puede ser víctima

Por su parte, Mónica Caellas, profesora de Derecho Penal Tecnológico en la Universitat Internacional de Catalunya (UIC) y abogada penalista, explica que la "gravedad" del caso de los falsos desnudos de menores, manipulados con una app de Inteligencia Artificial, radica, en primer lugar, en que las víctimas son menores y en que "cualquiera" puede ser víctima.

"Cualquiera puede ser víctima de ello y poco puede hacer para no serlo"

En concreto, la experta indica que la "gravedad" que distingue al caso de Almendralejo (Extremadura) de otros parecidos es que "cualquiera puede ser víctima de ello y poco puede hacer para no serlo". Además, añade que estos hechos podrían ser constitutivos de un delito de pornografía infantil, que es "muy grave". "Cualquiera puede ser víctima porque actualmente cualquiera tiene fotografías online y si no las tiene da igual porque todos vamos con una cámara de fotos en el bolsillo", alerta.

Los menores identificados como presuntos autores de la manipulación de las fotografías podrían haber incurrido en delitos de pornografía infantil y, si este no fuera el caso, de un delito contra la integridad moral y delito de injurias. En paralelo, podrían haber cometido un delito de lesiones psíquicas si las víctimas pueden acreditar que se les ha provocado un daño, según ha especificado.

Sobre si la normativa actual es suficiente para poner coto a este tipo de delitos cometidos por menores de edad, Mónica Caellas recuerda que los menores son inimputables cuando tienen menos de 14 años. De este modo, señala que todos los delitos que lo son para un adulto también lo son para un menor. "La diferencia radica en la consecuencia. Lo que no se les aplica son las penas", aclara, para después añadir que "las leyes se hacen para todos" y no para casos específicos.

En este sentido, la experta pone el acento en que la legislación del menor está pensada partiendo de la idea de que es "reconducible" tras la comisión de un delito. "Como sociedad lo hemos de ver así", defiende Caellas, quien cree que no hay que cambiar la ley, sino ver cómo se aplican o se ejecutan las normas. "Creo que leyes tenemos más que suficientes", apostilla, para después señalar que, en su experiencia profesional, ha llevado "algún caso de algún menor que ha cometido un hecho y nunca más ha cometido nada más". No obstante, opina que habría que hacer un estudio sobre si estas medidas funcionan.

Desde el punto de vista de la protección de los menores frente a este tipo de delitos, Mónica Caellas pone de relieve que lo que ha ocurrido con las menores de Almendralejo es "de difícil protección" ya que se trata de "fotos normales y corrientes que después se transforman". "¿Y quién no tiene una foto?", se pregunta.

Sobre la responsabilidad de los titulares de la aplicación, la experta en Derecho Penal Tecnológico cree que habría que ver si la Agencia Española de Protección de Datos puede hacer algo administrativamente contra ellos, ya que "la empresa no está haciendo nada para impedir que sea usada por menores ni sobre las fotos que se suben", pero desde la perspectiva penal ve "difícil" demostrar que pueda haber incurrido en algún tipo de delito.

Prevención y educación para evitarlo

Por otro lado, la experta hace hincapié en la importancia de la prevención y en el fomento de la educación a nivel familiar y escolar. "Que se le de la información necesaria a los niños y las niñas antes de que tengan acceso a estas tecnologías, que no haya tabúes", indica al tiempo que afirma que ahí se está "fallando". "Más que cambiar las leyes, educaría más tanto a padres como a hijos", defiende.

Como ejemplo, destaca casos de sexting, donde se envían a través del teléfono móvil u otro dispositivo con cámara, fotografías o vídeos producidos por uno mismo con connotación sexual. El riesgo está en que una vez enviados estos contenidos, pueden ser utilizados de forma dañina por los demás. "No eran conscientes de que reenviar una foto que han recibido consentidamente o inconsentidamente era delito, y los padres tampoco", relata.