El uso extremo de la IA: Difunden desnudos de menores generados por un ordenador

En las últimas horas se ha conocido que la policía investiga los avisos de varias familias de Almendralejo  que han localizado montajes fotográficos con sus hijas menores de edad. El caso ha generado un revuelo informativo sin precedentes en la localidad. Se trata de  fotomontajes creados por Inteligencia Artificial que simulan desnudos y que se utilizan en muchos casos para chantajear a las víctimas de esta práctica, cada vez más común internacionalmente.

Tal y como reveló el diario El País, una joven de 14 años acudió el pasado martes a su instituto de Almendralejo, un municipio de Badajoz de casi 30.000 vecinos, donde casi todos se conocen. Aquella mañana, la mayoría comentó que había fotos de alumnas desnudas rulando por los móviles. De pronto, un chaval se acerca a ella en mitad del patio y le dice que  ha visto una foto suya desnuda.

Según le explicó la joven a su madre, “también hay niñas que la han recibido”. Sara, su madre, de 44 años, se puso inmediatamente en contacto con la madre de la mejor amiga de su hija, que también acababa de informar a su familia de lo sucedido. Tras la conversación, las madres comenzaron a hacer llamadas.  El caso acababa de estallar y ya había más de 20 niñas afectadas. Es entonces cuando una madre decide crear un grupo de WhatsApp para coordinarse mejor entre todas.

El pasado lunes, según explicaron ellas mismas, ya hay 27 miembros en el chat. En Almendralejo existen cinco centros educativos que dan clase de secundaria y en  al menos cuatro se han difundido imágenes de alumnas desnudas modificadas por inteligencia artificial. 

Fuentes policiales de Extremadura informaron de que les consta la denuncia de, al menos, siete en estos días. El caso está siendo investigado por la policía judicial de Almendralejo.

Mientras tanto  el grupo de madres afectadas continúa creciendo. Cada vez son más las afectadas. Una de las últimas en incorporarse al grupo ha sido Miriam Al Adib, extremeña de 46 años, que trabaja como ginecóloga en el pueblo. Al Adib cuenta con un perfil en Instagram donde la siguen más de 120.000 personas. El pasado domingo hizo un vídeo en directo para contar lo que acaba de pasar en su casa. El vídeo acumula ya más de 70.000 visitas.

Tras las denuncias públicas a través de las redes sociales, la reacción fue de apoyo masivo a todas las madres afectadas, con mensajes privados y públicos que las animan a que continúen y denuncien.

La investigación, según fuentes policiales consultadas por diversos medios de comunicación, sigue abierta. La foto de una de las menores incluía una mosca en la foto del desnudo integral de su hija. Esa mosca es el  logo de la supuesta aplicación que se ha utilizado con todas las menores. Se trata de una aplicación que tiene un mensaje en mayúsculas a modo de bienvenida en su página web: “Desviste a cualquiera con nuestro servicio gratuito”.

Las celebridades, las primeras en sufrir estos ataques

"Me ha llegado un link donde hay fotos mías desnuda editadas y creadas por IA. Aparte de sentirme totalmente utilizada y expuesta, hay algo que hace que me hierva la sangre", denunciaba Laura Escanes a través de X (antes Twitter) el pasado 15 de agosto.

"El cuerpo de una mujer no se utiliza. Ni para el placer, ni para abusar ni para manipular. Me repugna la persona que las haya creado, pero también los que están ahí y les parece divertido y callan", lamentó Escanes a través de las redes. 

Este episodio tuvo lugar pocas semanas después de que otra figura pública, Rosalía, denunciase públicamente que el artista JC Reyes había utilizado fotografías editadas en las que aparecía semidesnuda para promocionar una canción:  "Ir a buscar 'clout' (visibilidad) faltando al respeto y sexualizando a alguien es un tipo de violencia y da asco, pero hacerlo por cuatro 'plays' (reproducciones) lo que da es pena", dijo la cantante catalana en aquella ocasión.

Los desnudos creados por IA: alerta internacional

El último  informe de seguridad digital del FBI puso de manifiesto la nueva y preocupante tendencia delictiva que viene del mundo digital. Según la agencia federal de seguridad estadounidense, los ciberdelincuentes utilizan imágenes en Internet para generar desnudos falsos con inteligencia artificial y chantajear con ellos. Una práctica cada vez más extendida.

Utilizan fotos publicadas en las redes sociales como Instagram y las procesan a través de generadores de imágenes de IA para crear imágenes falsas pero convincentes de desnudos. Luego, extorsionan a las víctimas  exigiendo dinero o fotos reales, en lo que se conoce como sextorsión.

Si bien  esta práctica no es completamente nueva, ya que los delincuentes han empleado selfies de las redes sociales y Photoshop en casos aislados, el verdadero peligro radica en la facilidad de acceso a esta técnica gracias a las nuevas herramientas de deepfake con inteligencia artificial que circulan por Internet y la Deep Web. 

Ahora los delincuentes no necesitan años de experiencia en la manipulación de imágenes, solo requieren unas pocas fotos y el software adecuado. El FBI ha observado un aumento en las denuncias de víctimas en los últimos meses, donde imágenes explícitas falsas, tanto de adultos como de niños, han sido difundidas en sitios pornográficos con fines de extorsión.

En el último año, las herramientas de imágenes generadas por IA se han vuelto increíblemente accesibles para el público en general. Basta con utilizar motores de búsqueda como Bing para generar imágenes ficticias, como las famosas fotos virales falsas del Papa Francisco. 

Aunque la mayoría de los generadores de imágenes de IA públicos no permiten el entrenamiento con conjuntos de fotos específicos ni la generación de contenido pornográfico, existen herramientas de software creadas por la comunidad que se pueden ejecutar en computadoras individuales  sin ninguna restricción.

Las opciones para las víctimas son limitadas y frustrantes. Según el informe del FBI descubierto por BleepingComputer, se recomienda a los padres que supervisen de cerca la actividad en línea de sus hijos y que busquen regularmente su información personal en lugares donde no debería estar. 

Es aconsejable utilizar servicios de búsqueda inversa de imágenes como TinEye para encontrar posibles sitios donde se hayan publicado fotos personales sin el debido consentimiento.