Las autoridades españolas están investigando actualmente a un niño de 17 años porque, según los informes, usó inteligencia artificial para hacer imágenes desnudas profundas de compañeras de clase, que supuestamente intentó vender. La investigación se deriva de quejas de dieciséis mujeres jóvenes en una escuela en Valencia, el sureste de España, quien informó que las imágenes manipuladas de sí mismas circulaban en las plataformas de redes sociales.
La situación luego intensificó a una adolescente en diciembre, una queja ante la policía, que describió cómo los videos generados por IA y las fotos cambiadas que la representan en una representación completamente desnuda se publicaron en una cuenta de redes sociales que se hizo bajo su nombre. De estas imágenes, se afirmó que han sido manipulados de las fotos originales, de modo que se cambian para retratar a los menores involucrados de una manera comprometedora. La Guardia Civil española enfatizó la gravedad de la situación y enfatizó que todas las personas representadas en las imágenes no autorizadas eran menores.
En respuesta a estos inquietantes eventos, el niño de 17 años es investigado por presunta corrupción de menores. Este caso viene después de preocupaciones más amplias sobre el uso de la tecnología para producir y distribuir contenido explícito no consensuado. A principios de este año, el gobierno español indicó planes de introducir una legislación que aborde específicamente el establecimiento de las imágenes sexuales profundas de la IA, para abordarla específicamente, para etiquetarla como un delito. De ahora en adelante, sin embargo, el proyecto de ley propuesto no ha sido reclamado por el Parlamento.
Este problema no está aislado porque un incidente similar tuvo lugar en septiembre de 2023, cuando las autoridades en Extremadura investigaron a quince menores involucrados en la producción de nip nip-nakes de compañeros de clase. Esas personas fueron sentenciadas a un año de libertad condicional, con énfasis en la creciente preocupación y el control legal sobre la IA y sus implicaciones para la privacidad y el permiso entre los menores.
