La policía española ha investigado a un estudiante de 17 años sospechoso de usar inteligencia artificial para hacer y difundir imágenes desnudas de compañeras de clase. Esta investigación comenzó después de informes de 16 niñas en una institución educativa en la región de Valencia que afirmaron que las imágenes sexuales manipuladas de ellas se extendieron en Internet y plataformas de redes sociales.
La situación salió a la luz en diciembre pasado cuando un estudiante presentó una queja formal. Describió cómo las imágenes generadas por IA y un video, que representa su «completamente desnudo», se subieron a un perfil de redes sociales falsos fabricados en su parábola. Según las acusaciones, las autoridades entregaron direcciones IP con respecto a las cuentas a la casa del sospechoso, que finalmente condujo a su identificación.
Actualmente, el joven está siendo investigado para la crucificación de menores. Este caso enfatiza la creciente preocupación por el abuso de la tecnología para explotar a las personas vulnerables, en particular menores.
Este incidente no está aislado en España; Las autoridades han descubierto previamente contenido explícito con menores generados por IA. En respuesta a los crecientes incidentes, el gobierno español declaró planes en marzo para introducir medidas legislativas destinadas a criminalizar el establecimiento de imágenes sexuales no consensuadas generadas por la IA. La legislación propuesta, que se caracteriza como potencialmente la primera de su tipo en Europa, todavía está esperando la aprobación del Parlamento.
