En una revelación inquietante, la experta Clare McMlynn ha criticado el video de IA sobregenerador de Elon Musk, Imagin, por producir clips sexualmente explícitos de la estrella del pop Taylor Swift sin ninguna razón. McMlynn, profesor de derecho, sugirió que este comportamiento refleja una elección calculada de diseño en lugar de accidentes puramente de misógino dentro de la tecnología.
Según un informe de The Verge, se descubrió que el modo «picante» recientemente introducido de Grok Imagine hacía videos en topless sin censura de Swift, incluso cuando los usuarios no solicitaron contenido sexual. Esto indica una supervisión sustancial, ya que se dice que la plataforma no ha implementado protocolos de verificación de edad adecuados que han sido impuestos por la ley desde julio.
XAI, la compañía responsable de Grok, ha sido contactada para una declaración sobre estas acusaciones. En particular, la política de usuarios aceptable de la empresa prohíbe explícitamente la exhibición de personas de manera pornográfica.
McGlynn señaló: «La producción de este contenido sin indicaciones del usuario ilustra el sesgo misógino arraigado profundo en gran parte de la tecnología de IA. Las plataformas como X tienen la posibilidad de evitar tales eventos, pero eligen no hacerlo». Esta circunstancia no es un incidente aislado; La parábola de Taylor Swift ha sido operada previamente en falsificaciones profundas pornográficas que recibieron una atención generalizada en enero de 2024.
En un experimento realizado por The Verge, los periodistas descubrieron que cuando dieron la tarea de IA para hacer contenido con Swift con Coachella, las imágenes y videos muy explícitos generados sin una solicitud específica de dicho contenido. Los clips resultantes mostraron veloz en ropa considerablemente reveladora, una manifestación de las posibilidades problemáticas de la IA.
Además, mientras probaba Grock Imagine, el periodista Jess Weatherbed señaló la velocidad alarmante con la que el contenido explícito de la IA entregó y explicó: «No pregunté de ninguna manera quitarse la ropa». Los informes de Gizmodo repitieron hallazgos similares, que describen salidas explícitas y ocasionalmente encuentran contenido borrosa o se etiquetaron.
A pesar de registrarse bajo una nueva cuenta y la provisión de su fecha de nacimiento, Weatherbed señaló que no había procesos sustanciales de verificación de edad. El nuevo marco del Reino Unido requiere una verificación de edad estricta para plataformas que presenten explícitamente material, lo que enfatiza la brecha legal que hace posible dicho contenido.
Ofcom, el regulador de medios, reconoció los riesgos crecientes que las herramientas generativas de IA plantean en espacios en línea, especialmente para menores, y enfatizó su dedicación para implementar medidas de protección. Según la legislación británica actual, generar falsificaciones profundas pornográficas es estrictamente ilegal en casos que involucran porno o menores de venganza; Un cambio propuesto que tiene como objetivo prohibir categóricamente todas las falsificaciones profundas pornográficas no consensuadas está esperando la determinación formal.
La baronesa Owen, que estaba a favor de la enmienda propuesta en la Cámara de los Lores, enfatizó la importancia de los derechos de las mujeres para controlar sus imágenes íntimas, independientemente de su condición de celebridades. Pidió una acción inmediata del gobierno, con referencia a la urgencia ilustrada por los incidentes actuales con defectos profundos.
El Ministerio de Justicia reflejó estos sentimientos y condenó el establecimiento de profundidades sexualmente explícitas sin permiso como dañino e indicativo de una violencia social más amplia contra las mujeres. Siguiendo casos anteriores en los que Deepfakes se volvió viral con la ayuda de la imagen de las búsquedas temporales de Swift, X que están vinculadas a su nombre, mientras afirmó eliminar activamente el contenido ofensivo y castigar las cuentas responsables.
En última instancia, probar la imagen de Grock en una figura controvertida como Taylor Swift revela deficiencias significativas en las medidas de seguridad de la tecnología. A medida que crece la preocupación por las falsificaciones profundas, el llamado a regulaciones y garantías sólidas continúa recibiendo un impulso. Los representantes de Taylor Swift también han sido contactados para hacer comentarios sobre este último desarrollo.
