Las celebridades están demasiado familiarizadas con el mundo de los profundos, el lenguaje hablado para los videos generados por la inteligencia artificial que los actores y otros talentos de Hollywood muestran falsamente o dicen cosas que nunca han sido acordadas.
Para protegerse, actores como Steve Harvey, la agencia de talentos de Beverly Hills WME y los estudios han llamado en la ayuda de Vermillio, una compañía en Chicago que sigue las similitudes digitales de las personas famosas y la propiedad intelectual en línea. Dependiendo de lo que quieran sus clientes, puede eliminar el material.
Pero a medida que la tecnología AI continúa mejorando y se pone más ampliamente disponible para el público en general, la gente común también está estafada.
Ahora Vermillio dice que ofrece una versión de su servicio a todos de forma gratuita.
La medida se produce a medida que las profundidades cada vez más convincentes continúan extendiéndose en línea, lo que dificulta que los sitios de redes sociales monitoreen tales actividades. En 2019 hubo alrededor de 18,000 falsificaciones profundas en todo el mundo y este año hubo alrededor de 2 billones de creaciones generativas, dijo el director ejecutivo y cofundador de Vermillio que Neely.
Eso deja a los Joes promedio con un riesgo creciente de ser simulado en línea, con poco uso.
«No podemos esperar a que los gobiernos resuelvan este problema», dijo Neely. «No podemos esperar a que los legisladores resuelvan este problema. No podemos esperar a que otras personas resuelvan este problema. Simplemente dijimos que es bueno hacerlo, así que solo tenemos que hacerlo».
Con este paso, Vermillo toma un modelo clásico «freemium» en el servicio parcial -biedt sin costos y funciones de recolección para funciones adicionales.
Así es como funciona.
Con la ayuda de su tecnología rastreada, la compañía marca contenido problemático. Para los clientes que pagan, Vermillio puede enviar solicitudes de eliminación a sitios como YouTube o Instagram. Además, Vermillio dice que los clientes pueden ganar dinero con sus datos al aumentarlos.
Las personas que se registran en la versión gratuita presentan información sobre sí mismas, como su nombre, fecha de nacimiento y manijas de redes sociales en sitios como Instagram o YouTube.
Vermillio usará esa información para crear un «modelo de semejanza» para buscar en Internet posibles banderas rojas con la identidad del usuario. Vermillio luego advierte al usuario lo que existe en línea. Por ejemplo, si alguien hiciera una cuenta falsa de Instagram de ese usuario, Vermillio la marcaría.
Los usuarios están informados de este tipo de contenido y pueden decidir por sí mismos lo que quieren permitir o tomar medidas para eliminar. Si el usuario quiere que Vermillio compre en el contenido inapropiado, los usuarios tendrían que actualizar a una cuenta pagada, que comienza en $ 10 por mes e incluye cinco solicitudes mensuales de recolección.
Aunque muchas plataformas de redes sociales brindan a los usuarios una opción para marcar contenido problemático, Vermillio dijo que es más rápido y más efectivo que los usuarios que van directamente a YouTube o Instagram para remediar la situación. Ha creado una red de socios y puede aumentar una hora en una hora, dijo la compañía.
Los líderes de Vermillio dijeron que algunos ejemplos de la vida real de falsificaciones profundas incluyen voces famosas que se utilizan para recaudar dinero para instituciones falsas o organizaciones terroristas, y estudiantes de secundaria que crean pornografía falsa de sus compañeros de clase.
«Influye en la gente común en el sentido de que están estafados por falsos profundos, pero también afecta a los adolescentes, por lo que las personas tienen que entender dónde están», dijo Kathleen Grace, directora de estrategia de Vermillio. «Esta es una manera fácil de hacer eso».
Aunque los perfiles falsos de las redes sociales han existido durante años, «la IA generativa acaba de lanzar gases», dijo Grace.
La compañía dijo que cientos de personas usan los servicios de Vermillio, pero no especificaron ninguna canción. Hacia el final del año, la compañía espera tener miles.
Neely dijo que la compañía no es rentable y se negó a compartir cifras de ingresos. La revista Time informó que los ingresos de Trácido de Vermillio han aumentado verticalmente desde abril de 2023 hasta abril de 2024. La compañía gana dinero a través de las versiones pagas de su servicio y licencias. Vermillio ha recaudado $ 24 millones en financiamiento.
Las empresas de Hollywood y el talento navegan por la inteligencia artificial de varias maneras.
Grupos como el Guild Sag-Aftra insisten en una protección más nacional y federal contra las falsificaciones profundas. Algunas celebridades, como el actor secundario ganador del premio de la Academia, Jamie Lee Curtis, lucharon para obtener un anuncio falso de ella en Instagram que ella respalda falsamente un producto dental.
WME anunció una asociación con Vermillio el año pasado.
«El alcance del problema es extraordinario, por lo que si usted es un titular de la derecha, que solo trata de entender en cuántas de estas salidas de IA se basan o usan mis datos, mi IP de alguna manera, forma o forma, es una enorme necesidad», dijo Chris Jacquemin, jefe de la estrategia digital de WME.
«Probaron claramente que TraceID puede proteger a las figuras públicas más importantes y más habladas del mundo», agregó Jacquemin. «Abriendo en una aplicación mucho más amplia, creo que hay un gran paso adelante para ser realmente democratizando cómo alguien puede comenzar a usar su similitud con respecto a las plataformas AI y AI».
