El horario de meta ingresos se ha convertido en una oportunidad lucrativa para los fabricantes sin escrúpulos, en particular aquellos que explotan la IA para producir y distribuir contenido de baja calidad, a menudo denominado «Slop AI». Investigaciones recientes han demostrado que algunos de estos fabricantes usan IA generativa para hacer imágenes engañosas del Holocausto en un intento de beneficiarse de las plataformas de redes sociales.
Estos fabricantes de contenido utilizan una estrategia en la que se producen imágenes masivas y texto de baja calidad que no tienen credibilidad, de modo que los alimentos en las redes sociales se inundan con contenido dudoso. El requisito para que las plataformas como Facebook sean elegibles para el contenido de contenido elegible ha llevado a que algunos creadores sean engañosos para enmascarar sus verdaderas actividades.
Un caso ilustrativo incluye una página conocida como ‘Historia de los 90’. Inicialmente realizada en 2011 con un nombre diferente, esta página parecía haber sufrido varias transformaciones, incluida la presentación de una brigada de fuego en Tennessee. Con los años, los videos y anuncios de servicios públicos de fuentes legítimas han vuelto a colocar, posiblemente para crear una fachada de legitimidad.
Al investigar la función «Transparencia de la página» que está en la pestaña «Over» en Facebook, los usuarios pueden descubrir irregularidades que pueden indicar un comportamiento no auténtico. En este caso, la página afirmó estar en los Estados Unidos y vincularla a una entidad con sede en Houston, Star Groups LLC; Sin embargo, las búsquedas no revelaron ningún rastro de esta empresa en bases de datos de la compañía. En cambio, la evidencia señaló el origen probable de la cuenta en Pakistán, indicada por sus lazos con innumerables grupos de contenido.
La motivación para tales engaños puede surgir del hecho de que las cuentas en Pakistán no son elegibles para el programa de meta ingresos. Al representarse erróneamente a sí mismos como establecidos en los Estados Unidos, estos fabricantes quieren navegar a través de limitaciones y ganar su contenido de manera efectiva.
La página de «Historia de los 90» es solo una de las muchas de esas cuentas, porque los estudios sugieren que cientos, si no miles, pueden trabajar de páginas similares bajo estas prácticas engañosas. El desafío constante para plataformas como Meta radica en identificar y tomar medidas contra estos informes fraudulentos para mantener la integridad de sus sistemas en la casa.
