Una investigación ha descubierto una tendencia inquietante en la que una red de spammers internacionales coloca imágenes generadas por IA que muestran incorrectamente las víctimas del Holocausto en Facebook. Este comportamiento ha llevado una alarma significativa a las organizaciones que se centran en preservar la memoria del Holocausto, con muchos que expresan preocupación de que tales acciones son profundamente inquietantes para los sobrevivientes y sus familias. Los críticos se han centrado específicamente en Meta, la empresa matriz de Facebook, con el argumento de que la plataforma ha facilitado sin saberlo la transformación de una tragedia humana monumental en un «juego» de la participación emocional.
La autenticidad de las imágenes del Holocausto es costosa; Solo hay un número limitado de fotos reales de lugares como Auschwitz. Sin embargo, en una nueva ola de contenido inquietante, han surgido imágenes falsas, escenarios como un prisionero que interpreta un violín o encuentros románticos en la circunferencia del campamento. Estas publicaciones han recopilado decenas de miles de me gusta y acciones, un hecho de que Pawel Sawicki, un portavoz del Auschwitz Memorial en Polonia, está disminuyendo. «Este no es un juego. Este es un verdadero sufrimiento y personas reales que queremos recordar», dijo.
Según los hallazgos, muchas de estas imágenes pueden rastrearse a cuentas administradas por un grupo de fabricantes de contenido con sede en Pakistán. Estas personas operan efectivamente los meta programas para los ingresos de Meta, que recompensa a los usuarios financieramente por generar contenido con una alta participación. Según los informes, una cierta cuenta, atribuida a Abdul Mughees, reclamó la victoria de $ 20,000 a través de diferentes horarios para generar ingresos con las redes sociales. Solo en este informe, hay numerosas historias e imágenes de víctimas ficticias del Holocausto generadas por AI, incluidas historias inquietantes sobre niños que esconden o dejan bebés en situaciones peligrosas.
El análisis de la BBC de estos fabricantes indica un enfoque en lo que se llama «AI Slop», que se refiere al contenido de baja calidad que se genera en altos volúmenes y se comparte en línea sin distinción. Las páginas con el tema de Auschwitz, algunas más de 50 veces al día, también han sido criticadas por distorsionar detalles históricos y la fabricación de historias de víctimas. El Museo Auschwitz ha advertido previamente que estas cuentas procesan sus puestos legítimos a través de AI, lo que lleva a nuevas inexactitudes históricas.
Pawel Sawicki señaló: «Hemos visto un aumento en los comentarios que implican la conciencia de estas imágenes generadas por AI en nuestros mensajes que socavan nuestra misión de la educación del Holocausto». Las familias de sobrevivientes del Holocausto están tan alteradas y sienten el peso de una historia histórica que se manipula. El Dr. Robert Williams de la Alianza Internacional de Recuerdo del Holocausto expresó su preocupación de que los sobrevivientes experimenten una profunda tristeza sobre las perturbaciones constantes. «Sienten que sus esfuerzos no han sido suficientes», se quejó, una preocupación que fue exacerbada por el número decreciente de sobrevivientes.
La reacción de Meta indica que no fomenta deliberadamente historias falsas de esta naturaleza. Sin embargo, los algoritmos de la compañía recompensan el contenido de alta calidad, lo que inadvertidamente condujo a la proliferación de artículos engañosos. La BBC ha identificado redes adicionales que generan contenido similar en países como India, Vietnam, Tailandia y Nigeria. Un fabricante paquistaní del contenido, Fazal Rahman, explicó cómo los mensajes con una historia con un tema son lucrativos, lo que les brinda a los usuarios considerablemente ingresos mensuales si se centran en un público de regiones más ricas.
Los fabricantes han compartido tutoriales sobre el uso de modelos de IA para fabricar imágenes históricas y texto, lo que facilita el acceso a contenido engañoso. También se distribuyen técnicas para la imitación y el crecimiento del público en violación de las reglas de Meta, lo que socava la integridad de las páginas de Facebook con un tema de historia.
Aunque Meta ha comenzado a eliminar algunas de las cuentas y grupos marcados, la preocupación más amplia sigue siendo. El riesgo de que la IA pueda contribuir a la percepción de que se fabrica la historia del Holocausto es una posibilidad inquietante de que se enfatice el Dr. Williams. Hizo hincapié en la necesidad de evitar «cualquier forma de manipulación extrema», en su lugar, defiendo un enfoque responsable del uso de la tecnología en la conmemoración de eventos históricos.
A medida que continúan las discusiones sobre estas prácticas, los abogados para la educación del Holocausto siguen siendo atentos al defender la integridad de la memoria histórica, insisten en garantías estrictas contra el abuso de plataformas digitales para distorsionar el pasado.
