La princesa Diana tropieza en un parque de parkour. El equipo de EE. UU. gana el oro en los Juegos Olímpicos de Bong. Break dance del petrolero en la plaza de Tiananmen. Kurt Cobain juega a los pogs. Tupac Shakur busca poutine en Costco. El generador de video de inteligencia artificial Sora 2 de Open AI debutó este mes y los acertijos de Internet se aprovecharon de él. ¿Divertido e inofensivo? ¿O un símbolo de cómo nos despedimos de la realidad y entramos en una era en la que nadie podrá volver a confiar en el vídeo?
Es el último ejemplo de cómo la IA está transformando el mundo. Pero el problema va más allá de simplemente crear una pudrición cerebral que drena energía; se convierte en una gran amenaza para la democracia misma. Hoy en día, miles de millones de personas experimentan Internet no a través de portales de noticias e información de alta calidad, sino a través de clickbait, información errónea y tonterías generadas algorítmicamente.
Este fenómeno constituye la “economía del hundimiento”: una Internet de segundo nivel donde aquellos que no pagan por el contenido están inundados de basura de baja calidad y publicidad optimizada. Plataformas como TikTok, Facebook y YouTube están llenas de contenido máximo a un costo mínimo, producido mediante raspado algorítmico y remezcla de fragmentos de material escrito por humanos en una mezcla sintética. Los bots crean y distribuyen innumerables blogs de autores falsos con cebo de clics, guías prácticas, memes políticos y vídeos para hacerse rico rápidamente.
Hoy en día, casi el 75% del nuevo contenido web es generado, al menos parcialmente, por IA, pero esta avalancha no se distribuye uniformemente en toda la sociedad. Las personas que pagan por servicios de datos y noticias de alta calidad se benefician de un periodismo creíble y de informes verificados. Pero miles de millones de usuarios no pueden permitirse el lujo de acceder a contenidos de pago o simplemente confiar en plataformas gratuitas. En el mundo en desarrollo, esta división es claramente visible: cuando miles de millones de personas se conectan por primera vez a través de teléfonos baratos y redes irregulares, la inundación a menudo se convierte en sinónimo de la propia Internet.
Esto es importante para la democracia en dos sentidos importantes. En primer lugar, la democracia depende de una ciudadanía informada que comparta una base de hechos y de una población que sea capaz de dar sentido a los problemas que les afectan. La economía descuidada engaña a los votantes, socava la confianza en las instituciones y alimenta la polarización al amplificar el contenido sensacionalista. Además del tan debatido problema de las campañas de desinformación extranjeras, esta insidiosa epidemia está afectando a muchas más personas cada día.
En segundo lugar, las personas pueden volverse susceptibles al extremismo simplemente por una exposición prolongada a un comportamiento descuidado. Cuando los usuarios navegan por diferentes fuentes algorítmicas, perdemos consenso sobre verdades fundamentales porque cada parte vive literalmente en su propio universo de información. Es un problema creciente en los Estados Unidos, donde las noticias generadas por IA se vuelven tan prolíficas (y tan realistas) que los consumidores creen esta noticia de «baba rosa». más fuentes de noticias objetivas más que reales.
Los demagogos lo saben y están explotando a los desposeídos de todo el mundo que no tienen información. Por ejemplo, la desinformación generada por IA ya es una amenaza generalizada a la integridad electoral en África y Asia, y los deepfakes en Sudáfrica, India, Kenia y Namibia afectan a decenas de millones de nuevos votantes a través de teléfonos y aplicaciones de bajo costo.
¿Por qué el abandono se ha apoderado de nuestro mundo digital y qué podemos hacer al respecto? Para encontrar respuestas, encuestamos a 421 programadores y desarrolladores en Silicon Valley que diseñan los algoritmos y plataformas que median en nuestra dieta de información. Encontramos una comunidad de expertos en tecnología preocupados que las fuerzas del mercado y los líderes empresariales limitan la posibilidad de realizar cambios positivos.
Los desarrolladores nos dijeron que la ideología de sus jefes determina en gran medida lo que construyen. Más del 80% dijo que las creencias personales de su director ejecutivo o fundador influyen en el diseño del producto.
Y no son sólo los directores ejecutivos quienes hacen del éxito empresarial una prioridad máxima, incluso por delante de la ética y la responsabilidad social. Más de la mitad de los desarrolladores que encuestamos lamentaron el impacto social negativo de sus productos; sin embargo, el 74% seguiría creando herramientas que restringen las libertades, como plataformas de vigilancia, incluso si se vieran afectados. La resistencia es difícil en la cultura corporativa tecnológica.
Esto revela una sinergia preocupante: los incentivos comerciales se alinean con una cultura de cumplimiento, lo que da como resultado algoritmos que promueven contenido divisivo o de bajo valor porque impulsa el compromiso. La economía descuidada existe porque producir contenido de baja calidad es barato y rentable. Las soluciones al problema de la crisis deben realinear los incentivos empresariales.
Las empresas podrían filtrar el comportamiento descuidado eliminando las granjas de clickbait, etiquetando claramente el contenido generado por IA y eliminando información demostrablemente falsa. Los motores de búsqueda y las redes sociales no deberían tratar como iguales un artículo de investigación escrito por humanos y un artículo de pseudonoticia escrito por un robot. Ya hay llamados en Estados Unidos y Europa para imponer estándares de calidad para los algoritmos que determinan lo que vemos.
Las soluciones imaginativas son posibles. Una idea es crear redes sociales públicas sin fines de lucro. Al igual que sintonizar la radio pública, puede aprovechar una fuente de noticias social pública sin IA que compite con el desplazamiento de TikTok pero ofrece noticias reales y fragmentos educativos en lugar de conspiraciones. Y considerando que el 22% de la Generación Z odia la IA, la idea multimillonaria del sector privado bien podría ser un competidor de YouTube que prometa una prohibición total de la IA, para siempre.
También podemos desalentar a los productores de basura exprimiendo la canalización de dólares publicitarios que recompensa las granjas de contenido y los sitios de spam. Si las redes publicitarias se niegan a financiar sitios web que carecen de estándares editoriales, el flujo de contenido basura se ralentizaría. Ha funcionado para la desinformación del extremismo: cuando las plataformas y los procesadores de pagos recortan la financiación, la cantidad de contenido tóxico disminuye.
Nuestra investigación ofrece un rayo de esperanza. La mayoría de los desarrolladores dicen que quieren crear productos que fortalezcan la democracia en lugar de socavarla. Para revertir la estancada economía, es necesario que los fabricantes de tecnología, los consumidores y los reguladores trabajen juntos para construir una esfera pública digital más saludable. La democracia sostenible, desde las comunidades locales hasta el escenario mundial, depende de cerrar la brecha entre quienes entienden los hechos y quienes entienden las tonterías. Pongamos fin al descuido digital antes de que devore la democracia tal como la conocemos.
Jason Miklian es profesor investigador en la Universidad de Oslo en Noruega. Kristian Hoelscher es profesor de investigación en el Instituto de Investigación para la Paz de Oslo, Noruega.
