La primera socia de California, Jennifer Siebel Newsom, convocó recientemente una reunión que podría figurar entre los principales escenarios de pesadilla que inducen a sudar a los hermanos tecnológicos de Silicon Valley: un grupo de las mujeres más inteligentes y poderosas del Estado Dorado que intercambian ideas sobre formas de regular la inteligencia artificial.
La regulación es lo último que quiere esta industria dominada por California, y ha gastado mucho dinero en las capitales estatales y federales para evitarla, incluida la financiación del nuevo salón de baile del presidente Trump. ¿Regulación por parte de un grupo de señoras, muchas madres, donde los beneficios están muy lejos de ser superados sólo por nuestros hijos en lo que respecta a preocupaciones?
Te dejaré descubrir qué tan popular probablemente será esto entre los Elon Musk, Peter Thiels y Mark Zuckerberg del mundo.
Pero como dijo Siebel Newsom: “Cuando una plataforma llega a un niño, tiene la responsabilidad de protegerlo. Punto. La seguridad de nuestros niños nunca puede quedar en segundo lugar”.
Acordado.
La presión de Siebel Newsom para que California haga más para regular la IA se produce cuando Trump amenaza con impedir que los estados supervisen la tecnología e intensifica un esfuerzo nacional que abrirá el Tesoro de Estados Unidos a los gigantes de la IA en las próximas décadas.
En este momento, Estados Unidos se enfrenta a su propio escenario de pesadilla: la tecnología más poderosa y transformadora del mundo que hemos visto en nuestras vidas se está desarrollando y liberando prácticamente sin más reglas ni restricciones que las elegidas por los hombres que buscan un beneficio personal del resultado.
En pocas palabras, el plan en este momento parece ser que estos barones de la tecnología cambien el mundo como mejor les parezca para ganar dinero para ellos mismos, y nosotros, como contribuyentes, les pagaremos por ello.
“Cuando las decisiones están impulsadas principalmente por el poder y las ganancias en lugar del cuidado y la responsabilidad, perdemos completamente el rumbo y, dada la alineación actual entre los titanes tecnológicos y el gobierno federal, creo que hemos perdido el rumbo”, dijo Siebel Newsom.
Para resumir cómo han ido las cosas hasta ahora, Trump recientemente intentó imponer una prohibición de 10 años a la capacidad de los estados para supervisar la industria en su ridículamente llamado “Gran Proyecto de Ley Hermoso”, pero esto fue retirado por un grupo bipartidista en el Senado, un indicador temprano de cuán inflamatorio es este tema.
Ante ese obstáculo inesperado, Trump ha amenazado con firmar una misteriosa orden ejecutiva que paralizará la capacidad de los estados para regular la IA y tratará de retener dinero de quienes lo intenten.
Al mismo tiempo, los miembros republicanos más cobardes y cobardes del Congreso han propuesto agregar una prohibición de diez años al próximo proyecto de ley de política de defensa, que es casi seguro que se aprobará. Por supuesto, el Congreso también se ha negado a avanzar en regulaciones federales significativas por sí solo, mientras que los directores ejecutivos de tecnología, incluido el enemigo de Trump, Musk, Tim Cook de Apple, Zuckerberg de Meta y muchos otros se entregan a eventos elegantes en la Casa Blanca.
Quizás por eso Trump anunció la “Misión Génesis” esta semana, una orden ejecutiva que aparentemente tomará la escala inimaginable de los esfuerzos de investigación del gobierno en todas las disciplinas y los volcará en algún tipo de modelo de IA que “revolucionará la forma en que se lleva a cabo la investigación científica”.
Si bien estoy seguro de que nada puede salir mal en ese escenario, esa no es la parte que resulta inmediatamente alarmante. Esto es: el proyecto será supervisado por el asesor de política científica y tecnológica de Trump, Michael Kratsios, quien no tiene ningún título en ciencias o ingeniería pero anteriormente fue un alto ejecutivo de Thiel y exjefe de otra compañía de inteligencia artificial que trabaja con el Pentágono en proyectos de guerra.
Kratsios es considerado una de las principales razones por las que Trump ha acogido a los tecnológicos con tanta admiración durante su segundo mandato. Es casi seguro que Génesis significará enormes contratos gubernamentales para estos “socios” del sector privado, alimentando el auge (o burbuja) de la IA con el dinero de los contribuyentes.
El mensaje de Siebel Newsom a la luz de todo esto es que no estamos indefensos y que California, como sede de muchas de estas empresas y como la cuarta economía más grande del mundo, debe tener voz y voto en cómo se desarrolla esta tecnología y garantizar que lo haga de una manera que nos beneficie y proteja a todos.
“California está en una posición única para liderar el camino al demostrar innovación y responsabilidad y cómo pueden ir de la mano”, dijo. “Siempre he creído que contar con barandillas más fuertes es realmente bueno para los negocios a largo plazo. Una tecnología más segura significa mejores resultados para los consumidores y una mayor confianza y lealtad de los consumidores”.
Pero la presión para sucumbir al poder de estas empresas es intensa, como sabe el marido de Siebel Newsom.
El gobernador Gavin Newsom ha intentado en los últimos años impulsar una legislación nacional que proporcione algún tipo de supervisión y al mismo tiempo permita la innovación que mantiene a California y a Estados Unidos competitivos en el frente global. La industria tecnológica ha gastado millones en lobby, batallas legales y campañas de presión para debilitar incluso los esfuerzos más benignos, amenazando incluso con abandonar el estado si se establecen regulaciones.
El año pasado, la industria intentó sin éxito detener el Proyecto de Ley Senatorial 53, una ley histórica firmada por Newsom. Es una medida de transparencia fundamental para los modelos de IA “fronterizos” que exige que las empresas cuenten con protocolos de seguridad y que informen sobre riesgos “catastróficos” conocidos, como cuando estos modelos muestran tendencias hacia un comportamiento que podría matar a más de cincuenta personas, y lo hacen, lo crean o no.
Pero la industria pudo bloquear otros esfuerzos. Newsom vetó el Proyecto de Ley Senatorial 7, que requeriría que los empleadores notifiquen a los empleados si usan IA en la contratación y promoción; y el Proyecto de Ley 1064 de la Asamblea, que habría prohibido a los operadores de chatbots complementarios poner estos sistemas de inteligencia artificial a disposición de menores si no pudieran demostrar que no harían cosas como alentar a los niños a autolesionarse, lo que estos chatbots han vuelto a hacer.
Aún así, California (junto con Nueva York y algunos otros estados) ha logrado avances, y en el evento de Siebel Newsom en la última sesión, el gobernador dijo: “Hemos hecho una serie de esfuerzos contra esto y hemos logrado un progreso tremendo”.
Prometió más.
“Tenemos libertad de elección. Podemos dar forma al futuro”, afirmó. “Tenemos una responsabilidad única cuando se trata de estas herramientas tecnológicas porque este es el centro de ese universo”.
Si Newsom continúa progresando, será en gran parte gracias a Siebel Newsom y a mujeres como ella, que mantienen la resistencia.
De hecho, fue otra madre poderosa, la Primera Dama Melania Trump, quien obligó al gobierno federal a tomar algunas medidas este año cuando abogó por la Ley Take It Down, que exigiría a las empresas de tecnología eliminar rápidamente imágenes explícitas no consensuadas. Sinceramente dudo que su marido hubiera firmado ese proyecto de ley en particular sin su insistencia.
Entonces, si tenemos suerte, los esfuerzos de mujeres como Siebel Newsom podrían resultar ser la pizca de cordura poderosa necesaria para detener las fantasías de dominación mundial de la broligarquía.
Porque a pesar de sus mejores esfuerzos, los tech bros aún no son todopoderosos y ciertamente no son inmunes al poder de las madres.
