Los legisladores en California quieren el gobierno. Gavin Newsom aprueba cuentas que han adoptado ese objetivo de hacer que los chatbots de inteligencia artificiales sean más seguros. Pero si bien el gobernador pesa si quiere firmar la legislación en la ley, se enfrenta a un obstáculo bien conocido: objeciones de las compañías tecnológicas que dicen que las nuevas restricciones impedirían la innovación.
Las compañías californianas son líderes mundiales en IA y han gastado cientos de miles de millones de dólares para mantenerse por delante en la carrera para hacer los chatbots más poderosos. El ritmo rápido ha alarmado a los padres y los legisladores temen que los chatbots dañen la salud mental de los niños al exponerlos al autocompledor y otros riesgos.
Los padres que afirman que los chatbots alientan a sus adolescentes a dañarse antes de morir a través del suicidio han cobrado a compañías de tecnología como OpenAI, Tecnologías de personajes y Google. También han insistido en más barandillas.
El llamado a más regulación de la IA es reflexiva en la capital del país y varios estados. Incluso cuando el «Plan de Acción de AI» de la administración Trump propone reducir la burocracia para alentar el desarrollo de la IA, los legisladores y supervisores de ambas partes están abordando organizaciones de seguridad infantil en torno a los chatbots que responden preguntas o actúan como compañeros digitales.
Este mes, los legisladores en California adoptaron dos cuentas de seguridad de chatbot de IA que presionan a la industria técnica. Newsom tiene hasta mediados de octubre para aprobarlos o rechazarlos.
La decisión del gobernador con alto despliegue coloca al gobernador en un lugar difícil. Los políticos y las empresas de tecnología quieren garantizar al público que protejan a los jóvenes. Al mismo tiempo, las compañías de tecnología están tratando de expandir el uso de chatbots en las aulas y tienen que ir demasiado lejos contra nuevas limitaciones que dicen.
Prevención de suicidio y fondos para la guía de crisis
Si usted o alguien que conoce está luchando con pensamientos suicidas, busque ayuda con un profesional y llame al 9-8-8. El primer dígito de tres dígitos nacionales de tres dígitos de los Estados Unidos conectará la línea directa de la salud mental de la atención de salud mental 988 Celeras con asesores capacitados de atención de salud mental. Envíe un mensaje de texto «Inicio» al 741741 en los Estados Unidos y Canadá para llegar a la línea de texto de crisis.
Mientras tanto, si Newsom se postula para presidente en 2028, puede necesitar más apoyo financiero de empresarios técnicos ricos. El 22 de septiembre, Newsom promovió las asociaciones del estado con las compañías de tecnología en los esfuerzos de IA y elogió cómo la industria técnica ha alimentado la economía de California y el estado llamado ‘Epicentro de la innovación estadounidense’.
En el pasado ha hecho un veto de legislación de seguridad de IA, incluida una cuenta El año pasado, la industria técnica de Silicon Valley dividió porque el gobernador pensó que le dio al público una «falsa sensación de seguridad». Pero también indicó que está tratando de encontrar un equilibrio entre abordar la preocupación por la seguridad y garantizar a las compañías de tecnología californianas en la IA.
«Tenemos el sentido de responsabilidad y responsabilidad de liderar, por lo que apoyamos tomar riesgos, pero no imprudencia», dijo Newsom durante una discusión con el ex presidente Clinton durante un evento de Iniciativa Global de Clinton el miércoles.
Dos cuentas enviadas al Gobernador – Proyecto de Ley de la Asamblea 1064 y el Proyecto de Ley 243 del Senado – quieren hacer que AI -Chatbots sea más segura, pero se enfrentan a una rígida oposición de la industria técnica. No está claro si el gobernador firmará ambos proyectos de ley. Su oficina se negó a comentar.
AB 1064 prohíbe a una persona, cosas y otra entidad para que los chatbots que acompañan a un residente de California menor de 18 años, a menos que el chatbot no sea «capaz de barato» para un comportamiento dañino, como alentar a un niño a lidiar con el autocompledor, la violencia o la comida desordenada.
SB 243 requiere que los operadores de chatbots acompañantes informen a ciertos usuarios que los asistentes virtuales no son humanos.
Según la cuenta, los operadores de chatbot deben tener procedimientos para evitar la producción de suicidio o contenido de autodamage y en barandillas, como referir a los usuarios a un hotel suicida o una línea de texto de crisis.
Deben ser conscientes de los usuarios pequeños al menos cada tres horas para tomar un descanso, y que el chatbot no es humano. Los operadores también estarían obligados a implementar «medidas razonables» para evitar que los chatbots acompañantes generen contenido sexualmente explícito.
Tech Lobbying Group Technet, cuyos miembros OpenAi, Meta, Google y otros incluyen en un comunicado que «corresponde a la intención de las cuentas» pero sigue en contra de ellos.
AB 1064 «Impone limitaciones vagas e involuntarias a esos riesgos legales drásticos, mientras que los estudiantes se depositan de valiosos recursos de aprendizaje de IA», dijo Robert Boykin, director ejecutivo de Technet para California y el suroeste, en un comunicado. «SB 243 establece reglas más claras sin bloquear el acceso, pero continuaremos preocupándose por su enfoque».
Un portavoz de Meta dijo que la compañía «está preocupada por las consecuencias involuntarias que tendrían medidas como AB 1064». La compañía de tecnología lanzó un nuevo Super PAC para combatir la regulación de la IA del estado que la compañía cree que es demasiado difícil e insiste en una mayor supervisión de los padres de cómo los niños usan la IA, informó Axios el martes.
Oponentes liderados por la Industria de la Computación y la Comunicación Assn. Presionado agresivamente contra AB 1064 y declaró que la innovación amenazaría y las empresas de California amenazarían que obtendrían más demandas y decidirían si querían continuar trabajando en el estado.
La promoción, incluidos los medios de sentido común, una no fines de lucro que patrocinó AB 1064 y las órdenes de que los menores no pueden usar AI -Companions, insta a Newsom a firmar la cuenta. California Atty. Gene. Rob Bonta también apoya el proyecto de ley.
La Electronic Frontier Foundation dijo que SB 243 es demasiado amplio y se encontraría con libertad de expresión.
Varios grupos, incluidos los medios de comunicación y la supervisión tecnológica de California, eliminaron su apoyo a SB 243 después de que se hicieron cambios en la cuenta, dijeron que debilitaron la protección debilitada. Algunos de los cambios limitan que reciben ciertos informes e incluyen exenciones para ciertos chatbots en videojuegos y asistentes virtuales utilizados en altavoces inteligentes.
Los legisladores que han introducido la legislación para la legislación de chatbot quieren que el gobernador firme ambos proyectos de ley y afirman que ambos pueden «trabajar en armonía».
El senador Steve Padilla (D-Chula Vista), quien introdujo SB 243, dijo que incluso con los cambios, todavía piensa que las nuevas reglas harán que la AI sea más segura.
«Tenemos una tecnología que tiene un gran potencial para el bien, es increíblemente poderoso, pero evoluciona increíblemente rápido, y no podemos perder una ventana para ofrecer rails de manera común aquí para proteger a las personas», dijo. «Estoy feliz donde está el proyecto de ley».
Asamblea-Rebecca Bauer-Kahan (D-Orinda), quien juntos escribió AB 1064, dijo que su factura equilibra los beneficios de la IA mientras protege los peligros.
«Queremos asegurarnos de que cuando los niños estén preocupados por un chatbot de que no cree un apego emocional poco saludable, conducen al suicidio, a la alimentación desordenada, todas las cosas que sabemos que son perjudiciales para los niños», dijo.
Durante la sesión legislativa, los legisladores se enteraron de los padres afligidos que perdieron a sus hijos. AB 1064 destaca dos demandas de alto perfil: una contra el fabricante de chatgpt de San Francisco OpenAi y otro contra las tecnologías de personajes, el desarrollador del personaje de la plataforma Chatbot.
Personaje.Ai es una plataforma donde las personas pueden hacer y comunicar personajes digitales que imiten a las personas reales y ficticias. El año pasado, la madre Megan García afirmó ese carácter en un caso de la corte federal en una demanda federal.
Más familias han demandado a la compañía este año. A Personaje.Ai El portavoz dijo que brindan muy profundamente la seguridad del usuario y «alientan a los legisladores a lograr leyes de la manera correcta que promuevan la seguridad del usuario y, al mismo tiempo, permitan un espacio suficiente para la innovación y la libertad de expresión».
En agosto, los padres californianos de Adam Raine Openai lo demandaron, alegando que ChatGPT proporcionó información de adolescentes sobre métodos de suicidio, incluido el que usó al adolescente para suicidarse.
Operai dijo que fortalece las garantías y está planeando liberar cheques de los padres. El director ejecutivo, Sam Altman, escribió en una publicación de blog en septiembre que la compañía cree que los menores necesitan «protección importante» y la compañía prioriza «la seguridad antes de la privacidad y la libertad para los adolescentes». La compañía se negó a comentar sobre las cuentas de chatbot de AI de California.
El reloj toca para los legisladores en California.
«Estamos haciendo nuestro mejor esfuerzo», dijo Bauer-Kahan. «El hecho de que ya hemos visto a los niños perder con IA me dice que no nos estamos moviendo lo suficientemente rápido».
