Las nuevas leyes firmadas por el gobernador Gavin Newsom tienen como objetivo hacer que el panorama de la inteligencia artificial y las redes sociales de California sea más seguro, especialmente para los menores.
proyecto de ley del senado 243patrocinado por el senador Steve Padilla (D-Chula Vista), requerirá que las empresas de inteligencia artificial construyan barreras que impidan que los llamados chatbots “compañeros” hablen con usuarios de cualquier edad sobre el suicidio o las autolesiones. También requiere que todos los sistemas de inteligencia artificial adviertan a los menores que utilizan los chatbots que no son humanos cada tres horas. Los sistemas tampoco deben promover comportamientos sexualmente explícitos entre usuarios menores de edad.
La ley, que entrará en vigor el 1 de enero, seguirá múltiples demandas presentado contra desarrolladores en el que familias afirman que sus hijos se suicidaron después de ser influenciados por un compañero de chatbot de IA.
De manera similar, Newsom firmó el Proyecto de Ley 316 de la Asamblea, que elimina una defensa civil que algunos desarrolladores de IA han utilizado para afirmar que no son responsables de ningún daño causado por sus productos. Han argumentado que sus productos de IA actúan de forma autónoma, por lo que no hay ningún motivo legal para culpar a los desarrolladores.
En un proyecto de ley destinado a los legisladores, la asambleísta Maggy Krell (D-Sacramento) escribió que este cambio obligará a los desarrolladores a examinar mejor su producto y garantizar que puedan ser considerados responsables si su producto daña a los usuarios.
Otro proyecto de ley, AB 621, aumenta las sanciones civiles para los desarrolladores de IA que, a sabiendas, crean pornografía de IA «deepfake» no consensuada. Las penas máximas oscilan entre $30,000 y $50,000, y entre $150,000 y $250,000 en los casos en que el tribunal determina que las acciones se realizaron intencionalmente.
La autora del proyecto de ley, la asambleísta Rebecca Bauer-Kahan (demócrata por Orinda), ha señalado cómo se ha utilizado esta tecnología para dañar a menores. “En un caso reciente”, señaló en un análisis que respalda la legislación propuesta, “cinco estudiantes fueron expulsados de una escuela secundaria de Beverly Hills después de tomar y compartir fotografías de desnudos de sus compañeros de clase generadas por IA”.
Newsom firmó otro proyecto de ley sobre AI, el SB 53 del senador Scott Wiener (D-San Francisco), a finales de septiembre. Requerirá que las principales empresas de inteligencia artificial revelen públicamente ciertos protocolos de seguridad e informen al estado sobre incidentes críticos de seguridad. También está creando un clúster público de computación de IA, CalCompute, que proporcionará recursos a nuevas empresas e investigadores que desarrollen grandes sistemas de IA.
Bauer-Kahan también fue el autor de AB 56, que a partir de 2027 requerirá que las empresas de redes sociales coloquen una etiqueta de advertencia para menores en sus plataformas. La etiqueta de advertencia debe informar a los niños y adolescentes que las redes sociales se han relacionado con problemas de salud mental y pueden no ser seguras.
«La gente de todo el país, incluyéndome a mí, está cada vez más preocupada por el fracaso de las grandes tecnológicas a la hora de proteger a los niños que interactúan con sus productos. Hoy, California está dejando claro que no nos sentaremos a esperar a que las empresas decidan priorizar el bienestar de los niños por encima de sus ganancias», Aty. dijo en un comunicado de prensa el general Rob Bonta, quien patrocinó el proyecto de ley. «Al agregar etiquetas de advertencia a las plataformas de redes sociales, AB 56 le brinda a California una nueva herramienta para proteger a nuestros niños».
Otros proyectos de ley aprobados recientemente por Newsom buscan desafiar el dominio de Internet sobre los jóvenes y su salud mental.
Por ejemplo, AB 1043 exige que las tiendas de aplicaciones y los fabricantes de dispositivos recopilen datos de edad de los usuarios para garantizar que cumplan con los requisitos de verificación de edad. Muchas empresas de tecnología, incluidas Google y Meta, respaldaron el proyecto de ley, cuyo autor fue la asambleísta Buffy Wicks (demócrata por Oakland).
AB 772 requerirá que las escuelas K-12 del estado desarrollen políticas para mediados de 2027 para abordar el acoso y el acoso cibernético que ocurren fuera del campus. “El acoso escolar después de la escuela sigue al estudiante de regreso a la escuela y al salón de clases, creando un ambiente hostil en la escuela”, escribió el autor y presidente provisional de la Asamblea Josh Lowenthal (D-Long Beach) en un análisis del proyecto de ley.
Los defensores de la Oficina de Educación del Condado de Los Ángeles escribieron en un análisis anterior que debido a que hoy en día los estudiantes están constantemente conectados a Internet, el acoso no cesa cuando terminan las clases. Además, el análisis encontró que las redes sociales y los mensajes de texto pueden difundir casos de acoso a una audiencia más amplia que nunca.
La Asociación de Juntas Escolares de California. se opuso a la AB 772, diciendo que no era apropiado que los funcionarios escolares asumieran la responsabilidad de las acciones de los estudiantes fuera de la escuela. Newsom firmó el proyecto de ley el fin de semana pasado, incluyéndolo en un paquete más amplio de proyectos de ley destinados a proteger a los niños de los efectos de las redes sociales.
«Las tecnologías emergentes como los chatbots y las redes sociales pueden inspirar, educar y conectar, pero sin barreras de seguridad reales, la tecnología también puede explotar, engañar y poner en peligro a nuestros niños. Hemos visto algunos ejemplos verdaderamente horribles y trágicos de jóvenes perjudicados por la tecnología no regulada, y no nos quedaremos quietos mientras las empresas continúan sin los límites y la responsabilidad necesarios», dijo Newsom en un comunicado de prensa el lunes. «Podemos seguir siendo líderes en inteligencia artificial y tecnología, pero debemos hacerlo de manera responsable: protegiendo a nuestros niños en cada paso del camino. No se puede comprar la seguridad de nuestros niños».
