El gobernador Gavin Newsom firmó el lunes un proyecto de ley que tiene como objetivo hacer que los chatbots de inteligencia artificial sean más seguros, a pesar de cierta oposición de la industria tecnológica.
La legislación, el Proyecto de Ley Senatorial 243, requiere que los operadores de chatbots cuenten con procedimientos para prevenir la producción de contenido suicida o de autolesión y establezcan barreras de seguridad, como dirigir a los usuarios a una línea directa de suicidio o una línea de mensajes de texto de crisis.
El proyecto de ley es uno de varios que Newsom firmó el lunes y que afectaría a las empresas de tecnología. Algunos de los otros proyectos de ley que firmó abordaron otras cuestiones, como la verificación de la edad, las etiquetas de advertencia en las redes sociales y la distribución no consensuada de contenido sexual explícito a través de la IA.
Según la SB 243, los operadores deberían notificar a los pequeños usuarios al menos cada tres horas que necesitan tomar un descanso y que el chatbot no es humano. También tendrían que tomar “medidas razonables” para evitar que los chatbots asociados generen contenido sexual explícito.
«Las tecnologías emergentes como los chatbots y las redes sociales pueden inspirar, educar y conectar, pero sin barreras de seguridad reales, la tecnología también puede explotar, engañar y poner en peligro a nuestros niños», dijo Newsom en un comunicado.
La firma del proyecto de ley muestra cómo Newsom está tratando de equilibrar las preocupaciones por la seguridad infantil con el liderazgo de California en inteligencia artificial.
«Podemos seguir liderando el camino en inteligencia artificial y tecnología, pero debemos hacerlo de manera responsable, protegiendo a nuestros niños en cada paso del camino», dijo Newsom.
Algunos grupos de la industria tecnológica, como TechNet, todavía se oponen a la SB 243, pero grupos de seguridad infantil como Common Sense Media y Tech Oversight California también retiraron su apoyo al proyecto de ley debido a «exenciones favorables a la industria».
Newsom aún no ha anunciado una decisión sobre un proyecto de ley de seguridad de la IA más polémico, el Proyecto de Ley 1064 de la Asamblea.
La legislación prohíbe a las empresas y otras entidades poner chatbots complementarios a disposición de menores en California, a menos que el chatbot sea “previsiblemente incapaz” de realizar conductas dañinas, como alentar a un niño a autolesionarse, a ser violento o a sufrir trastornos alimentarios.
Grupos de seguridad infantil y Abogado de California. El general Rob Bonta instó al gobernador a firmar la AB 1064.
Meta, la empresa matriz de Facebook, se opone a la legislación y la Asociación de la Industria de Computación y Comunicaciones. presionó contra el proyecto de ley, diciendo que amenazaría la innovación y perjudicaría a las empresas de California.
Newsom tiene hasta el lunes para decidir si firma o veta el AB 1064. Un proyecto de ley también puede convertirse en ley sin la firma del gobernador.
California es el líder mundial en inteligencia artificial, hogar de 32 de las 50 principales empresas de IA mundial.
La popularidad de la tecnología que puede responder preguntas y generar rápidamente texto, código, imágenes e incluso música se ha disparado en los últimos tres años. A medida que el desarrollo continúa, está alterando la forma en que las personas consumen información, trabajan y aprenden.
Los legisladores temen que los chatbots puedan dañar la salud mental de los jóvenes, ya que dependen de la tecnología para obtener compañía y asesoramiento.
Los padres han demandado a OpenAI, Character AI y Google, alegando que los chatbots de las empresas dañaron la salud mental de sus adolescentes que se suicidaron.
