Sacramento – El gobierno de Gavin Newsom firmó un proyecto de ley el lunes que creará nuevas medidas de transparencia para las grandes compañías de IA, incluida la divulgación pública de protocolos de seguridad e informes de incidentes críticos de seguridad.
El senador Scott Wiener (D-San Francisco) dijo que el proyecto de ley del Senado 53 «Commonsen-Vangrails» creará para garantizar innovaciones innovadoras que no sacrifican la seguridad y la transparencia en medio del rápido crecimiento de las tecnologías de IA. Newsom dijo que el proyecto de ley encuentra el equilibrio adecuado para colaborar con las compañías artificiales de intelleos, mientras que no se «presentan a la industria».
«La IA es la nueva frontera en la innovación, y California no solo está aquí, sino que es fuerte como líder nacional al introducir la primera frontera entre la seguridad de la IA fronteriza que acumula la confianza pública a medida que esta tecnología emergente se desarrolla rápidamente», dijo Newsom en un comunicado.
El proyecto de ley se presentó este año después de que Newsom tuvo un proyecto de ley más amplio el año pasado, que también fue escrito por Wiener. Ese proyecto de ley, SB 1047, fue apoyado por Elon Musk e destacados investigadores de IA, pero opuesto por Meta y OpenAi.
En su mensaje de veto a largo plazo el año pasado, Newsom llamó a SB 1047 «bien intencionado», pero agregó que no era el «mejor enfoque para proteger a la audiencia contra amenazas reales de tecnología». Al aumentar la medida el año pasado, Newsom anunció que su administración convocaría a un grupo de trabajo de líderes y expertos de IA para desarrollar una protección más viable que se convirtiera en la base de SB 53.
La nueva ley requiere que las empresas revelen sus protocolos de seguridad y evaluaciones de riesgos. Está obligado a informar incidentes críticos, como ataques cibernéticos o un comportamiento inseguro de los sistemas de IA autónomos, en la oficina de los servicios de emergencia del estado.
Cal OES comenzaría a publicar informes anuales en 2027 que anonimizan y recopilen incidentes de seguridad críticos que recibe. SB 53 también fortalece la protección de los denunciantes para los empleados que informan violaciones.
El abogado, general en California, podrá traer multas civiles de un máximo de $ 1 millón contra empresas que violan la nueva ley.
«Con una tecnología que se transforma tan como AI, tenemos la responsabilidad de apoyar esa innovación mientras colocamos los rieles de captura de los Comunes para comprender y reducir el riesgo», dijo Wiener en un comunicado.
El proyecto de ley fue opuesto por la Cámara de Comercio de California y la Cámara de Progreso, una asociación industrial técnica.
«Este enfoque exhaustivo obliga a los desarrolladores a asignar un tiempo y recursos considerables en la preparación de los riesgos hipotéticos en lugar de abordar el daño real y demostrable», escribió la cámara de progreso.
