El fiscal general Rob Bonta y la fiscal de Delaware, General, Kathy Jennings, han dado un paso importante para abordar la seguridad de la inteligencia artificial, en particular dirigidos a los efectos de ChatGPT en niños y adolescentes. Sus preocupaciones se manifiestan tanto en una reunión reciente como en una carta abierta dirigida a OpenAI.
Este desarrollo sigue una carta inquietante de Bonta y otros 44 abogados estatales, general, a doce compañías líderes de IA, inspirada en informes alarmantes que indican que las interacciones inapropiadas entre los chatbots de IA y el punto de los menores. La carta enfatiza una tendencia dolorosa, incluido el desgarrador suicidio de un joven californiano después de largas intercambios de valores con un chatbot de OpenAi, además de un incidente trágico similar con el asesinato-suicidio en Connecticut.
En su correspondencia, Bonta y Jennings enfatizaron que las garantías existentes parecían insuficientes y declaradas: «Qué garantías tampoco funcionaban». Actualmente están investigando los planes de OpenAI para cambiar a un modelo con fines de lucro para garantizar que la misión fundamental de TI promueva el despliegue seguro de inteligencia artificial para la humanidad, en particular los niños intactos.
La carta subraya una necesidad crucial de priorizar las medidas de seguridad en el desarrollo e implementación de tecnologías de IA antes de seguir un mayor progreso. «Antes de beneficiarnos, debemos asegurarnos de que haya suficientes medidas de seguridad para no dañar», expresaron. Expresaron preocupaciones compartidas de que tanto OpenAi como la industria de IA más amplia aún no tengan que alcanzar los estándares de seguridad necesarios, y repite que la seguridad pública es una responsabilidad clave de su papel como abogados, general.
Al buscar claridad y responsabilidad, Bonta y Jennings solicitaron información detallada sobre los protocolos de seguridad actuales de las prácticas administrativas y de OpenAi. Esperan que la compañía tome acciones correctivas inmediatas cuando sea necesario.
Mientras se desarrollan estos desarrollos, TechCrunch se ha puesto en contacto con OpenAI para su respuesta al respecto.
