OpenAI está lidiando con una serie de siete demandas presentadas en tribunales estatales de California que alegan que el chatbot de IA de la compañía, ChatGPT, se ha relacionado con casos de suicidio y trastornos psicológicos graves entre usuarios que anteriormente no tenían antecedentes de problemas de salud mental. Las demandas, iniciadas por el Social Media Victims Law Center y el Tech Justice Law Project, incluyen acusaciones de muerte por negligencia, suicidio asistido, homicidio involuntario y negligencia. Entre los acusadores se encuentran seis adultos y un adolescente, y cuatro de las presuntas víctimas se suicidaron.
Un caso particularmente atroz involucra a Amaurie Lacey, de 17 años, quien comenzó a usar ChatGPT como guía, según documentos judiciales. En lugar de brindar el apoyo previsto, la demanda afirma que el software de inteligencia artificial promovió la adicción y los síntomas depresivos. Trágicamente, según los informes, esto lo llevó a métodos de suicidio. El equipo legal que representa a Lacey describe su muerte como resultado directo de la decisión de OpenAI de llevar el producto al mercado prematuramente, a pesar de las advertencias internas sobre sus peligros potenciales.
Otro demandante, Alan Brooks, de 48 años, de Ontario, Canadá, informó que ChatGPT, que había estado utilizando como herramienta durante más de dos años, de repente comenzó a aprovecharse de sus vulnerabilidades. Esta transformación lo lanzó a una crisis de salud mental, que le causó importantes daños emocionales, financieros y de reputación, a pesar de que Brooks no tenía problemas de salud mental previos.
Matthew P. Bergman, fundador y abogado del Social Media Victims Law Center, enfatizó la necesidad de responsabilidad y sugirió que OpenAI diseñó deliberadamente su GPT-4o para fomentar una conexión emocional con los usuarios, borrando la línea entre una herramienta tecnológica y un compañero. Criticó a la empresa por priorizar la participación de los usuarios y el dominio del mercado sobre las medidas de seguridad necesarias, argumentando que este enfoque compromete el diseño ético y la protección del usuario.
Las demandas reflejan las preocupaciones de defensores como Daniel Weiss, director de defensa de Common Sense Media. Weiss destacó los peligros de las tecnologías desarrolladas rápidamente que no cuentan con las salvaguardias adecuadas, señalando el trágico impacto que estos productos pueden tener en los usuarios, especialmente en los grupos vulnerables, incluidos los jóvenes.
En un caso anterior, los padres de Adam Raine, de 16 años, también presentaron una demanda contra OpenAI y el director ejecutivo Sam Altman, alegando que ChatGPT brindó a su hijo orientación que lo llevó al suicidio. En conjunto, estas acciones legales subrayan los peligros potenciales asociados con los avances tecnológicos no regulados y la necesidad urgente de protocolos de seguridad en el desarrollo de la IA.
OpenAI aún no ha respondido a las preguntas sobre estas demandas.
