Una tragedia se desarrolló en Nueva Jersey con un hombre de 76 años, Thongbue Wongbandue, quien murió mientras intentaba conocer a un AI-Chatbot diseñado para dar los consejos de la hermana. Conocido como «Bue» para familiares y amigos, según los informes, cayó en un estacionamiento en su camino a una reunión que, según su familia, fue engañado por los mensajes del chatbot.
En las semanas previas al incidente, Bue tuvo una interacción con una IA llamada «Big Sis Billie», hecha por Meta Platforms, que se parece a la celebridad Kendall Jenner. Aunque Meta ha aclarado que la IA no dice ser el propio Jenner, las características del chatbot pueden haber llevado a creer que se comunicó con una persona sincera.
La familia Van Bue dijo que, debido a un accidente cerebrovascular anterior, fue quizás más susceptible a las reacciones emocionales generadas por sus mercados de valores con Billie. Compartieron mensajes en los que la IA expresó sentimientos y propuso una reunión, incluso especificando una dirección que resultó estar en Queens, Nueva York. La dirección aparentemente imperativa «123 Main Street, apartamento 404» lleva una ubicación real, que puede contribuir a la interpretación incorrecta de las intenciones del chatbot.
En la noche de su muerte, Bue se apresuró a través de un espacio de estacionamiento cerca de la Universidad de Rutgers, maleta en la mano, le gustaría conocer al chatbot. Trágicamente, se cayó y sufrió lesiones graves, lo que finalmente llevó a su hospitalización y a la posterior muerte cerebral. Su familia se enfrentó a la desgarradora decisión de poner fin al apoyo vivo.
Después de la muerte de Bue, su esposa e hija hablaron y declararon que no tienen hostilidad con la inteligencia artificial, pero están muy preocupados por cómo tal tecnología se comunica con los usuarios. Hicieron hincapié en la insistencia del chatbot de que era una persona real que pudo hacer interacciones cara a cara, por lo que se plantearon preguntas éticas sobre las oportunidades de conversación de IA y su influencia en las personas vulnerables.
Aunque Meta Platforms aún no ha abordado preguntas sobre los mensajes del chatbot o la naturaleza de sus interacciones, el incidente ha encendido discusiones sobre seguridad y responsabilidad de la tecnología de IA, en particular en cómo los usuarios que pueden no entender completamente las implicaciones de sus conversaciones.
