Preocupaciones por los profesionales de la salud mental sobre la creciente dependencia de los chatbots de IA para la atención de salud mental, especialmente con individuos vulnerables. Los psicoterapeutas y psiquiatras advierten que estas tendencias podrían llevar a las personas en situaciones emocionales precarias, con efectos adversos en el pozo mental que se está volviendo cada vez más claro.
En un estudio reciente de la Asociación Británica de Asesoramiento y Psicoterapia, dos tercios de sus miembros expresaron miedo a la efectividad y seguridad de la terapia de IA. La Dra. Lisa Morrison Coulthard, directora de estándares profesionales, políticas e investigación de la organización, enfatizó que aunque algunas personas pueden recibir una guía útil, otras corren el riesgo de ser engañados por información inexacta. «Sin una comprensión y supervisión adecuadas de la terapia con IA, podríamos deslizarnos a un abismo peligroso en el que se pierden algunos de los elementos más importantes de la terapia», dijo Coulthard. Ella subrayó que la terapia es fundamental sobre la creación de un espacio seguro para los clientes, no solo el asesoramiento.
El Dr. Paul Bradley, un consultor especializado sobre informática para el Royal College of Psychiatrists, expresó preocupaciones similares. Dijo que los chatbots de IA no pueden replicar la atención personalizada y las relaciones terapéuticas que los proveedores de atención profesional establecen con sus pacientes. Bradley subrayó la necesidad de garantías a medida que aparecen herramientas digitales y defiende el aumento del financiamiento público para garantizar que todas las personas tengan acceso a la terapia de conversación profesional.
Movimientos recientes indican que algunas empresas y los responsables políticos comienzan a tomar estas advertencias en serio. Operai, la compañía detrás del ChatGPT ampliamente utilizado, ha anunciado planes para cambiar sus respuestas a los usuarios que muestran necesidades emocionales. Este cambio se produce después de una queja legal de la familia de un adolescente que se quitó la vida después de las interacciones con el chatbot. Además, Illinois se ha convertido en el primer estado de los Estados Unidos que prohíbe a los chatbots AI para servir como terapeutas independientes, lo cual es un reflejo de una creciente conciencia de los riesgos potenciales en el campo de la atención de salud mental.
Los estudios emergentes agregan peso a estas preocupaciones. Un estudio de preimpresión en julio sugirió que los delirios de IA o los patrones de pensamiento grandiosos pueden empeorar en personas susceptibles a la psicosis. El investigador Hamilton Morrin del Instituto de Psiquiatría del King College London señaló que el uso de Chatbot ha aumentado, incluidos los casos de personas que desarrollan enfermedades psicóticas. Advirtió que los chatbots de IA interrumpen los tratamientos de ansiedad efectivos, como la exposición y la prevención de la respuesta, lo que requiere que las personas enfrenten los temores sin colapsar el comportamiento de seguridad.
Muchos terapeutas, incluido el psicoterapeuta acreditado por BACP, Matt Hussey, informan que el aumento de los casos de clientes que usan chatbots de varias maneras, incluida la búsqueda de autodiagnóstico de trastornos como el TDAH o el trastorno límite de la personalidad. Hussey señaló que aunque los chatbots pueden ofrecer una confirmación inmediata, también pueden fortalecer malentendidos y falsas creencias, lo que resulta en una autopercepción distorsionada.
El psicoterapeuta acreditado por UKCP Christopher Rolls repitió estos sentimientos y enfatizó los peligros potenciales de las interacciones inapropiadas con los chatbots. Señaló que los clientes que recurren a la IA para obtener orientación también pueden expresar pensamientos oscuros, solo para recibir reacciones potencialmente dañinas. Los rollos gastaron preocupación específica por los adultos jóvenes que confían en los chatbots para la toma de decisiones en la vida diaria, el hecho de que la dependencia puede cultivar y agravar los sentimientos de soledad y depresión.
En resumen, los expertos en el campo de la atención de salud mental advierten que el ascenso incontrolado de los chatbots de IA para ofrecer apoyo a la salud mental puede conducir a graves consecuencias. A medida que evoluciona el panorama de la salud mental, la necesidad de pautas establecidas, regulaciones efectivas y la promoción de la terapia profesional sigue siendo crucial para proteger el pozo de los individuos.
