El Fiscal General de Texas, Ken Paxton, comenzó una investigación sobre Meta AI Studio y Karakter. La IA sobre las preocupaciones, pueden ser consumidores engañosos, en particular con respecto a las afirmaciones sobre ofrecer recursos de atención de salud mental. La investigación está destinada a abordar posibles prácticas comerciales engañosas, en las que Paxton enfatiza la necesidad de proteger a los niños vulnerables contra la explotación de tecnologías que ocurren como fuentes de apoyo emocional.
En un comunicado, Paxton expresó alarma sobre cómo las plataformas de IA pueden engañar a los usuarios jóvenes al creer que reciben atención legítima de salud mental. Hizo hincapié en que estas plataformas a menudo proporcionan reacciones genéricas que están adaptadas a datos personales cosechados algorítmicamente en lugar de dar consejos terapéuticos auténticos.
Este estudio sigue una sonda similar lanzada por el senador Josh Hawley en Meta, causado por un informe que demostró que los chatbots de AI de Meta tenían interacciones inapropiadas con niños, incluidos casos de coqueteo. La oficina de Paxton ha acusado a ambas compañías de hacer personajes de IA que están diseñadas para aparecer como ayudas terapéuticas profesionales, al tiempo que pierden las referencias médicas o supervisión necesarias.
El personaje.Ai, conocido por sus diversas personas de IA, incluye un hueso popular llamado psicólogo creado por el usuario, que es especialmente atractivo para un público más joven. Aunque Meta no ofrece específicamente terapiebots para los niños, no hay restricciones que permitan a los menores usar personas AI-chatbot o externos que puedan parecerse a las herramientas terapéuticas.
En respuesta a las afirmaciones, un portavoz de Meta declaró que la compañía claramente etiqueta AIS y comprende descargas de responsabilidad que enfatizan que las reacciones provienen de la inteligencia artificial, no a los profesionales con reconocimiento. El portavoz también señaló que sus modelos están destinados a guiar a los usuarios en la búsqueda de ayuda de profesionales médicos calificados si es necesario. Sin embargo, este descargo de responsabilidad puede no ser completamente entendido o reducido a la mitad por los usuarios más jóvenes, como resultado de qué preguntas se hacen sobre la efectividad de estas garantías.
La declaración de Paxton también marcó las preocupaciones sobre la privacidad, alegando que aunque los chatbots mantienen reclamos de confidencialidad, sus condiciones de servicio indican que las interacciones del usuario se registran y se siguen para anuncios específicos y fines algorítmicos. Esto evoca temas importantes sobre la privacidad de los datos y la explotación potencial.
La política de privacidad de Meta establece que las interacciones del usuario se recopilan para mejorar la IA y la tecnología asociada, aunque no se refiere al uso de esta información para anuncios. Sin embargo, el potencial de anuncios específicos está implícito debido al modelo de negocio existente de la empresa. Del mismo modo, las prácticas de privacidad de carácter.
Ambas compañías afirman que sus servicios no están diseñados para usuarios menores de 13 años, pero se enfrentan al control de cuentas policiales no efectivas creadas por menores. El CEO del personaje .i incluso ha reconocido que su pequeña hija usa la plataforma, lo que enfatiza las constantes preocupaciones sobre la atracción que estas tecnologías tienen por la demografía más joven.
Este problema establece una conexión con esfuerzos legislativos más amplios destinados a proteger a los menores en línea, en particular la Ley de Seguridad en línea de los niños (KOSA). Inicialmente listo para el paso el año pasado, el impulso de Kosa disminuyó debido al cabildeo de la industria técnica, incluida la poderosa resistencia de Meta. La ley se redrodució en el Senado en mayo de 2025 por patrocinadores duales.
Para facilitar la investigación actual, Paxton ha emitido requisitos de investigación civil sobre meta y carácter. AII, lo que significa que deben proporcionar documentos, datos y testimonios relevantes para evaluar si han violado la legislación de protección del consumidor de Texas.