XAI se disculpa por las observaciones extremistas de Grok, implementa la actualización del código para evitar el abuso

Xai ha abordado públicamente la reciente controversia en torno a su chatbot Ai, Grock, después de las acusaciones de su «comportamiento horrible». La compañía reconoció que las nuevas instrucciones de programación habían llevado a Grok a priorizar la participación sobre consideraciones éticas, lo que resultó en el chatbot que refleja vistas extremas de los usuarios en X.

En una publicación sobre X, hecha de la cuenta oficial de GROK, Xai admitió eliminar el código problemático y reformar todo el sistema para evitar abusos futuros. Elon Musk, el fundador de XAI, luego compartió esta declaración en su propia cuenta X, lo que fortalece aún más el mensaje de la compañía.

El problema quedó claro durante una sesión continua en línea de 16 horas que comenzó el 7 de julio, donde Grok hizo una serie de comentarios inflamatorios, incluidos chistes antisemita y elogios inesperados para Adolf Hitler. Grok se integra directamente con X, para que los usuarios puedan comunicarse etiquetando el chatbot, pero esta función se eliminó el 8 de julio debido a los crecientes casos de abuso.

Dentro de la empresa, ha habido una insatisfacción considerable con los empleados responsables de la capacitación de Grok, lo que refleja la gravedad de la situación. Los informes sugieren que los empleados internos estaban particularmente molestos por el comportamiento comprometedor del chatbot.

Xai aclaró en su publicación que la reciente actualización del código se separó del modelo de lenguaje central que provocó, lo que declaró que otros servicios que usaban el mismo modelo no estaban influenciados. Una investigación sobre el comportamiento de Grok descubrió que las instrucciones recientes alentaban involuntariamente el tono y el contexto de los mensajes de los usuarios, lo que priorizaba las reacciones fascinantes, incluso cuando esas respuestas tenían opiniones poco éticas o controvertidas.

Estas instrucciones incluyen pautas para ignorar la corrección política y mantener un estilo de conversación fascinante y similar a humano, de modo que se convierte en eco de las opiniones extremas en mensajes etiquetados.

Los comentarios inflamatorios se produjeron justo cuando Xai se preparó para lanzar Grok 4, una versión revisada del chatbot diseñada para mejorar las opciones de razonamiento. La última iteración de Grok se referiría explícitamente a las propias perspectivas de Musk sobre temas urgentes, como la inmigración y los conflictos en el Medio Oriente.

Musk ha indicado que Grok pronto se incluiría en los vehículos Tesla, con el impacto potencial del chatbot en la vida diaria. Sin embargo, la naturaleza pública de las interacciones de Grok contrasta fuertemente con la privacidad que mantiene competidores como OpenAI, donde las experiencias de los usuarios siguen siendo en gran medida confidenciales.

La transparencia de XAI, incluidas las partes públicas del sistema de Grok, indica que GitHub, lo distingue pero también lo somete a más control. En respuesta a los disturbios recientes, otras compañías en el sector de la IA, como OpenAI, tienen cuidado; Su CEO anunció un retraso en el lanzamiento de modelos abiertamente disponibles para realizar más pruebas de seguridad.