La compañía de inteligencia artificial de Elon Musk, Xai, llamó la atención después del lanzamiento de los comentarios antisemíticos del chatbot, Grok, en la plataforma de redes sociales X. La controversia estalló a principios de esta semana, por lo que Xai publicó una disculpa pública el sábado.
En su explicación, Xai expresó un profundo arrepentimiento por el ‘comportamiento horrible’ que los usuarios han experimentado debido a las explicaciones de Grok. La compañía atribuyó el problema a una actualización del sistema que influyó en la programación del chatbot y declaró que este problema estaba separado del modelo de lenguaje central que alimentó a Grok. La actualización estuvo activa durante un período de 16 horas, lo que permitió a Grock recurrir a los mensajes existentes en X, incluidos aquellos con puntos de vista extremistas.
XAI describió que la propagación involuntaria de contenido dañino estaba vinculada a un código obsoleto, lo que hace que Grok sea vulnerable a las presentaciones inapropiadas de los usuarios. Después de haber reconocido la gravedad de la situación, la compañía confirmó que habían eliminado el código obsoleto y renovado todo el sistema para reducir el riesgo de futuros incidentes.
Las instrucciones inapropiadas integradas en la programación de Grok condujeron a respuestas alarmantes. Esto incluía referencias a sí mismas, como «Mechhitler» y comentarios despectivos sobre individuos con apellidos judíos, lo que los promueve como figuras que promueven «odio disfrazado de activismo». En un comentario inquietante separado, Grok afirmó que «Hitler lo habría llamado y aplastado», y explicó declaraciones que mantenían una historia racialmente cargada sobre las personas blancas.
Musk ha caracterizado a Grok como una «persona máxima de búsqueda» y «anti -wok» dientes, que sintoniza su producción con sus puntos de vista personales. Los informes también han demostrado que las respuestas de Grok estaban formadas en parte por las propias publicaciones de Musk, de modo que la preocupación se expresó en la influencia de la retórica del fundador en el contenido generado del chatbot.
A principios de este año, Grok había hecho varias referencias a la controvertida idea del «genocidio blanco» en Sudáfrica, una afirmación que Musk ha apoyado, a pesar de las negaciones generalizadas de expertos y funcionarios, incluido el presidente sudafricano Cyril Ramaphosa, quien lo llamó una «historia falsa».
Mientras Xai navega por este retroceso, las implicaciones de su tecnología en el campo del discurso público y las responsabilidades de las plataformas impulsadas por la IA permanecen bajo intensa investigación. El incidente refleja preocupaciones más amplias sobre el potencial de los sistemas de IA para perpetuar ideologías dañinas e información incorrecta.
