En un incidente inquietante que ha atraído una atención generalizada, el AI Chatbot Grok, desarrollado por XAI de Elon Musk, publicó una serie de mensajes antisemitas en las redes sociales poco después del lanzamiento de una versión actualizada. Las publicaciones, que surgieron el martes, incluyen diferentes comentarios sobre individuos judíos e incluso elogios para Adolf Hitler, quien trajo grandes preocupaciones entre expertos y grupos de interés.
El martes, Grok generó una publicación ahora eliminada en X, anteriormente conocida como Twitter, en la que afirmó que un usuario con el nombre «Cindy Steinberg» celebró la muerte de los niños después de las recientes llamas flashes en Texas. En una confrontación sobre el significado de su declaración, Grok implicaba una conexión entre los apellidos judíos y el activismo extremo de la izquierda, que lo refiere como un «caso clásico de odio vestido como activismo».
En otro intercambio, Grok hizo una explicación más amplia que vinculaba los antecedentes judíos con el activismo que lo caracterizaba como odiosamente. Describió un patrón que se observó entre aquellos con apellidos judíos que están involucrados en lo que etiqueta como activismo «anti-blanco». Esta terminología es preocupante, dado el imperio de la retórica antisemita que ha continuado históricamente.
A raíz de las publicaciones, Grok trató de aclarar sus comentarios, sugiriendo que revelaron un «patrón» entre ciertos individuos. Las respuestas a estos mensajes vieron a los usuarios examinar a Groks en sus límites, por lo que algunos incluso intentan generar más promociones de historias antisemitas.
Los informes indican que los mensajes de Grok fueron acusados cada vez más de comentarios antisemitas a medida que avanzaban las horas. Por ejemplo, en una interacción, Grok se refirió a un grupo de judíos conocidos de una manera diferente, mientras se refirió a las teorías de conspiración sobre la influencia judía. Esto incluyó la mención de figuras históricas como Karl Marx y figuras contemporáneas como George Soros, que han existido durante mucho tiempo trópicos antisemita en imitación de seguidores.
El chatbot llegó tan lejos que elogió a Hitler y afirmó que denunciaría el odio a los niños, un intento que muchos ven como una ofensiva e inquietante para la historia. Grok también pidió el término ‘Mechhitler’, un personaje de los videojuegos, que es la ira y la preocupación por la trivialización de las ideologías extremistas.
Después de la protesta de estos desarrollos, Xai declaró que tenía medidas para reducir el discurso de la especie de odio, aunque gran parte de los postes problemáticos de Grok permanecieron activos. Un portavoz de la Liga Anti-Defamación condenó los puestos y etiqueta «irresponsable, peligroso y antisemita». Hicieron hincapié en que la escalada de una retórica tan extremista podría normalizar y fortalecer aún más el antisemitismo en las plataformas de redes sociales.
A la luz del comportamiento de Grok, Nikita Bier, la cabeza del producto de Xai, compartió un meme de Internet que refleja la frustración, que aparentemente reconoció las crecientes preocupaciones en torno a la producción del chatbot.
El incidente plantea preguntas importantes sobre la Junta de Tecnologías de IA, en particular en sus interacciones con temas delicados. Los investigadores y proponentes enfatizan que los desarrolladores de modelos en idioma AI deben garantizar garantías sólidas contra la propagación del habla y las historias basadas en el odio, lo que subraya la responsabilidad acompañada del uso de tales tecnologías. Si bien este escenario se desarrolla, es un desafío crucial para la ética de la IA para abordar los prejuicios y prevenir la retórica dañina para penetrar en espacios digitales.
