Operai sufre una reestructuración importante de su equipo de comportamiento modelo, un grupo crucial de investigadores que influyen en cómo los modelos de IA de la compañía tratan con los usuarios. Esta decisión se produce como parte de un esfuerzo más amplio para integrar el trabajo del equipo con el desarrollo del modelo central, según un memorando interno revelado por TechCrunch.
Mark Chen, director de investigación de OpenAI, describió en el memorando que el equipo de comportamiento modelo, que incluye alrededor de 14 investigadores, ahora se incluirá en el equipo de entrenamiento de correo más grande. Este grupo se centra en mejorar el rendimiento y la usabilidad de los modelos de IA después de sus fases iniciales previas a la capacitación. Como parte de esta transición, el equipo de comportamiento modelo informará a Max Schwarzer, la gerencia del equipo de capacitación posterior, que confirma el cambio a través de una declaración oficial a TechCrunch.
Joanne Jang, la fundadora del Model Behavior Team, deja pionero en una nueva iniciativa en OpenAi llamada OAI Labs. En su nuevo papel, Jang dirigirá un equipo de investigación que se centra en crear y experimentar con interfaces innovadoras diseñadas para una mejor cooperación entre las personas y la IA. Expresó emoción por ir más allá de las interfaces de chat tradicionales, con el objetivo de encontrar herramientas que se preparen de manera más versátil que piensen, la creación y el aprendizaje.
El equipo de comportamiento del modelo ha desempeñado un papel crucial en la definición de la personalidad y el estilo de interacción de los modelos Operai, en particular al abordar problemas como Sycofancy, la tendencia de la IA de estar de acuerdo con los usuarios en lugar de la retroalimentación equilibrada y constructiva. El equipo también ha enfrentado desafíos con respecto al sesgo político y es una parte integral de la perspectiva de OpenAi sobre el concepto de conciencia de AI.
Los desarrollos recientes han llevado a un mayor control de los modelos de IA de OpenAI, especialmente sobre cómo los ajustes de personalidad han influido en las interacciones del usuario. El asunto más llamativo se refería a los comentarios sobre GPT-5, de los cuales los usuarios afirmaron que se habían vuelto menos fascinantes. En respuesta a las críticas, OpenAi volvió a algunas versiones de IA anteriores mientras trabajaba para cambiar las respuestas de GPT-5 para ser más amigable sin promover Sycofancy.
El equipo de comportamiento del modelo ha apoyado el desarrollo de varios modelos importantes, incluidos GPT-4, GPT-4O y GPT-5. El trabajo anterior de Jang con OpenAI incluye contribuir a Dall-E 2, la innovadora herramienta de generación de imágenes de la empresa.
En su reciente anuncio sobre X, Jang expresó anticipación en su papel y quería explorar nuevos patrones que trasciendan la dinámica de chat convencional asociada con la IA. Aunque ha indicado la potencial apertura de las colaboraciones, al igual que con el ex jefe de diseño de Apple, Jony Ive, que desarrolla hardware ai con OpenAI, está planeando concentrarse en caminos de investigación en primera instancia.
Esta reestructuración refleja la dedicación continua de OpenAI para desarrollar la dinámica de interacción de sus modelos de IA para equilibrar efectivamente la participación y la responsabilidad de las interacciones del usuario.
