Operai ha emitido una advertencia con respecto a la última función, ChatGPT Agent, que enfatiza los riesgos potenciales relacionados con el desarrollo de bioweapons. Diseñada para racionalizar las tareas diarias para los usuarios, esta herramienta expresó su preocupación entre los investigadores de seguridad que sugieren que puede ayudar involuntariamente a las personas no capacitadas a crear amenazas biológicas.
Aunque el agente de ChatGPT impulsado por la IA tiene como objetivo automatizar actividades, como recopilar datos, organizar viajes y producir presentaciones, se clasifica como una «altas» posibilidades para el biorisco. Esta clasificación indica que podría ayudar considerablemente a los principiantes a desarrollar amenazas biológicas o químicas, lo que tiene consecuencias para la probabilidad y frecuencia de los incidentes terroristas biológicos realizados por los actores no estatales.
Boaz Barak, miembro del equipo técnico de OpenAI, enfatizó la gravedad de estos riesgos. Compartió ideas sobre las redes sociales y afirmó que, en contraste con las creencias anteriores sobre los modelos de IA que solo ofrecen información disponible públicamente, las posibilidades actuales son una amenaza tangible. Barak declaró: «Aunque no podemos decir que este modelo pueda permitir que un principiante cree un daño biológico grave, creo que hubiera sido muy irresponsable liberar este modelo sin mitigaciones extensas».
En respuesta al potencial de abuso, Openai ha adoptado una medida de precaución e implementó varias garantías para el agente de ChatGPT. Keer Gu, un investigador de seguridad de la compañía, señaló que, aunque no hay evidencia definitiva de que la IA pueda ayudar a crear daños biológicos graves, medidas proactivas. Estos incluyen la negativa del modelo a celebrar indicaciones que pueden conducir a la producción de Bioweapon, por lo que las solicitudes potencialmente peligrosas de evaluación de expertos, modificación estricta de contenido, respuesta acelerada a incidentes con abuso y monitoreo constante pueden marcarse por cualquier abuso.
El desafío radica en la naturaleza de tales capacidades, que no solo amenazan la seguridad pública, sino que también tienen el potencial de importantes avances médicos. Operai ha reconocido la urgente necesidad de abordar los riesgos que pueden surgir del abuso en el desarrollo de armas biológicas. La compañía anunció previamente planes para intensificar las pruebas de seguridad para proteger contra la posibilidad de que sus modelos pudieran ayudar a crear bio-agentes dañinos.
La conveniencia comparativa de crear amenazas biológicas, en contraste con las armas nucleares o radiológicas, que generalmente requieren materiales más complejos, es la importancia de controlar el conocimiento y las habilidades de laboratorio. Barak señaló que si no se administra correctamente, el agente de ChatGPT podría reducir la brecha de conocimiento y ofrecer apoyo relacionado con un experto en el tema.
El agente de ChatGPT marca un desarrollo crucial en la tecnología AI, que parece un asistente personal que puede administrar diversas tareas digitales. A diferencia de sus predecesores, esta nueva función puede organizar activamente aplicaciones, navegar por los navegadores web y comunicarse con archivos, gracias a una fusión de equipos que anteriormente trabajaban en herramientas de IA aún más especializadas. Dado que las grandes compañías de tecnología, incluidas Google y Anthrope, intensifican sus esfuerzos en esta área, es un potencial creciente para que los agentes de IA mejoren o complicen los flujos de trabajo.
OpenAI reconoce el aumento de los riesgos con mayor autonomía y se esfuerza por permitir a los usuarios mantener el control. El agente está diseñado para solicitar permiso antes de realizar acciones importantes, para que los usuarios puedan hacer una pausa o desviar la herramienta si es necesario.
Si bien la competencia se está calentando en el paisaje de IA, la liberación de OpenAI del agente ChatGPT subraya tanto el progreso en la automatización como la necesidad crucial de una supervisión responsable para prevenir el abuso potencial en áreas sensibles como las biowapons.
