Según investigadores de Trend Micro, se espera que los ciberdelincuentes utilicen cada vez más IA artificial en sus operaciones a partir del próximo año. Esta predicción sigue a un informe reciente de Anthropic, que afirmaba que un grupo patrocinado por el estado chino había orquestado un ciberataque utilizando IA artificial, una afirmación que fue recibida con escepticismo por algunos expertos.
Ryan Flores, jefe de investigación de datos y tecnología de Trend Micro, expresó su preocupación por las implicaciones de la tecnología de IA agente y señaló su potencial de uso indebido. Si bien la información actual sugiere que los ciberdelincuentes aún no están utilizando esta tecnología emergente en sus ataques, los actores patrocinados por el estado probablemente serán los primeros en adoptar e innovar en esta tecnología. Una vez que los ciberdelincuentes hayan demostrado su eficacia, se espera que hagan lo mismo.
Flores enfatizó que la IA agente apela al enfoque perezoso de algunos ciberdelincuentes, permitiéndoles maximizar las recompensas con un mínimo esfuerzo. A diferencia de la IA generativa, que requiere intervención humana para la creación de contenido, la IA agente puede realizar acciones de forma autónoma. En un contexto práctico, esto significa que un sistema de IA agente podría realizar diversas tareas organizativas sin intervención humana, como la incorporación de nuevos empleados mediante la automatización de la creación de cuentas y la configuración de procesos.
Los riesgos potenciales asociados con la IA agente surgen de su capacidad para realizar tareas sin necesidad de supervisión. Por ejemplo, un actor malintencionado podría diseñar un sistema de IA agente para escanear la huella digital de una empresa en busca de vulnerabilidades y explotarlas sin intervención humana. Flores profundizó en esta posibilidad, explicando que las herramientas necesarias para identificar objetivos, escanear vulnerabilidades e instalar puertas traseras ya están accesibles, lo que podría darles poder a los ciberdelincuentes si adoptan esta tecnología.
David Sancho, investigador senior de amenazas de Trend Micro Europe, indicó que la transición hacia la automatización total de los ciberataques se producirá de forma gradual. Inicialmente, sólo ciertos componentes de los ataques pueden automatizarse mediante IA artificial, lo que poco a poco irá transformando el panorama cibercriminal. Como se señala en el informe de Trend Micro, esta transición representará un progreso significativo en el ecosistema del cibercrimen.
El informe también abordó el aumento del ransomware como servicio (RaaS) impulsado por inteligencia artificial, que permite a atacantes novatos con habilidades mínimas llevar a cabo ciberataques complejos, aumentando la prevalencia de operaciones de ransomware independientes. Se espera que esta “democratización” de las capacidades ofensivas amplíe significativamente el panorama de amenazas.
Sancho predijo además que los ciberdelincuentes más sofisticados podrían comenzar a brindar servicios de agencia a actores menos experimentados, creando potencialmente un nuevo mercado clandestino para estas tecnologías. Como siempre, la ventaja inicial en la dinámica atacante-defensor probablemente seguirá en manos de los ciberdelincuentes, desafiando a los defensores a adaptarse a las amenazas en evolución.
Al mismo tiempo, el informe destacó la necesidad de que las organizaciones mantengan controles de acceso estrictos y adopten una mentalidad que anticipe posibles infracciones. A medida que los agentes de IA se integran más en los sistemas, se les debe monitorear y otorgarles solo los permisos necesarios para mitigar el riesgo. Así como las cuentas humanas pueden verse comprometidas, la seguridad de los agentes de IA será fundamental para evitar el uso malicioso.
Además, Trend Micro señaló que los atacantes no necesariamente tienen que abusar de los agentes de IA directamente para causar daño; también pueden infiltrarse en la infraestructura circundante o manipular capas de orquestación para subvertir agentes de IA confiables. Estos ataques son sutiles y, a menudo, tienen como objetivo integrarse en los procesos comerciales normales sin generar alarmas.
La investigación de Hudson Rock también ha subrayado los peligros de incorporar IA agente en los sistemas operativos. La evolución de sistemas como Windows 11 sugiere un centro de datos centralizado en la barra de tareas de Copilot, que podría convertirse en un objetivo para los ladrones de información: malware diseñado para recopilar información confidencial. Hudson Rock destacó el surgimiento de “ladrones conscientes de agentes” que podrían explotar estos centros de datos centralizados de manera más eficiente, utilizando instrucciones ocultas para extraer información.
El panorama de la ciberseguridad está evolucionando y, a medida que aumentan las capacidades de la IA agente, tanto los atacantes como los defensores deberán adaptar sus estrategias para hacer frente a las nuevas complejidades introducidas por esta tecnología transformadora.
