Este verano, los piratas informáticos rusos comenzaron una campaña de phishing refinada sobre ucranianos, con un programa de inteligencia artificial (IA) como apego. Una vez instalado, este programa buscaría de forma autónoma en las computadoras de las víctimas en busca de archivos sensibles para volver a las operaciones de inteligencia rusas. Este movimiento marca la primera copia documentada en la que la inteligencia rusa ha utilizado grandes modelos de idiomas (LLM), la tecnología detrás de los chatbots de IA populares como ChatGPT, en los esfuerzos de piratería.
Los informes técnicos tanto del gobierno ucraniano como de varias compañías de seguridad cibernética anunciaron esta campaña en julio, con una atención de una tendencia relevante en la que los piratas informáticos, que van desde ciberdelincuentes hasta actores patrocinados por el gobierno, utilizan cada vez más herramientas de IA en sus actividades. Aunque LLMS sigue siendo imperfecto, han mostrado una promesa considerable en el procesamiento de las instrucciones del lenguaje, traducir el lenguaje natural en código de computadora y analizar documentos.
A pesar de la exageración generalizada en torno a la tecnología de IA, el panorama de la seguridad cibernética aún no tiene que cambiar fundamentalmente al permitir que los piratas informáticos iniciaran ataques refinados o trayendo interrupciones a gran escala, como las rejillas de poder de cierre. En cambio, la IA mejora la eficiencia y la efectividad de los piratas informáticos experimentados. Los profesionales de ciberseguridad también usan IA y crean un escenario dinámico de gato y ratón entre piratas informáticos ofensivos que explotan las vulnerabilidades de software y los defensores que trabajan para parcharlos.
Heather Adkins, una vicepresidenta de ingeniería de seguridad en Google, compartió ideas sobre el proyecto actual de su equipo, que la LLM de Google, Gemini, emplea vulnerabilidades de software proactivamente críticas antes de que puedan ser utilizados por actores malignos. Desde el comienzo de este proyecto a principios de 2024, el equipo ha descubierto al menos 20 errores importantes en el software generalmente usado, lo que realiza advertencias oportunas para las empresas afectadas facilitan la remediación. Adkins señaló que aunque los hallazgos no han sido innovadores, la velocidad de detección ha mejorado considerablemente debido a las posibilidades de IA.
El vicepresidente senior de CrowdStrike, Adam Meyers, repitió los sentimientos de la creciente integración de IA en seguridad cibernética y declaró que se nota la evidencia con respecto a los oponentes avanzados que usan IA para su beneficio operativo. Hizo hincapié en que más y más ataques avanzados están siendo seguidos por varios actores, incluidos los piratas informáticos chinos, rusos e iraníes.
El panorama en desarrollo aún no debe cumplir completamente con las expectativas infladas en torno a las tecnologías de IA desde el lanzamiento de ChatGPT en 2022. Algunos expertos en seguridad cibernética han expresado su preocupación de que los posibles piratas informáticos puedan ser engañados por informes de vulnerabilidad falsa generados por IA. Mientras tanto, los estafadores e ingenieros sociales han utilizado LLM para mejorar la credibilidad de sus esfuerzos de phishing, lo que demuestra aplicaciones tempranas de IA en piratería directa.
Will Pearce, CEO de DreadNode, señaló que el cambio al uso de IA en la piratería está comenzando a obtener un control debido al progreso tecnológico. Las herramientas de piratería automatizadas que anteriormente requerían ajustes considerables ahora son considerablemente más eficientes. Xbow, otra startup dirigida a la piratería impulsada por la IA, llegó a los titulares al convertirse en la primera entidad de IA que es la tabla de clasificación estadounidense en la parte superior de Hackerone, que clasifica a los piratas informáticos en su capacidad para identificar vulnerabilidades. Esta nueva categoría se introdujo específicamente para reconocer grupos con la ayuda de AI Hacktools automatizados.
El debate se trata de si AI finalmente favorecerá a los atacantes o defensores, con tendencias actuales que indican que los mecanismos de defensa actualmente pueden mantener la ventaja. Alexei Bulalazel, director cibernético senior del Consejo de Seguridad Nacional de la Casa Blanca, sugirió que el dominio de los Estados Unidos en tecnología avanzada ofrece un beneficio para los defensores. Hizo hincapié en que aunque los piratas informáticos explotan grandes deficiencias en grandes empresas de tecnología estadounidense son inusuales, las pequeñas empresas con recursos de seguridad cibernética limitados a menudo se convierten en objetivos para los ciberdelincuentes.
Mirando hacia el futuro, se aseguran de que el progreso en la IA pueda llevar a la creación de herramientas de piratería accesibles, que, si se liberan ampliamente, puede aumentar las amenazas, especialmente para las empresas más pequeñas. Tanto Adkins como Meyers reconocieron que el aumento de los sistemas de «IA agente» que pueden realizar tareas complejas de forma independiente, podría formar riesgos significativos de seguridad cibernética si no se manejan de la manera correcta, de modo que se puedan dar nuevas formas de amenazas internas, ya que las organizaciones pueden ser implícitas.
 program as an){kind=link}