El rápido crecimiento de la IA generativa (Genai) ha dado como resultado una gran cantidad de plataformas basadas en la web que ofrecen varias opciones, que van desde la ayuda del código y la generación del lenguaje natural hasta los sitios web automatizados e interacciones Chatbot. Este aumento en el uso de Genai ha presentado nuevos caminos para ciberdelincuentes, lo que explota cada vez más estas tecnologías para lanzar ataques de phishing avanzados que son más difíciles de detectar.
Las ideas recientes de telemetría revelan que, a medida que la aceptación de las plataformas Genai reduce la carga de trabajo manual y mejora la productividad en áreas como alta tecnología, educación y telecomunicaciones, al mismo tiempo introduce riesgos considerables en el campo de la seguridad cibernética. Se ha observado un claro aumento en el uso de servicios de IA, en particular con el rápido aumento del tráfico web a las plataformas basadas en IA en los últimos seis meses. Las industrias que lideran esta aceptación de IA incluyen servicios profesionales y legales de alta tecnología, educación y telecomunicaciones, con aplicaciones de generación de texto, como asistentes de escritura y herramientas de creación de medios que forman la mayor parte de esta actividad.
Sin embargo, las mismas posibilidades que racionalizan los flujos de trabajo son tomadas por actores de amenaza. Las herramientas de Genai pueden generar contenido realista de phishing, crear sitios web fraudulentos para actuar como marcas de confianza y automatizar esfuerzos malignos a gran escala. Esta tendencia alarmante incluye escenarios de abuso específicos, como páginas de phishing generadas por IA y chatbots malignos, que brindan desafíos para los esfuerzos de detección y respuesta.
Los tipos de servicios de IA que se están abusando se clasifican en gran medida en tres grupos: generadores de sitios web, asistentes de escritura y chatbots. Un análisis muestra que alrededor del 40% de los intentos de phishing están vinculados a los servicios para generar sitios web, mientras que alrededor del 30% es la escritura de asistentes. Una explotación notable incluye constructores de sitios web impulsados por IA con los que los usuarios pueden crear y publicar rápidamente sitios de phishing sin procesos de verificación, como correo electrónico o autenticación telefónica. Han surgido varios sitios web de phishing de estas plataformas en los últimos meses, por lo que los usuarios están vinculados a sitios para robar referencias.
Un ejemplo de prueba mostró cómo un conocido constructor de sitios web de IA, cuando se le solicita una descripción simplista de una compañía legítima, podría generar una página web convincente en solo unos segundos. Este contenido generado, aunque de naturaleza rudimentaria, muestra el potencial de ataques cada vez más avanzados a medida que estas herramientas de IA continúan evolucionando.
Además de los constructores de sitios web, los atacantes también han abusado de la escritura de plataformas de asistente para alojar páginas de phishing con indicadores mínimos para la participación de la IA. El contenido de phishing producido a menudo atrae a las víctimas con mensajes genéricos antes de que se desvíen a los sitios hechos para recolectar referencias.
En general, el aumento en el uso de Genai se establece para que coincida con un aumento en los ataques cibernéticos que usan estas tecnologías. Las organizaciones deben tomar medidas proactivas para fortalecer las defensas de defensa a la luz de este paisaje en evolución. Palo Alto Networks enfatiza la importancia de utilizar productos como el filtrado de URL avanzado y la seguridad avanzada de DNS para identificar y reducir estas amenazas. Si hay preocupaciones sobre los posibles compromisos, se recomienda una consulta inmediatamente consulta con el equipo de respuesta a incidentes de la Unidad 42.
A medida que los ciberdelincuentes continúan ajustando y explotando nuevas tecnologías, la cooperación continua dentro de la alianza de amenazas cibernéticas y las mejores prácticas de seguridad serán cruciales para proteger a las personas y organizaciones.
 has resulted in a myriad of web-based platforms offering various capabilities, ranging from code assistance and){kind=link}