En un análisis inquietante de la intersección entre la inteligencia artificial y la seguridad cibernética, los expertos enfatizan los riesgos emergentes de los modelos de idiomas que generan URL engañosas o totalmente ficticias. J Stephen Kowski, el campo CTO en SlashNext, enfatizó que el reciente aumento de las amenazas cibernéticas puede atribuirse a modelos de IA que «alucinan» las URL que conducen a dominios no registrados. Este fenómeno permite a los ciberdelincuentes registrar fácilmente estos dominios, creando un camino peligroso para los usuarios desprevenidos que pueden navegar inconscientemente a lugares maliciosos, para que los atacantes puedan convertirse efectivamente en una «hoja de ruta» para explotar a las posibles víctimas.
Las implicaciones de estos hallazgos son particularmente alarmantes para las marcas nacionales dentro de los sectores financiero y fintech. La investigación realizada por Netcraft ha demostrado que las instituciones más pequeñas, como las asociaciones de crédito y los bancos regionales, se ven desproporcionadamente afectadas por esta tendencia. Kowski señaló que, aunque las plataformas más grandes y más establecidas podrían tener defensas más robustas, las empresas de tamaño mediano parecen ser vulnerables, causando una mayor explotación debido a su menor visibilidad en los datos de capacitación para los modelos de idiomas.
Nicole Carignan, el campo CISO en Darktrace, señaló un error crítico en cómo funcionan estos sistemas de IA. A diferencia de los procesos tradicionales para recuperar datos, estos modelos generan que se presentan como hechos que los usuarios pueden engañar. Este problema estructural se ve exacerbado por el hecho de que los sistemas de IA están diseñados principalmente para ayudar en lugar de garantizar la precisión. Sin una base estricta en los datos verificados, las posibilidades de generar URL inseguras aumentan considerablemente, lo que causa una amenaza para los usuarios que pueden no poder distinguir la credibilidad.
Una solución propuesta para prevenir este problema es el registro proactivo de los posibles dominios alucinados. Sin embargo, los investigadores advierten que esta estrategia no puede ser efectiva debido a las variaciones casi ilimitadas que pueden crear modelos de idiomas. A medida que estos modelos continúan evolucionando y continúan generando nuevas URL, prohíbe el riesgo de que los ataques de las citas de SLOP, donde los ciberdelincuentes crean dominios que son legítimos simulados, un cuidado serio para las instituciones y los consumidores.
El panorama de la seguridad cibernética está cambiando rápidamente, lo que requiere una mayor vigilancia tanto de organizaciones como de individuos. A medida que los ciberdelincuentes se adaptan a la explotación de las vulnerabilidades por el contenido generado por IA, la presión para las partes interesadas es mejorar su defensa contra estas amenazas avanzadas.
