Ya lo dice la canción de Chenoa: Cuando tú vas, yo vengo de allí; / cuando yo voy, tú todavía estás aquí. Aplicado al mundo de buenos y malos, los delincuentes siempre van un paso por delante. Por mucho motivos: la falta de escrúpulos, el talento y, sobre todo, la capacidad económica.
Más de 1,8 millones de LLMs
Cisco Talos, la división de ciberinteligencia de Cisco, ha detectado una nueva tendencia peligrosa: los ciberdelincuentes aprovechan estos modelos, con tácticas renovadas, para automatizar y mejorar sus ciberataques. Según la investigación, los actores maliciosos no solo explotan los servicios de inteligencia artificial públicos.
También emplean patrones personalizados y versiones con jailbreak (proceso con el que se eliminan las limitaciones impuestas por Apple en un dispositivo con iOS). Gracias a estas herramientas, están en condiciones de generar campañas convincentes de phishing y escribir código malicioso complejo.
Los LLMs están en la cima de la popularidad en todos los sectores, sobre todo por su potencial para la creación de texto persuasivo, la resolución de problemas y la escritura de código. Hugging Face, plataforma que aloja LLMs, cifra en más de 1,8 millones de los modelos disponibles en la actualidad. La mayoría están protegidos con salvaguardas y limitaciones incorporadas para evitar ataques.
LLMs sin restricciones
Un número significativo de LLMs no tienen restricciones que impidan a los ciberdelincuentes elaborar mensajes de phishing altamente realistas y comunicaciones fraudulentas, con frecuencia libres de errores gramaticales o frases sospechosas, que podían alertar del fraude. Cisco Telos sostiene que esta circunstancia hace crecer la probabilidad de que las víctimas revelen información personal o corporativa.
Como ejemplos de estos modelos se pueden citar Ollama y WhiteRabbitNeo, este último promovido como herramienta para operaciones de ciberseguridad tanto defensivas como ofensivas. Los investigadores de Cisco también han constatado la existencia de métodos para eliminar las restricciones integradas: los delincuentes pueden cambiar los conjuntos de datos de entrenamiento y ajustar los modelos base para eliminar restricciones, lo que facilita el uso indebido.
LLMs maliciosos personalizados
Los ciberdelincuentes más creativos han logrado implementar sus propios LLMs y los publicitan en la dark web. Estos LLMs maliciosos pueden crear software dañino de manera autónoma, como ransomware, troyanos de acceso remoto, shellcode y diversos scripts.
Además, estas herramientas maliciosas contribuyen a elaborar correos de phishing, páginas de destino y archivos de configuración. Y pueden también verificar datos de tarjetas de crédito robadas, escanear sitios web en busca de vulnerabilidades y maquinar nuevas estrategias delictivas. Ejemplos de este tipo de aplicaciones maliciosas son GhostGPT, WormGPT, DarkGPT, DarkestGPT y FraudGPT. Talos ha descubierto que FraudGPT, en particular, forma parte de una campaña de estafa más amplia.
Explotación de modelos legítimos
Como los LLMs sin restricciones no ofrecen mucha viabilidad para los ciberataques, muchos ciberdelincuentes apuestan por la explotación de modelos legítimos. Una vez que el hacker logra burlar las medidas de seguridad integradas, la plataforma de actuación resulta bastante potente.
Los principales muros de contención son las directrices de formación y las medidas de seguridad que impiden respuestas a consultas poco éticas o ilegales. Para bordearlas, los cibermalos utilizan técnicas como la inyección inmediata, que intenta hacer jailbreak a los modelos y eludir sus limitaciones.
Deja una respuesta