Cada vez son más los cibermalos que usan ChatGPT o Claude para fines maliciosos, aunque para ello tengan que ‘engañar’ de alguna manera a los famosos asistentes de OpenAI y Anthropic para que lleven a cabo acciones cuestionables.
Lo cierto es que ya hay algo parecido. Se llama Luciferus y se está empezando a promocionar en foros dirigidos a hackers de sombrero negro.
La compañía de ciberseguridad Sophos, a través de su Unidad de Contramedidas contra Amenazas (CTU), ha encontrado un anuncio en una de estas plataformas donde se habla de esta IA de nombre ‘demoníaco’ concebida para hacer el mal.
Según reza en la publicación, se trata de una herramienta que funciona con un modelo propietario con 120.000 millones de parámetros.
El autor del post se define como programador/codificador y se hace llamar como el líder de los Transformers, Optimus_Prime. Su cuenta se unió al foro el 18 de abril y desde entonces ha publicado una veintena de mensajes.
Hasta ahora se habían encontrado versiones modificadas o ‘jailbreakeadas’ de ChatGPT o Claude, ilegales (obviamente) pero que permitían un uso malicioso de los conocidos LLMs sin medida. Sin embargo, esta nueva ‘arma’ está construida desde la base sin medidas de seguridad. Así, sus usuarios pueden tener mayor control y disfrutarla mucho más tiempo.
Quizás no tan ‘propietaria’
Los investigadores de Sophos ponen en duda que sea una herramienta diseñada tal y como se dice.
«Las afirmaciones sobre modelos propietarios pueden resultar engañosas, ya que muchos de los servicios probablemente se basan en modelos de código abierto optimizados, indicaciones del sistema personalizadas o capas de orquestación, en lugar de modelos fundamentales completamente nuevos. Entrenar un modelo de aprendizaje automático verdaderamente innovador requiere una gran cantidad de conocimientos especializados, datos y recursos informáticos», aseguran.
El anuncio del foro habla de que Luciferus tiene tres niveles de suscripción: Inquisitor cuesta 35 dólares al mes, Archdevil 55 dólares y Prince of Darkness 75 dólares.
Además, existe otro nivel aparte al que llaman ‘Encarnación Individual’, que no es sino un modelo privado personalizado, de tal manera que se entrena con sus propios datos, tiene potencia informática dedicada y ofrece control sobre el tamaño de la ventana de contexto y la temperatura de respuesta. En este caso, su precio varía según las necesidades del comprador.
«La aparición de Luciferus se alinea con una tendencia más amplia en la que los ciberdelincuentes están comercializando cada vez más la IA a través de foros clandestinos, canales de Telegram y mercados de ciberdelincuentes», destacan los investigadores.
«Estos avances sugieren que la IA es un componente cada vez más accesible del ecosistema del cibercrimen, lo que reduce las barreras de entrada y permite que los actores con menos conocimientos técnicos accedan a capacidades que antes estaban limitadas a desarrolladores experimentados», concluyen desde Sophos.
Deja una respuesta