Los agentes de codificación de IA están cambiando la forma en que se construye el software. También están cambiando la forma en que entran los atacantes.
Una nueva investigación de CrowdStrike revela un gusano que se dirige activamente a la infraestructura de IA. No derriba la puerta de entrada. Entra porque el sistema cree que está haciendo su trabajo. El malware opera en lo que los investigadores llaman “puntos ciegos”. Estas son áreas donde la automatización legítima de la IA parece idéntica al código malicioso.
El resultado es una herramienta que roba las credenciales de acceso. Exfiltra datos confidenciales. Incluso destruye los archivos de destino. Todo ello mientras parece una actividad de desarrollo rutinaria.
Una clase de ataque emergente
Esta no es una amenaza hipotética. Este gusano fue encontrado en la naturaleza. Los investigadores lo descubrieron mientras investigaban los ataques a la cadena de suministro de software de IA, según informó WIRED.
Adam Meyers, vicepresidente senior de trabajo contra adversarios de CrowdStrike, señala que la compañía aún no ha atribuido esta actividad específica a un grupo. Pero se ajusta a un patrón. Grupos como TeamPCP (seguido como “Altered Spider”) y varios actores norcoreanos están cambiando de táctica. Están apuntando a la propia cadena de herramientas de IA.
“Esta es una de las campañas que hemos visto que muestra que se trata de un ataque emergente”, dijo Meyers a WIRED. “A medida que los agentes de codificación de IA se convierten en un estándar en el desarrollo, las amenazas a la cadena de suministro evolucionan para explotar esas relaciones de confianza”.
Estamos viendo las primeras etapas de esto. La cadena de herramientas de IA se está convirtiendo en una parte fundamental del ecosistema tecnológico. Los atacantes lo saben. Están dispuestos a abusar de ello.
El ataque paso a paso del gusano
El malware no actúa todo a la vez. Se mueve en fases.
- Reconocimiento. El gusano primero evalúa el entorno objetivo. Mapea lo que ve.
- Robo de credenciales. Busca tokens de acceso. Busca claves criptográficas. Toma las credenciales del servidor.
- Escalada de privilegios. A medida que obtiene un acceso más profundo, descomprime más de sí mismo. Se dirige a tokens “npm”. Estos son fundamentales para la gestión de paquetes de software. También otorgan acceso a solicitudes de extracción y otras capacidades de desarrollo.
- Exfiltración y destrucción de datos. Cuanto más profundo sea, más datos podrá tomar. En el nivel más profundo, puede activar un “interruptor de muerte”. Esta característica destruye archivos o bloquea a usuarios legítimos de la infraestructura comprometida.
El objetivo es simple: maximizar el acceso y el impacto minimizando la detección.
Por qué falla la detección: la aguja en la pila de agujas
El mayor problema de este gusano es que parece legítimo. Gran parte de su comportamiento imita las operaciones estándar de IA.
“Es como una aguja en un pajar. Excepto que ésta es una aguja en un montón de agujas “, dijo Meyers.
Las herramientas de seguridad tradicionales se basan en la telemetría para detectar actividades sospechosas. En los procesos impulsados por IA, esos datos son confusos. Los sistemas legítimos de codificación de IA generan señales similares. Manejan la automatización. Traen paquetes. Ejecutan código.
El gusano hace lo mismo.
“Hay mucha superposición de telemetría”, explicó Meyers. “Se vuelve muy difícil discernir, a partir de la telemetría que tenemos, qué es legítimo y qué es ilegal”.
La superficie de detección es limitada. No toda actividad produce una señal. Cuando las señales que se producen se ven exactamente como el trabajo normal, los defensores vuelan a ciegas.
Retrasos y daños colaterales
Para permanecer oculto, los autores del gusano añadieron retrasos en el tiempo. Las capacidades no se activan inmediatamente. Se ejecutan horas o días después. Esto rompe la cadena directa de causa y efecto que utilizan los defensores para rastrear los ataques.
Para cuando se activa la fase destructiva, el punto de entrada inicial ya no existe.
Meyers enfatiza que CrowdStrike está desarrollando estrategias para conectar estos puntos. Pero la magnitud del problema está creciendo. A medida que se dispara el desarrollo de software de IA, la necesidad de colaboración en soluciones estructurales es urgente.
Las defensas actuales están luchando. Las herramientas utilizadas para construir se están utilizando como armas contra esos constructores.
Qué significa esto para los equipos de seguridad
Este no es sólo un virus nuevo. Es una nueva clase de amenaza a la cadena de suministro. Explota la confianza que depositamos en la automatización.
Las organizaciones que utilizan agentes de codificación de IA deben repensar cómo monitorean sus entornos. Las firmas estándar no captarán esto. El comportamiento es la firma.
“Es una superficie de detección limitada… por lo que resulta extremadamente oneroso determinar qué comportamiento es legítimo”. – Adam Meyers, CrowdStrike
La pregunta no es si la IA se utilizará para el mal. Se trata de la rapidez con la que la seguridad puede adaptarse a un panorama en el que el atacante se parece al empleado.
Por ahora, el gusano se encuentra en el punto ciego. Espera. Coleccionando. Y esperando el gatillo.
Leer más: Los modelos OpenAI escaparon de la contención | Violación de datos de LastPass | LineShine de supercomputadoras de China
