Gli agenti di codifica AI stanno cambiando il modo in cui viene creato il software. Stanno anche cambiando il modo in cui gli aggressori entrano.
Una nuova ricerca di CrowdStrike rivela un worm che prende di mira attivamente l’infrastruttura AI. Non sfonda la porta d’ingresso. Entra perché il sistema pensa di fare il suo lavoro. Il malware opera in quelli che i ricercatori chiamano “punti ciechi”. Si tratta di aree in cui l’automazione legittima dell’intelligenza artificiale sembra identica al codice dannoso.
Il risultato è uno strumento che ruba le credenziali di accesso. Estrae dati sensibili. Distrugge persino i file di destinazione. Il tutto mentre sembra un’attività di sviluppo di routine.
Una classe d’attacco emergente
Questa non è una minaccia ipotetica. Questo verme è stato trovato in natura. I ricercatori lo hanno scoperto mentre indagavano sugli attacchi alla catena di fornitura di software AI, come riportato da WIRED.
Adam Meyers, vicepresidente senior del settore Counter Adversary Work di CrowdStrike, sottolinea che la società non ha ancora attribuito questa attività specifica a un gruppo. Ma rientra in uno schema. Gruppi come TeamPCP (notato come “Altered Spider”) e vari attori nordcoreani stanno cambiando tattica. Stanno prendendo di mira la stessa toolchain dell’intelligenza artificiale.
“Questa è una delle campagne che abbiamo visto dimostrando che si tratta di un attacco emergente”, ha detto Meyers a WIRED. “Mentre gli agenti di codifica dell’intelligenza artificiale diventano uno standard nello sviluppo, le minacce alla catena di fornitura si evolvono per sfruttare tali relazioni di fiducia”.
Ne stiamo vedendo le prime fasi. La toolchain dell’intelligenza artificiale sta diventando una parte fondamentale dell’ecosistema tecnologico. Gli aggressori lo sanno. Sono pronti ad abusarne.
L’attacco fase per fase del verme
Il malware non agisce tutto in una volta. Si muove per fasi.
- Ricognizione. Il worm valuta innanzitutto l’ambiente di destinazione. Mappa ciò che vede.
- Furto di credenziali. Cerca token di accesso. Cerca chiavi crittografiche. Acquisisce le credenziali del server.
- Escalation dei privilegi. Man mano che ottiene un accesso più profondo, spacchetta sempre più se stesso. Ha come target i token “npm”. Questi sono fondamentali per la gestione dei pacchetti software. Consentono inoltre l’accesso alle richieste pull e ad altre funzionalità di sviluppo.
- Esfiltrazione e distruzione dei dati. Più si va in profondità, più dati possono essere raccolti. Al livello più profondo, può attivare un “interruttore della morte”. Questa funzionalità distrugge file o blocca gli utenti legittimi dall’infrastruttura compromessa.
L’obiettivo è semplice: massimizzare l’accesso e l’impatto riducendo al minimo il rilevamento.
Perché il rilevamento fallisce: l’ago nell’ago
Il problema più grande con questo worm è che sembra legittimo. Gran parte del suo comportamento imita le operazioni IA standard.
“È come un ago in un pagliaio. Solo che questo è un ago in un ago pila”, ha detto Meyers.
Gli strumenti di sicurezza tradizionali si affidano alla telemetria per segnalare attività sospette. Nelle pipeline guidate dall’intelligenza artificiale, questi dati sono confusi. I sistemi di codifica AI legittimi generano segnali simili. Gestiscono l’automazione. Prendono i pacchi. Eseguono il codice.
Il verme fa le stesse cose.
“C’è molta sovrapposizione di telemetria”, ha spiegato Meyers. “Diventa molto difficile discernere, dalla telemetria di cui disponi, cosa è legittimo e cosa è illegale”.
La superficie di rilevamento è limitata. Non tutte le attività producono un segnale. Quando i segnali che vengono prodotti sembrano esattamente quelli del normale lavoro, i difensori volano alla cieca.
Ritardi e danni collaterali
Per rimanere nascosto, gli autori del worm hanno aggiunto dei ritardi. Le funzionalità non si attivano immediatamente. Eseguono ore o giorni dopo. Ciò interrompe la catena diretta di causa-effetto utilizzata dai difensori per tracciare gli attacchi.
Quando si attiva la fase distruttiva, il punto di ingresso iniziale è ormai scomparso.
Meyers sottolinea che CrowdStrike sta sviluppando strategie per collegare questi punti. Ma la portata del problema sta crescendo. Con l’esplosione dello sviluppo di software AI, la necessità di collaborazione su soluzioni strutturali è urgente.
Le attuali difese sono in difficoltà. Gli strumenti utilizzati per costruire vengono utilizzati come armi contro quei costruttori.
Cosa significa per i team di sicurezza
Questo non è solo un nuovo virus. È una nuova classe di minacce alla catena di approvvigionamento. Sfrutta la fiducia che riponiamo nell’automazione.
Le organizzazioni che utilizzano agenti di codifica AI devono ripensare il modo in cui monitorano i propri ambienti. Le firme standard non lo rilevano. Il comportamento è la firma.
“Si tratta di una superficie di rilevamento limitata… quindi diventa estremamente oneroso determinare quale comportamento sia legittimo.” — Adam Meyers, CrowdStrike
La domanda non è se l’intelligenza artificiale verrà utilizzata per scopi malvagi. È la rapidità con cui la sicurezza riesce ad adattarsi a un panorama in cui l’aggressore assomiglia al dipendente.
Per ora, il verme si trova nel punto cieco. In attesa. Collezionare. E aspettando il grilletto.
Ulteriori informazioni: I modelli OpenAI sono sfuggiti al contenimento | Violazione dei dati LastPass | Il supercomputer cinese LineShine
