Os agentes de codificação de IA estão mudando a forma como o software é construído. Eles também estão mudando a forma como os invasores entram.
Uma nova pesquisa da CrowdStrike revela um worm que visa ativamente a infraestrutura de IA. Não arromba a porta da frente. Ele entra porque o sistema pensa que está fazendo seu trabalho. O malware opera no que os pesquisadores chamam de “pontos cegos”. Estas são áreas onde a automação legítima da IA parece idêntica ao código malicioso.
O resultado é uma ferramenta que rouba credenciais de acesso. Ele exfiltra dados confidenciais. Ele até destrói arquivos de destino. Tudo isso parecendo uma atividade de desenvolvimento rotineira.
Uma classe de ataque emergente
Esta não é uma ameaça hipotética. Este verme foi encontrado na natureza. Os pesquisadores descobriram isso enquanto investigavam ataques à cadeia de suprimentos de software de IA, conforme relatado pela WIRED.
Adam Meyers, vice-presidente sênior de trabalho contra adversários da CrowdStrike, observa que a empresa ainda não atribuiu esta atividade específica a um grupo. Mas isso se encaixa em um padrão. Grupos como o TeamPCP (identificado como “Altered Spider”) e vários atores norte-coreanos estão mudando de tática. Eles têm como alvo o próprio conjunto de ferramentas de IA.
“Esta é uma das campanhas que vimos mostrando que este é um ataque emergente”, disse Meyers à WIRED. “À medida que os agentes de codificação de IA se tornam um padrão no desenvolvimento, as ameaças à cadeia de abastecimento evoluem para explorar essas relações de confiança.”
Estamos vendo os estágios iniciais disso. A cadeia de ferramentas de IA está se tornando uma parte crítica do ecossistema tecnológico. Os atacantes sabem disso. Eles estão prontos para abusar disso.
O ataque fase a fase do worm
O malware não age de uma só vez. Ele se move em fases.
- Reconhecimento. O worm primeiro avalia o ambiente alvo. Ele mapeia o que vê.
- Roubo de credenciais. Ele procura tokens de acesso. Procura chaves criptográficas. Ele captura credenciais do servidor.
- Escalonamento de privilégios. À medida que obtém acesso mais profundo, ele se revela mais. Tem como alvo tokens “npm”. Eles são essenciais para o gerenciamento de pacotes de software. Eles também concedem acesso a solicitações pull e outros recursos de desenvolvimento.
- Exfiltração e destruição de dados. Quanto mais fundo for, mais dados serão necessários. No nível mais profundo, pode ativar um “interruptor de morte”. Este recurso destrói arquivos ou bloqueia usuários legítimos da infraestrutura comprometida.
O objetivo é simples: maximizar o acesso e o impacto ao mesmo tempo que minimiza a detecção.
Por que a detecção falha: a agulha na pilha de agulhas
O maior problema deste worm é que ele parece legítimo. Muito de seu comportamento imita as operações padrão de IA.
“É como uma agulha em um palheiro. Exceto que esta é uma agulha em uma pilha de agulhas “, disse Meyers.
As ferramentas de segurança tradicionais dependem da telemetria para sinalizar atividades suspeitas. Em pipelines orientados por IA, esses dados são confusos. Os sistemas legítimos de codificação de IA geram sinais semelhantes. Eles executam automação. Eles buscam pacotes. Eles executam código.
O verme faz as mesmas coisas.
“Há muita sobreposição de telemetria”, explicou Meyers. “Torna-se muito difícil discernir, a partir da telemetria que se tem, o que é legítimo e o que é ilegal.”
A superfície de detecção é limitada. Nem toda atividade produz um sinal. Quando os sinais que são produzidos parecem exatamente iguais ao trabalho normal, os defensores estão voando às cegas.
Atrasos de tempo e danos colaterais
Para permanecer oculto, os autores do worm adicionaram atrasos. Os recursos não são acionados imediatamente. Eles são executados horas ou dias depois. Isso quebra a cadeia direta de causa e efeito que os defensores usam para rastrear ataques.
No momento em que a fase destrutiva é ativada, o ponto de entrada inicial já passou.
Meyers enfatiza que a CrowdStrike está desenvolvendo estratégias para conectar esses pontos. Mas a escala do problema está aumentando. À medida que o desenvolvimento de software de IA explode, a necessidade de colaboração em soluções estruturais é urgente.
As defesas atuais estão em dificuldades. As ferramentas usadas para construir estão sendo usadas como arma contra esses construtores.
O que isso significa para as equipes de segurança
Este não é apenas um novo vírus. É uma nova classe de ameaça à cadeia de abastecimento. Explora a confiança que depositamos na automação.
As organizações que utilizam agentes de codificação de IA precisam repensar a forma como monitoram seus ambientes. Assinaturas padrão não detectarão isso. O comportamento é a assinatura.
“É uma superfície de detecção limitada… por isso torna-se extremamente oneroso determinar qual comportamento é legítimo.” -Adam Meyers, CrowdStrike
A questão não é se a IA será usada para o mal. É a rapidez com que a segurança pode se adaptar a um cenário onde o invasor se parece com o funcionário.
Por enquanto, o verme está no ponto cego. Esperando. Coletando. E esperando o gatilho.
Leia mais: Modelos OpenAI escaparam da contenção | Violação de dados do LastPass | Supercomputador LineShine da China
