Les agents de codage d’IA changent la façon dont les logiciels sont créés. Ils modifient également la façon dont les attaquants entrent.
Une nouvelle recherche de CrowdStrike révèle un ver ciblant activement l’infrastructure de l’IA. Cela ne détruit pas la porte d’entrée. Il entre parce que le système pense qu’il fait son travail. Le malware opère dans ce que les chercheurs appellent des « angles morts ». Il s’agit de domaines dans lesquels l’automatisation légitime de l’IA semble identique au code malveillant.
Le résultat est un outil qui vole les informations d’identification d’accès. Il exfiltre les données sensibles. Il détruit même les fichiers cibles. Tout en ressemblant à une activité de développement de routine.
Une classe d’attaque émergente
Ce n’est pas une menace hypothétique. Ce ver a été trouvé dans la nature. Les chercheurs l’ont découvert en enquêtant sur les attaques de la chaîne d’approvisionnement de logiciels d’IA, comme le rapporte WIRED.
Adam Meyers, vice-président principal du travail de lutte contre l’adversité chez CrowdStrike, note que la société n’a pas encore attribué cette activité spécifique à un seul groupe. Mais cela correspond à un modèle. Des groupes comme TeamPCP (appelé « Altered Spider ») et divers acteurs nord-coréens changent de tactique. Ils ciblent la chaîne d’outils d’IA elle-même.
“C’est l’une des campagnes que nous avons vues montrant qu’il s’agit d’une attaque émergente”, a déclaré Meyers à WIRED. « À mesure que les agents de codage de l’IA deviennent une norme en matière de développement, les menaces liées à la chaîne d’approvisionnement évoluent pour exploiter ces relations de confiance. »
Nous en assistons aux premiers stades. La chaîne d’outils d’IA devient un élément essentiel de l’écosystème technologique. Les attaquants le savent. Ils sont prêts à en abuser.
L’attaque phase par phase du ver
Le malware n’agit pas d’un seul coup. Il se déplace par phases.
- Reconnaissance. Le ver évalue d’abord l’environnement cible. Il cartographie ce qu’il voit.
- Vol d’identifiants. Il recherche les jetons d’accès. Il recherche des clés cryptographiques. Il récupère les informations d’identification du serveur.
- Ascension des privilèges. À mesure qu’il obtient un accès plus profond, il se dévoile davantage. Il cible les jetons « npm ». Ceux-ci sont essentiels à la gestion des progiciels. Ils accordent également l’accès aux demandes d’extraction et à d’autres fonctionnalités de développement.
- Exfiltration et destruction de données. Plus cela va en profondeur, plus cela peut prendre de données. Au niveau le plus profond, il peut activer un « interrupteur mortel ». Cette fonctionnalité détruit les fichiers ou bloque les utilisateurs légitimes de l’infrastructure compromise.
L’objectif est simple : maximiser l’accès et l’impact tout en minimisant la détection.
Pourquoi la détection échoue : l’aiguille dans la pile d’aiguilles
Le plus gros problème avec ce ver est qu’il semble légitime. Une grande partie de son comportement imite les opérations standard de l’IA.
“C’est comme une aiguille dans une botte de foin. Sauf que c’est une aiguille dans une pile d’aiguilles”, a déclaré Meyers.
Les outils de sécurité traditionnels s’appuient sur la télémétrie pour signaler les activités suspectes. Dans les pipelines pilotés par l’IA, ces données sont compliquées. Les systèmes de codage d’IA légitimes génèrent des signaux similaires. Ils gèrent l’automatisation. Ils récupèrent des colis. Ils exécutent du code.
Le ver fait les mêmes choses.
“Il y a beaucoup de chevauchements télémétriques”, a expliqué Meyers. “Il devient très difficile de discerner, à partir de la télémétrie dont vous disposez, ce qui est légitime et ce qui est illégal.”
La surface de détection est limitée. Toutes les activités ne produisent pas de signal. Lorsque les signaux qui sont produits ressemblent exactement à un travail normal, les défenseurs volent à l’aveugle.
Délais et dommages collatéraux
Pour rester cachés, les auteurs du ver ont ajouté des délais. Les capacités ne se déclenchent pas immédiatement. Ils s’exécutent des heures ou des jours plus tard. Cela brise la chaîne de cause à effet directe que les défenseurs utilisent pour retracer les attaques.
Au moment où la phase destructrice s’active, le point d’entrée initial a disparu depuis longtemps.
Meyers souligne que CrowdStrike développe des stratégies pour relier ces points. Mais l’ampleur du problème s’accroît. Alors que le développement de logiciels d’IA explose, le besoin de collaboration sur des solutions structurelles est urgent.
Les défenses actuelles sont en difficulté. Les outils utilisés pour construire sont utilisés comme armes contre ces constructeurs.
Ce que cela signifie pour les équipes de sécurité
Ce n’est pas seulement un nouveau virus. Il s’agit d’une nouvelle classe de menace pour la chaîne d’approvisionnement. Il exploite la confiance que nous accordons à l’automatisation.
Les organisations utilisant des agents de codage d’IA doivent repenser la façon dont elles surveillent leurs environnements. Les signatures standard ne détecteront pas cela. Le comportement est la signature.
“C’est une surface de détection limitée… il devient donc extrêmement onéreux de déterminer quel comportement est légitime.” —Adam Meyers, CrowdStrike
La question n’est pas de savoir si l’IA sera utilisée à des fins malveillantes. Il s’agit de la rapidité avec laquelle la sécurité peut s’adapter à un environnement dans lequel l’attaquant ressemble à l’employé.
Pour l’instant, le ver se trouve dans l’angle mort. En attendant. Collectionner. Et j’attends le déclencheur.
Lire la suite : Les modèles OpenAI ont échappé au confinement | Violation de données LastPass | Le supercalculateur chinois LineShine
