AI-codeermiddelen veranderen de manier waarop software wordt gebouwd. Ze veranderen ook de manier waarop aanvallers binnenkomen.
Nieuw onderzoek van CrowdStrike onthult een worm die zich actief richt op de AI-infrastructuur. Het breekt de voordeur niet af. Het komt binnen omdat het systeem denkt dat het zijn werk doet. De malware opereert in wat onderzoekers ‘blinde vlekken’ noemen. Dit zijn gebieden waar legitieme AI-automatisering identiek lijkt aan kwaadaardige code.
Het resultaat is een tool die toegangsgegevens steelt. Het exfiltreert gevoelige gegevens. Het vernietigt zelfs doelbestanden. Dit alles terwijl het lijkt op routinematige ontwikkelingsactiviteiten.
Een opkomende aanvalsklasse
Dit is geen hypothetische dreiging. Deze worm werd in het wild gevonden. Onderzoekers ontdekten het tijdens hun onderzoek naar aanvallen op de toeleveringsketen van AI-software, zoals gerapporteerd door WIRED.
Adam Meyers, Senior Vice President van Counter Adversary Work van CrowdStrike, merkt op dat het bedrijf deze specifieke activiteit nog niet aan één groep heeft gekoppeld. Maar het past in een patroon. Groepen als TeamPCP (gevolgd als “Altered Spider”) en verschillende Noord-Koreaanse actoren veranderen van tactiek. Ze richten zich op de AI-toolchain zelf.
“Dit is een van de campagnes die we hebben gezien waaruit blijkt dat dit een opkomende aanval is”, vertelde Meyers aan WIRED. “Naarmate AI-codeermiddelen een standaard worden in de ontwikkeling, evolueren bedreigingen voor de toeleveringsketen om deze vertrouwensrelaties te exploiteren.”
Wij zien de eerste stadia hiervan. De AI-toolchain wordt een cruciaal onderdeel van het technologie-ecosysteem. Aanvallers weten het. Ze zijn bereid er misbruik van te maken.
De fase-voor-fase-aanval van de worm
De malware handelt niet allemaal tegelijk. Het beweegt in fases.
- Verkenning. De worm beoordeelt eerst de doelomgeving. Het brengt in kaart wat het ziet.
- Diefstal van inloggegevens. Het zoekt naar toegangstokens. Er wordt gezocht naar cryptografische sleutels. Het grijpt serverreferenties.
- Privilege-escalatie. Naarmate het diepere toegang krijgt, ontvouwt het meer van zichzelf. Het richt zich op “npm”-tokens. Deze zijn van cruciaal belang voor het beheer van softwarepakketten. Ze verlenen ook toegang tot pull-aanvragen en andere ontwikkelaarsmogelijkheden.
- Gegevensexfiltratie en -vernietiging. Hoe dieper het gaat, hoe meer gegevens er nodig zijn. Op het diepste niveau kan het een ‘doodschakelaar’ activeren. Deze functie vernietigt bestanden of blokkeert legitieme gebruikers van de aangetaste infrastructuur.
Het doel is simpel: maximaliseer de toegang en impact en minimaliseer detectie.
Waarom detectie mislukt: de naald in de naaldenstapel
Het grootste probleem met deze worm is dat hij er legitiem uitziet. Een groot deel van zijn gedrag bootst standaard AI-operaties na.
“Het is als een speld in een hooiberg. Alleen is dit een speld in een stapel *naalden”, zei Meyers.
Traditionele beveiligingstools zijn afhankelijk van telemetrie om verdachte activiteiten te signaleren. In AI-gestuurde pijplijnen zijn die gegevens rommelig. Legitieme AI-coderingssystemen genereren vergelijkbare signalen. Ze voeren automatisering uit. Ze halen pakjes op. Ze voeren code uit.
De worm doet dezelfde dingen.
“Er is veel overlap op het gebied van telemetrie”, legt Meyers uit. “Het wordt heel moeilijk om op basis van de telemetrie die je hebt te onderscheiden wat legitiem is en wat illegaal is.”
Het detectieoppervlak is beperkt. Niet alle activiteit produceert een signaal. Wanneer de signalen die worden geproduceerd precies op normaal werk lijken, vliegen verdedigers blind.
Tijdvertragingen en bijkomende schade
Om verborgen te blijven, voegden de auteurs van de worm tijdsvertragingen toe. Mogelijkheden worden niet onmiddellijk geactiveerd. Ze worden uren of dagen later geëxecuteerd. Dit doorbreekt de directe oorzaak-en-gevolg-keten die verdedigers gebruiken om aanvallen te traceren.
Tegen de tijd dat de destructieve fase in werking treedt, is het oorspronkelijke toegangspunt allang verdwenen.
Meyers benadrukt dat CrowdStrike strategieën ontwikkelt om deze punten met elkaar te verbinden. Maar de omvang van het probleem groeit. Nu de ontwikkeling van AI-software explosief toeneemt, is de behoefte aan samenwerking aan structurele oplossingen dringend.
De huidige verdedigingswerken hebben het moeilijk. De gereedschappen die bij het bouwen worden gebruikt, worden als wapen tegen die bouwers ingezet.
Wat dit betekent voor beveiligingsteams
Dit is niet zomaar een nieuw virus. Het is een nieuwe klasse bedreigingen voor de toeleveringsketen. Het exploiteert het vertrouwen dat we in automatisering stellen.
Organisaties die AI-codeermiddelen gebruiken, moeten opnieuw nadenken over de manier waarop zij hun omgevingen monitoren. Standaard handtekeningen zullen dit niet opvangen. Het gedrag is de handtekening.
“Het is een beperkt detectieoppervlak… dus het wordt uiterst lastig om te bepalen welk gedrag legitiem is.” — Adam Meyers, CrowdStrike
De vraag is niet of AI voor het kwaad zal worden gebruikt. Het gaat erom hoe snel de beveiliging zich kan aanpassen aan een landschap waarin de aanvaller op de werknemer lijkt.
Voorlopig zit de worm in de dode hoek. Wachten. Verzamelen. En wachten op de trigger.
Lees meer: OpenAI-modellen ontsnapten aan insluiting | LastPass-gegevenslek | Chinese supercomputer LineShine
