Agenti kódování AI mění způsob vytváření softwaru. Také mění způsob, jakým útočníci infiltrují systémy.
Nový výzkum od CrowdStrike odhaluje existenci červa aktivně zaměřeného na infrastrukturu umělé inteligence. Nerozbije vstupní dveře. Systém ho jednoduše pustí dovnitř a bude důvěřovat, že dělá svou práci. Malware funguje v takzvaných „slepých úhlech“. To jsou oblasti, kde je legitimní automatizace AI k nerozeznání od škodlivého kódu.
Výsledkem je nástroj, který krade přístupové údaje. Krade důvěrná data. Dokonce zničí cílové soubory. A to vše, vydávající se za rutinní vývojovou činnost.
Vznikající třída hrozeb
Nejedná se o hypotetickou hrozbu. Tento červ se vyskytuje ve volné přírodě. Výzkumníci to objevili při vyšetřování útoků na dodavatelský řetězec softwaru AI, jak uvádí WIRED.
Adam Meyers, senior viceprezident kontrarozvědky CrowdStrike, poznamenává, že společnost zatím nepřipisuje tuto konkrétní činnost jedné konkrétní skupině. Ale zapadá to do obecného vzorce. Skupiny jako TeamPCP (sledované jako „Altered Spider“) a různé severokorejské kolektivy hackerů mění taktiku. Útočí na samotnou sadu nástrojů AI.
“Toto je jedna z kampaní, která ukazuje, že čelíme vznikajícímu útoku,” řekl Meyers WIRED. “Jak se kódovací agenti AI stávají standardem ve vývoji, vyvíjejí se hrozby dodavatelského řetězce, aby tyto důvěryhodné vztahy využívaly.”
Vidíme velmi rané fáze tohoto procesu. Nástroje umělé inteligence se stávají kritickou součástí technologického ekosystému. Útočníci to vědí. Jsou připraveni jej použít.
Fázový útok červa
Malware nefunguje současně. Prochází fázemi.
- Reconnaissance Červ nejprve vyhodnotí cílové prostředí. Mapuje, co vidí.
- Krádež pověření. Jde o přístupové tokeny. Hledá kryptografické klíče. Zachycuje přihlašovací údaje serveru.
- Zvýšení oprávnění Jak se přístup prohlubuje, rozbaluje více vlastních komponent. Zaměřuje se na tokeny „npm“. Jsou důležité pro správu softwarových balíků. Poskytují také přístup k žádostem o stažení a dalším možnostem vývoje.
- Krádež a zničení dat. Čím hlouběji červ pronikne, tím více dat dokáže vypumpovat. Na nejhlubší úrovni dokáže aktivovat „spínač smrti“. Tato funkce ničí soubory nebo blokuje legitimní uživatele v přístupu k ohrožené infrastruktuře.
Cíl je jednoduchý: maximalizovat přístup a poškození a zároveň minimalizovat pravděpodobnost detekce.
Proč detekce selhává: jehla ve hromadě jehel
Hlavním problémem tohoto červa je, že vypadá legitimně. Velká část jeho chování napodobuje standardní operace AI.
“Je to jako jehla v kupce sena. Jen v tomto případě je to jehla v hromadě jehel,” řekl Meyers.”
Tradiční bezpečnostní nástroje se při identifikaci podezřelé aktivity spoléhají na telemetrii. V potrubích řízených umělou inteligencí jsou tato data nepřehledná. Legitimní kódovací systémy AI generují podobné signály. Spouštějí automatizaci. Stahují balíčky. Provedou kód.
Červ dělá totéž.
“V telemetrických datech se hodně překrývá,” vysvětlil Meyers. “Je velmi obtížné rozlišit, co je legitimní a co není založeno na dostupné telemetrii.”
Detekční plocha je omezená. Ne všechny aktivity generují signál. Když signály, které tam jsou, vypadají přesně jako normální operace, obránci fungují naslepo.
Časová zpoždění a vedlejší škody
Aby zůstali neodhaleni, přidali autoři červa časová zpoždění. Funkce se neaktivují okamžitě. Jsou dokončeny během několika hodin nebo dnů. To narušuje přímý vztah příčiny a následku, který obránci používají ke sledování útoků.
V době, kdy je aktivována destruktivní fáze, vstupní bod dávno zmizel.
Meyers zdůrazňuje, že CrowdStrike vyvíjí strategie pro propojení těchto datových bodů. Ale rozsah problému roste. S tím, jak exploduje vývoj softwaru s podporou umělé inteligence, je potřeba spolupráce na strukturálních řešeních naléhavější.
Současná obrana má problémy. Nástroje používané k vytváření softwaru jsou používány proti samotným tvůrcům.
Co to znamená pro bezpečnostní týmy
Toto není jen nový virus. Toto je nová třída hrozeb dodavatelského řetězce. Využívá důvěru, kterou vkládáme do automatizace.
Organizace používající ke kódování agenty AI musí přehodnotit, jak monitorují svá prostředí. Standardní podpisy nepomohou. Chování je podpis.
“Detekční plocha je omezená… takže je extrémně obtížné určit, jaké chování je legitimní.” — Adam Meyers, CrowdStrike
Otázkou není, zda bude AI použita ke zlu. Otázkou je, jak rychle se bezpečnostní týmy dokážou přizpůsobit prostředí, kde se útočník jeví jako zaměstnanec.
V tuto chvíli je červ ve slepém úhlu. Čekání. Sbírá data. A čeká na spoušť.
Přečtěte si více: Modely OpenAI opustily kontejner | Únik dat posledního průchodu | Superpočítačová řada LineShine z Číny
