Agenci kodujący AI zmieniają sposób tworzenia oprogramowania. Zmieniają także sposób, w jaki atakujący infiltrują systemy.
Nowe badanie przeprowadzone przez CrowdStrike ujawnia istnienie robaka aktywnie atakującego infrastrukturę sztucznej inteligencji. Nie wyważa drzwi wejściowych. System po prostu go wpuści, ufając, że wykonuje swoją pracę. Złośliwe oprogramowanie działa w tak zwanych „martwych punktach”. Są to obszary, w których legalnej automatyzacji sztucznej inteligencji nie da się odróżnić od złośliwego kodu.
Rezultatem jest narzędzie kradnące dane uwierzytelniające. Kradnie poufne dane. Niszczy nawet pliki docelowe. A wszystko to pod przykrywką rutynowej działalności rozwojowej.
Wyłaniająca się klasa zagrożeń
To nie jest hipotetyczne zagrożenie. Robak ten występuje na wolności. Jak podaje WIRED, badacze odkryli to podczas badania ataków na łańcuch dostaw oprogramowania AI.
Adam Meyers, starszy wiceprezes ds. kontrwywiadu CrowdStrike, zauważa, że firma nie przypisuje jeszcze tej konkretnej działalności jednej konkretnej grupie. Ale wpisuje się to w ogólny schemat. Grupy takie jak TeamPCP (określane jako „Altered Spider”) i różne północnokoreańskie kolektywy hakerskie zmieniają taktykę. Atakują sam zestaw narzędzi AI.
„To jedna z kampanii, które pokazują, że mamy do czynienia z nadchodzącym atakiem” – Meyers powiedział WIRED. „W miarę jak agenci kodujący AI stają się standardem w rozwoju, zagrożenia w łańcuchu dostaw ewoluują, aby wykorzystać te zaufane relacje”.
Jesteśmy świadkami bardzo wczesnych etapów tego procesu. Narzędzia AI stają się kluczową częścią ekosystemu technologicznego. Napastnicy o tym wiedzą. Są gotowi z tego skorzystać.
Fazowy atak robaka
Złośliwe oprogramowanie nie działa jednocześnie. Przechodzi przez fazy.
- Rekonesans Robak najpierw ocenia środowisko docelowe. Mapuje to, co widzi.
- Kradzież danych uwierzytelniających. Szuka tokenów dostępu. Wyszukuje klucze kryptograficzne. Przechwytuje poświadczenia serwera.
- Podniesienie uprawnień W miarę pogłębiania się dostępu rozpakowuje więcej własnych komponentów. Jego celem są tokeny „npm”. Są one niezbędne do zarządzania pakietami oprogramowania. Zapewniają także dostęp do żądań ściągnięcia i innych możliwości programistycznych.
- Kradzież i zniszczenie danych. Im głębiej robak penetruje, tym więcej danych może wypompować. Na najgłębszym poziomie może aktywować „wyłącznik śmierci”. Ta funkcja niszczy pliki lub blokuje legalnym użytkownikom dostęp do zaatakowanej infrastruktury.
Cel jest prosty: zmaksymalizować dostęp i obrażenia, jednocześnie minimalizując prawdopodobieństwo wykrycia.
Dlaczego wykrywanie kończy się niepowodzeniem: igła w stosie igieł
Głównym problemem tego robaka jest to, że wygląda on legalnie. Wiele jego zachowań naśladuje standardowe operacje AI.
„To jest jak igła w stogu siana. Tylko w tym przypadku jest to igła w stosie igieł ” – powiedział Meyers.
Tradycyjne narzędzia bezpieczeństwa wykorzystują dane telemetryczne do identyfikowania podejrzanych działań. W potokach opartych na sztucznej inteligencji dane te są zaśmiecone. Legalne systemy kodowania AI generują podobne sygnały. Uruchamiają automatyzację. Pobierają pakiety. Wykonują kod.
Robak robi to samo.
„Dane telemetryczne w dużym stopniu się pokrywają” – wyjaśnił Meyers. „Na podstawie dostępnej telemetrii bardzo trudno jest rozróżnić, co jest uzasadnione, a co nie”.
Powierzchnia wykrywania jest ograniczona. Nie każda aktywność generuje sygnał. Kiedy sygnały, które występują, wyglądają dokładnie tak, jak podczas normalnego działania, obrońcy działają na ślepo.
Opóźnienia czasowe i szkody uboczne
Aby pozostać niewykrytym, autorzy robaka dodali opóźnienia czasowe. Funkcje nie są aktywowane natychmiast. Są one realizowane w ciągu kilku godzin lub dni. Przerywa to bezpośredni związek przyczynowo-skutkowy, którego obrońcy używają do śledzenia ataków.
Zanim aktywuje się faza destrukcji, punkt wejścia już dawno zniknął.
Meyers podkreśla, że CrowdStrike opracowuje strategie łączenia tych punktów danych. Ale skala problemu rośnie. W miarę gwałtownego rozwoju oprogramowania wykorzystującego sztuczną inteligencję potrzeba współpracy w zakresie rozwiązań konstrukcyjnych staje się coraz pilniejsza.
Obecna obrona ma problemy. Narzędzia używane do tworzenia oprogramowania są wykorzystywane przeciwko samym twórcom.
Co to oznacza dla zespołów ds. bezpieczeństwa
To nie tylko nowy wirus. To nowa klasa zagrożeń łańcucha dostaw. Wykorzystuje zaufanie, jakie pokładamy w automatyzacji.
Organizacje korzystające z agentów AI do kodowania muszą ponownie przemyśleć sposób monitorowania swoich środowisk. Standardowe podpisy nie pomogą. Zachowanie jest podpisem.
„Powierzchnia wykrywania jest ograniczona… dlatego niezwykle trudno jest określić, jakie zachowanie jest uzasadnione.” — Adam Meyers, CrowdStrike
Pytanie nie brzmi, czy sztuczna inteligencja zostanie wykorzystana do zła. Pytanie brzmi, jak szybko zespoły ds. bezpieczeństwa mogą dostosować się do środowiska, w którym atakujący wydaje się być pracownikiem.
W tej chwili robak jest w martwym punkcie. Czekanie. Zbiera dane. I czeka na spust.
Czytaj więcej: Modele OpenAI opuściły kontener | Wyciek danych LastPass | Linia superkomputerów LineShine z Chin
