Wraz z rosnącą popularnością narzędzi sztucznej inteligencji w procesach tworzenia oprogramowania, cyberprzestępcy znaleźli nowy, skuteczny sposób na infiltrację systemów informatycznych. Najnowsze badania przeprowadzone przez firmę CrowdStrike ujawniają istnienie zaawansowanego typu złośliwego oprogramowania, które wykorzystuje luki w łańcuchu dostaw AI, aby kraść dane uwierzytelniające, przejmować kontrolę nad infrastrukturą oraz niszczyć krytyczne pliki.
Nowa klasa zagrożeń w ekosystemie AI
Eksperci wskazują, że mamy do czynienia z nową klasą ataków, która bezpośrednio uderza w zaufanie, jakim programiści darzą zautomatyzowane narzędzia wspomagające pisanie kodu. Choć na ten moment nie przypisano autorstwa tego oprogramowania konkretnej grupie hakerskiej, jego charakterystyka wpisuje się w ewolucję działań znanych podmiotów, takich jak Altered Spider czy grupy powiązane z Koreą Północną. Adam Meyers, wiceprezes ds. przeciwdziałania zagrożeniom w CrowdStrike, podkreśla, że w miarę jak agenci AI stają się standardem w branży, zagrożenia dla łańcucha dostaw ewoluują, by wykorzystywać te relacje zaufania.
To jedna z kampanii, która pokazuje, że mamy do czynienia z nową klasą ataków. Gdy agenci AI stają się standardem w programowaniu, zagrożenia dla łańcucha dostaw ewoluują, aby wykorzystywać te relacje zaufania. Po raz pierwszy doświadczamy tego, jak dużą rolę w szerszym ekosystemie technologicznym odgrywa AI i jej łańcuch narzędzi.
Mechanizm działania: od rozpoznania do destrukcji
Zidentyfikowany przez badaczy robak działa w sposób wieloetapowy, skutecznie maskując swoją obecność w systemie. Jego aktywność można podzielić na kilka kluczowych faz:
Wyzwania w wykrywaniu zagrożeń
Największym problemem dla specjalistów ds. bezpieczeństwa jest fakt, że złośliwe oprogramowanie działa w tzw. martwych punktach. Jego zachowanie niemal w całości naśladuje legalne procesy automatyzacji wykorzystywane przez programistów do budowania kodu. Jak zauważa Meyers, wykrycie tego zagrożenia przypomina szukanie igły w stogu siana, przy czym w tym przypadku „stóg siana” sam składa się z igieł.
Dodatkową trudność stanowi fakt, że systemy AI generują ogromną ilość telemetrii, która pokrywa się z działaniami robaka. Tradycyjne narzędzia skanujące mają problem z odróżnieniem legalnej aktywności systemu od działań przestępczych. Aby jeszcze bardziej utrudnić wykrycie, autorzy złośliwego kodu wprowadzili opóźnienia czasowe – poszczególne funkcje uruchamiają się wiele godzin, a nawet dni po zainfekowaniu systemu. Takie podejście sprawia, że dla obrońców niezwykle trudne staje się powiązanie przyczyn ze skutkami i odtworzenie przebiegu ataku.
W obliczu dynamicznego rozwoju oprogramowania opartego na AI, eksperci apelują o pilną współpracę w zakresie tworzenia strukturalnych rozwiązań obronnych. Obecna ograniczona powierzchnia detekcji sprawia, że określenie, co jest zachowaniem uprawnionym, a co złośliwym, staje się dla organizacji niezwykle obciążającym zadaniem.