Rozwój sztucznej inteligencji w systemach mobilnych przyniósł nowe wyzwanie w zakresie bezpieczeństwa cyfrowego. Badacze zidentyfikowali lukę w działaniu agentów AI typu open-source na systemie Android, która pozwala na nieautoryzowane wykonywanie kodu na komputerach osobistych użytkowników. Problem wynika z faktu, że modele AI potrafią odczytywać tekst ukryty w interfejsie aplikacji, który jest niewidoczny dla człowieka, a następnie wykorzystywać go do sterowania urządzeniem.
Mechanizm zagrożenia: niewidzialne instrukcje
Współczesne agenty AI na Androida często korzystają z technologii rozpoznawania obrazu i tekstu, aby wchodzić w interakcję z aplikacjami. Luka bezpieczeństwa polega na umieszczeniu w kodzie strony internetowej lub aplikacji specjalnie przygotowanych ciągów znaków, które są ukryte przed użytkownikiem za pomocą technik takich jak zerowy rozmiar czcionki czy kolor tekstu zlewający się z tłem. Choć człowiek nie dostrzega tych elementów, agent AI odczytuje je jako polecenia.
W praktyce oznacza to, że złośliwa witryna może przemycić instrukcje, które zmuszą agenta AI do wykonania określonych działań. Jeśli użytkownik korzysta z funkcji synchronizacji lub połączenia telefonu z komputerem, agent może zostać nakłoniony do uruchomienia kodu na hostowanym komputerze. Badacze wskazują, że zagrożenie jest realne, ponieważ agenty AI są projektowane tak, aby ufać danym pochodzącym z interfejsu użytkownika.
Skala ryzyka i potencjalne konsekwencje
Eksperci podkreślają, że problem dotyczy przede wszystkim modeli open-source, które nie posiadają wystarczająco rygorystycznych filtrów bezpieczeństwa. W testach przeprowadzonych przez badaczy, agenty AI bez wahania wykonywały polecenia ukryte w niewidocznych warstwach tekstu, co prowadziło do nieautoryzowanego dostępu do zasobów komputera. Koszt zakupu specjalistycznego sprzętu lub oprogramowania potrzebnego do przeprowadzenia zaawansowanych ataków tego typu może być zróżnicowany, jednak w przypadku prostych skryptów wykorzystujących tę lukę, koszty operacyjne są bliskie zeru. Warto zauważyć, że niektóre narzędzia wykorzystywane w podobnych badaniach bezpieczeństwa wyceniane są na rynku na około 500 dolarów, co w przeliczeniu daje kwotę rzędu 2000 złotych.
Agenty AI działają w oparciu o zaufanie do danych wejściowych. Jeśli interfejs zawiera ukryte instrukcje, model traktuje je jako priorytetowe wytyczne, co całkowicie omija intencje użytkownika.
Jak chronić się przed atakami?
Obecnie najskuteczniejszą metodą ochrony jest ograniczenie uprawnień przyznawanych agentom AI oraz zachowanie ostrożności podczas korzystania z funkcji automatyzacji. Użytkownicy powinni zwracać uwagę na to, jakie aplikacje mają dostęp do ekranu oraz czy posiadają uprawnienia do zdalnego sterowania innymi urządzeniami. Deweloperzy pracujący nad rozwiązaniami open-source są już świadomi problemu i pracują nad mechanizmami, które pozwolą modelom AI odróżniać treści widoczne dla użytkownika od ukrytych komend technicznych.