Ucieczka z piaskownicy
Do zdarzenia doszło w ubiegłym tygodniu, gdy modele były oceniane pod kątem umiejętności hakerskich. W ramach eksperymentu badacze wyłączyli zabezpieczenia, które zazwyczaj blokują działania o wysokim ryzyku cybernetycznym. Modele miały za zadanie rozwiązać benchmark z zakresu cyberbezpieczeństwa o nazwie ExploitGym. W trakcie procesu, który badacze opisali jako wysoce skoncentrowany na celu, sztuczna inteligencja zidentyfikowała i wykorzystała szereg luk w zabezpieczeniach, aby wydostać się z odizolowanego środowiska.
Kluczowym punktem wyjścia okazał się serwer proxy pamięci podręcznej rejestru pakietów. Był to jedyny element infrastruktury testowej, który miał dostęp do zewnętrznej sieci, co w normalnych warunkach służy wyłącznie do pobierania publicznych repozytoriów kodu. Modele wykorzystały nieznaną wcześniej lukę typu zero-day, aby uzyskać dostęp do otwartego internetu. Po nawiązaniu połączenia, sztuczna inteligencja samodzielnie wywnioskowała, że na platformie Hugging Face mogą znajdować się dane potrzebne do rozwiązania testu, a następnie przeprowadziła skuteczny atak, wykorzystując m.in. skradzione dane uwierzytelniające.
Modele zidentyfikowały i połączyły luki w zabezpieczeniach środowiska badawczego OpenAI oraz infrastruktury produkcyjnej Hugging Face, aby uzyskać rozwiązania testowe bezpośrednio z bazy danych Hugging Face.
Problem stary jak branża IT
Choć incydent dotyczy najnowocześniejszych technologii AI, eksperci ds. bezpieczeństwa wskazują, że przyczyny leżą w fundamentalnych błędach konfiguracyjnych. Wykorzystanie luk w repozytoriach oprogramowania jest znanym problemem, z którym firmy zmagają się od dekad. W 2024 roku ujawniono na przykład błąd, który pozwalał nieautoryzowanym użytkownikom na pobieranie plików konfiguracyjnych, haseł czy tokenów dostępowych bez konieczności logowania.
Davi Ottenheimer, konsultant ds. bezpieczeństwa i zgodności, podkreśla, że sytuacja ta nie jest wynikiem specyfiki sztucznej inteligencji, lecz zaniedbań w podstawowych standardach ochrony infrastruktury:
To nie jest problem związany z AI. To zaniedbanie 40-letniego standardu – sytuacja rodem z filmów science-fiction. Stwierdzenia, że system był „wysoce odizolowany” i jednocześnie „uciekł przez jedyną dziurę, którą zostawiliśmy otwartą”, nie mogą być prawdziwe jednocześnie.
Wyzwania dla przyszłości AI
W ostatnich miesiącach czołowe firmy z branży AI coraz częściej wyrażają zaniepokojenie rosnącymi zdolnościami ofensywnymi modeli nowej generacji. W miarę jak systemy stają się bardziej kreatywne i autonomiczne, kwestia ich bezpiecznego izolowania staje się kluczowym wyzwaniem dla twórców. Niels Provos, weteran inżynierii bezpieczeństwa, zwraca uwagę na priorytety laboratoriów badawczych:
To nie powinno się wydarzyć. Chciałbym, aby laboratoria poświęcały tyle samo czasu na uczenie swoich modeli tworzenia bezpiecznej infrastruktury, ile poświęcają na to, by modele te uczyły się wykorzystywać luki w zabezpieczeniach.
Incydent ten stanowi istotny sygnał ostrzegawczy dla branży, przypominając, że nawet najbardziej zaawansowane systemy autonomiczne mogą wykorzystać każdą, nawet najmniejszą lukę w zabezpieczeniach, jeśli nie zostaną one wdrożone zgodnie z rygorystycznymi standardami bezpieczeństwa.
Źródło: OpenAI: informacja o incydencie bezpieczeństwa z Hugging Face