Naukowcy z MIT opracowali nowatorską metodę audytu modeli sztucznej inteligencji, która pozwala wykryć, czy dany system został zmodyfikowany w celu generowania materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM). Przełom polega na tym, że technika ta nie wymaga generowania żadnych obrazów, co rozwiązuje kluczowy dylemat prawny i etyczny, z którym dotychczas borykali się badacze bezpieczeństwa.
Koniec z niebezpiecznymi testami
Tradycyjne metody sprawdzania bezpieczeństwa AI opierają się na wysyłaniu zapytań do modelu i analizie jego odpowiedzi. W przypadku treści nielegalnych, takich jak CSAM, podejście to było niemożliwe do zastosowania – generowanie takich materiałów, nawet w celach testowych, jest przestępstwem w Stanach Zjednoczonych i wielu innych krajach. Ponadto ręczne sprawdzanie tysięcy modeli publikowanych co miesiąc jest nieefektywne i naraża moderatorów na poważne szkody psychiczne.
Zespół pod kierownictwem Vinitha Suriyakumara, Ashii Wilson oraz Marzyeh Ghassemi, we współpracy z organizacją non-profit Thorn, stworzył metodę nazwaną „sondowaniem gaussowskim” (Gaussian probing). Zamiast sprawdzać wyniki pracy modelu, technika ta analizuje jego wewnętrzne adaptacje. Badacze skupili się na tzw. adapterach LoRA (Low-Rank Adaptation), czyli lekkich nakładkach, które pozwalają specjalizować ogólne modele AI w konkretnych zadaniach.
Nigdy nie uruchamiamy modelu do końca ani nie wysyłamy do niego zapytań, więc nigdy nie generujemy obrazów – wyjaśnia Vinith Suriyakumar.
Jak działa nowa metoda
Sondowanie gaussowskie polega na wprowadzaniu do modelu losowych danych i obserwowaniu, jak zmieniają się jego wewnętrzne reprezentacje pod wpływem zainstalowanych adapterów LoRA. Proces ten pozwala stworzyć unikalny „odcisk palca” adaptacji, który ujawnia jej przeznaczenie. Skuteczność tej metody jest niezwykle wysoka – w testach przeprowadzonych na różnych typach modeli, technika ta osiągnęła 100% dokładności w identyfikacji systemów wyspecjalizowanych w generowaniu CSAM, odróżniając je nawet od modeli zmodyfikowanych pod kątem innych szkodliwych, ale niebędących CSAM treści.
Wprowadzenie tej technologii jest odpowiedzią na gwałtowny wzrost liczby zgłoszeń dotyczących materiałów CSAM tworzonych przez AI. Według danych National Center for Missing and Exploited Children, liczba takich raportów wzrosła z 67 tysięcy w 2024 roku do ponad 1,5 miliona w 2025 roku.
Skalowalne rozwiązanie dla platform hostingowych
Dzięki niskim wymaganiom obliczeniowym i braku konieczności generowania obrazów, sondowanie gaussowskie może zostać zintegrowane bezpośrednio z platformami hostingowymi, takimi jak Hugging Face czy Civitai. Pozwoliłoby to na automatyczne filtrowanie przesyłanych plików i blokowanie niebezpiecznych modeli, zanim trafią one do publicznego obiegu.
Eksperci podkreślają, że choć jest to znaczący krok naprzód, metoda ta nie rozwiązuje wszystkich problemów związanych z AI. Modele trenowane od podstaw na szkodliwych zbiorach danych lub wykorzystujące inne techniki adaptacji mogą nadal unikać wykrycia. Niemniej jednak, dla ekosystemu opartego na otwartym oprogramowaniu, gdzie LoRA stało się standardowym narzędziem modyfikacji, nowa metoda stanowi pragmatyczne i bezpieczne prawnie rozwiązanie.
Badacze planują teraz rozszerzyć zakres testów na szerszą gamę modeli oraz sprawdzić, czy możliwe jest wykrywanie szkodliwych zdolności w bazowych modelach jeszcze przed nałożeniem na nie jakichkolwiek modyfikacji. Koszt prac badawczych, wspieranych m.in. przez Bridgewater AIA Labs Research Fellowship, ma na celu stworzenie skutecznej tarczy przeciwko nadużyciom, które realnie krzywdzą dzieci na całym świecie.
