Giganci technologiczni od miesięcy wdrażają rygorystyczne mechanizmy ochronne, mające zapobiegać wykorzystywaniu modeli sztucznej inteligencji do celów przestępczych. Choć intencje twórców są jasne, coraz częściej pojawiają się głosy, że te same ograniczenia stają się barierą dla profesjonalnych badaczy bezpieczeństwa oraz specjalistów zajmujących się obroną sieci.
Problem stał się szczególnie widoczny w czerwcu, gdy rząd USA nałożył ograniczenia eksportowe na modele Mythos i Fable firmy Anthropic. Decyzja ta była pokłosiem obaw, że zabezpieczenia tych narzędzi można obejść, wykorzystując je do tworzenia cyberataków. Choć restrykcje wobec modelu Fable 5 zostały zniesione, a Mythos 5 udostępniono jedynie wybranym organizacjom w USA, sytuacja ta uwypukliła napięcie między bezpieczeństwem a użytecznością narzędzi AI.
Bariery w pracy badaczy
Firmy takie jak OpenAI czy Anthropic oferują specjalne programy weryfikacyjne, które mają zapewniać dostęp do mniej ograniczonych wersji modeli dla sprawdzonych ekspertów. Mimo to, wielu specjalistów uważa, że obecne podejście jest zbyt arbitralne. Mark Dowd, uznany badacz zajmujący się lukami typu „zero-day”, krytykuje fakt, że prywatne korporacje decydują o tym, co w dziedzinie bezpieczeństwa jest dopuszczalne, a co nie.
Eksperci wskazują na fundamentalny problem: narzędzie służące do naprawy kodu jest niemal identyczne z tym, które pozwala na znalezienie w nim krytycznej luki. Chris Anley z NCC Group porównuje AI do młotka – narzędzia niezbędnego do budowy domu, które jednocześnie może stać się bronią.
To właśnie tutaj pojawia się konflikt między ofensywnym a defensywnym wykorzystaniem AI. Polecenie „napraw ten kod” jest kluczowym mechanizmem obronnym, ale jednocześnie stanowi mapę drogową do odkrycia krytycznych luk w zabezpieczeniach. Tych dwóch funkcji nie da się od siebie oddzielić.
Strategie radzenia sobie z ograniczeniami
W obliczu zbyt restrykcyjnych filtrów, specjaliści od cyberbezpieczeństwa stosują różne strategie pracy:
- Wykorzystanie modeli open source: Wielu badaczy sięga po modele o otwartym kodzie źródłowym, które można uruchomić lokalnie. Pozwala to na pracę bez narzuconych przez korporacje „kagańców” oraz eliminuje ryzyko wycieku wrażliwych danych do chmury.
- Ograniczenie zakresu AI: Niektórzy eksperci, jak Giuseppe Cali, używają AI wyłącznie do wstępnej inżynierii odwrotnej i tworzenia narzędzi pomocniczych, zachowując pełną kontrolę nad procesem odkrywania błędów.
- Praca w chmurze: Firmy takie jak Crowdfense korzystają z modeli chmurowych tylko do zadań, które nie wymagają przetwarzania poufnych danych o podatnościach, aby uniknąć ich absorpcji przez systemy uczące się.
Ryzyko wypchnięcia specjalistów w stronę zagranicznych rozwiązań
Chris Thompson, dyrektor generalny RemoteThreat, zwraca uwagę na niepokojące zjawisko: niespójność zabezpieczeń w modelach zachodnich zmusza badaczy do marnowania czasu na „negocjacje” z AI zamiast na właściwą pracę. W efekcie, odpowiedzialni specjaliści są wypychani w stronę zagranicznych, w tym chińskich modeli typu GLM, które nie posiadają żadnych ograniczeń użytkowania.
Zdaniem ekspertów, obecne podejście może przynieść więcej szkody niż pożytku. Zamiast zaostrzać restrykcje, giganci technologiczni powinni dążyć do otwarcia swoich programów weryfikacyjnych i zapewnienia odpowiedzialnego dostępu do narzędzi. W obliczu nadchodzącej fali zautomatyzowanych ataków, ograniczanie możliwości profesjonalnych obrońców może sprawić, że stracą oni przewagę w wyścigu zbrojeń opartym na sztucznej inteligencji.
