Oprogramowanie typu open source od lat stanowi fundament globalnej gospodarki, wspierając kluczowe sektory, od usług finansowych i telekomunikacji po infrastrukturę rządową i chmurę obliczeniową. Obecnie społeczność technologiczna stoi przed wyzwaniem przeniesienia tej filozofii na grunt sztucznej inteligencji. W odpowiedzi na rosnące potrzeby w zakresie bezpieczeństwa cyfrowego powstał Open Secure AI Alliance – inicjatywa zrzeszająca liderów branży technologicznej, której celem jest tworzenie otwartych narzędzi służących do ochrony systemów AI.
Nowa era obrony w świecie AI
Współczesne cyberbezpieczeństwo w dużej mierze opiera się na przejrzystości i możliwości analizy kodu. W obliczu rozwoju zaawansowanych systemów sztucznej inteligencji, świat stoi przed wyborem: czy mechanizmy obronne mają być ukryte wewnątrz zamkniętych, nieprzejrzystych systemów, czy też powinny być budowane na otwartych modelach, które każdy ekspert może zbadać, dostosować i wdrożyć. Inicjatywa ta, wspierana przez firmy takie jak NVIDIA, Microsoft, IBM, Cisco czy Hugging Face, stawia na to drugie rozwiązanie.
Konieczność takiego podejścia potwierdziły niedawne incydenty bezpieczeństwa. Gdy doszło do ataku na platformę Hugging Face, zamknięte narzędzia AI nie były w stanie odróżnić intruza od administratora, blokując niezbędne analizy śledcze. Rozwiązaniem okazało się uruchomienie otwartego modelu GLM 5.2 na własnej infrastrukturze, co pozwoliło na przeanalizowanie ponad 17 tysięcy działań i skuteczne powstrzymanie intruzji. To wydarzenie pokazało, że w sytuacjach krytycznych możliwość samodzielnej inspekcji i adaptacji narzędzi AI jest kluczowa dla szybkości reakcji.
Współpraca na rzecz wspólnego bezpieczeństwa
Open Secure AI Alliance skupia szerokie grono partnerów, w tym Adobe, CrowdStrike, Databricks, Dell Technologies, HPE, Palantir, Salesforce, SAP oraz wielu innych. Wspólnie pracują oni nad pełnym stosem technologicznym dla agentów AI, obejmującym tożsamość, uprawnienia, mechanizmy kontrolne oraz ewaluację. NVIDIA wnosi do sojuszu swoje modele, wagi oraz wyniki badań nad nowymi narzędziami, takimi jak projekt NOOA (NVIDIA Labs Object-Oriented Agent), który ułatwia testowanie i audytowanie zachowań agentów AI.
Poszczególni członkowie sojuszu realizują konkretne projekty wzmacniające bezpieczeństwo:
Bezpieczeństwo poprzez transparentność
Choć krytycy otwartych modeli wskazują, że mogą one zostać wykorzystane do celów przestępczych, zwolennicy sojuszu podkreślają, że ryzyka te istnieją niezależnie od tego, czy system jest zamknięty, czy otwarty. Ukrywanie wag modelu nie powstrzyma zdeterminowanego atakującego. Zamiast ograniczać dostęp do technologii, należy łączyć otwartość z rygorystyczną oceną, jasnymi zasadami przeciwdziałania nadużyciom oraz szybkim usuwaniem podatności.
W obliczu prac legislacyjnych nad regulacjami dotyczącymi AI, sojusz apeluje do decydentów o traktowanie otwartych modeli i narzędzi bezpieczeństwa jako aktywów obronnych, a nie zagrożeń. Blanketowe ograniczenia mogłyby doprowadzić do koncentracji władzy w rękach kilku dostawców, co zwiększyłoby podatność infrastruktury na awarie i ataki. Zamiast tego, rządy i firmy powinny inwestować we wspólną infrastrukturę obronną, taką jak zbiory danych, symulatory ataków i narzędzia typu red-teaming.
Przyszłość, w której agenty AI wspierają odporność cyfrową, wymaga systemów, które są wystarczająco silne, by wytrzymać wnikliwą kontrolę, wystarczająco elastyczne, by można je było ulepszać, i wystarczająco otwarte, by mogła z nich korzystać cała społeczność ekspertów. Sojusz zaprasza rządy, przemysł i środowiska badawcze do wspólnego budowania fundamentów bezpiecznej ery sztucznej inteligencji.
