W ubiegłym tygodniu firma Anthropic podjęła decyzję o wyłączeniu swoich najnowszych modeli sztucznej inteligencji, Claude Fable 5 oraz Mythos 5. Stało się to bezpośrednim skutkiem dyrektywy rządu USA dotyczącej kontroli eksportu, która zabrania korzystania z tych usług jakimkolwiek obywatelom zagranicznym. Obecnie trwają rozmowy między przedstawicielami firmy a administracją rządową, jednak do tej pory nie wypracowano porozumienia, które pozwoliłoby na ponowne udostępnienie narzędzi użytkownikom.
Dwuznaczny potencjał nowych technologii
Kontrowersje wokół modeli Mythos 5 i Claude Fable 5 wynikają z ich zaawansowanych możliwości w obszarze cyberbezpieczeństwa. Od momentu debiutu modelu Mythos w kwietniu, Anthropic otwarcie przyznawało, że oprogramowanie to potrafi nie tylko identyfikować luki w zabezpieczeniach oprogramowania, co jest kluczowe dla ich naprawy, ale również opracowywać metody ich wykorzystania. Firma od początku podkreślała, że mamy do czynienia z technologią o podwójnym zastosowaniu:
Wiele zaawansowanych zastosowań modeli AI ma charakter dwuznaczny: te same zapytania, które są korzystne w rękach specjalistów ds. cyberbezpieczeństwa i badaczy biologii, mogą stać się niebezpieczne, jeśli trafią do osób o złych intencjach.
Początkowo Mythos był udostępniany w wersji testowej wybranej grupie ekspertów w ramach projektu Project Glasswing. Model Claude Fable 5, oferujący zbliżoną wydajność, został natomiast udostępniony szerszej publiczności, jednak z nałożonymi blokadami uniemożliwiającymi generowanie odpowiedzi na pytania dotyczące biologii i cyberbezpieczeństwa. Administracja rządowa uznała jednak, że zabezpieczenia w Fable 5 można obejść, co w praktyce daje dostęp do pełnych możliwości modelu Mythos, stanowiąc tym samym zagrożenie dla bezpieczeństwa narodowego.
Nieuchronny trend rynkowy
Eksperci z branży technologicznej zwracają uwagę, że obecny konflikt między rządem a Anthropic jest jedynie próbą zatrzymania procesu, który jest nieunikniony. Nawet jeśli firma Anthropic jest obecnie w centrum uwagi, zaawansowane możliwości w zakresie analizy luk bezpieczeństwa staną się wkrótce standardem rynkowym, oferowanym przez wiele innych korporacji oraz twórców rozwiązań open-source.
Tarah Wheeler, dyrektor ds. bezpieczeństwa w TPO Group, podkreśla, że przekonanie o unikalności technologii Anthropic jest skrajnie krótkowzroczne. Wiele innych firm dysponuje już podobnymi rozwiązaniami, które obecnie wstrzymują przed publikacją, obserwując reakcje regulatorów. Podobne kroki podejmuje konkurencja, w tym OpenAI, które w połowie kwietnia również przeprowadziło prywatne testy modelu skoncentrowanego na cyberbezpieczeństwie.
Wyzwania dla polityki bezpieczeństwa
Badacze tacy jak Bruce Schneier z Harvard University wskazują, że problem nie dotyczy jednego konkretnego modelu, lecz ogólnego kierunku rozwoju technologii. Mniejsze i tańsze modele, w tym te o otwartym kodzie źródłowym, przy odpowiednim sposobie formułowania zapytań, mogą dorównać wydajnością rozwiązaniom Anthropic. W obliczu tych faktów, grupa liderów cyberbezpieczeństwa wystosowała list otwarty, w którym argumentują, że obecne restrykcje eksportowe są błędne.
Kluczowe pytanie, przed którym stoją rządy na całym świecie, nie powinno dotyczyć samego istnienia ryzyka, lecz tego, czy konkretne zakazy faktycznie je ograniczają, czy jedynie spowalniają pracę specjalistów dążących do poprawy bezpieczeństwa systemów. Eksperci sugerują, że zamiast blokad, konieczne jest wypracowanie bardziej przejrzystych i demokratycznych strategii radzenia sobie z postępem sztucznej inteligencji w obszarach wrażliwych.
