Nowa propozycja nadzoru nad sztuczną inteligencją
Demis Hassabis, dyrektor generalny Google DeepMind, wystąpił z inicjatywą powołania niezależnego organu regulacyjnego, który miałby nadzorować wprowadzanie na rynek najbardziej zaawansowanych modeli sztucznej inteligencji. W opublikowanym dokumencie zatytułowanym „Ramy dla sztucznej inteligencji nowej generacji i świt nowej ery”, Hassabis proponuje stworzenie instytucji wzorowanej na amerykańskiej organizacji FINRA (Financial Industry Regulatory Authority). Taki organ zajmowałby się testowaniem modeli oraz wyznaczaniem standardów bezpieczeństwa przed ich publicznym udostępnieniem.
Proponowany model współpracy zakładałby początkowo dobrowolne przekazywanie modeli do oceny przez wspomnianą jednostkę na 30 dni przed premierą. W miarę wypracowywania skutecznych protokołów, proces ten mógłby stać się obowiązkowy dla wszystkich podmiotów chcących wprowadzić swoje rozwiązania na rynek amerykański. Dodatkowo, firmy współpracowałyby z regulatorem w celu usuwania krytycznych luk w zabezpieczeniach, które mogłyby zostać wykryte już po wdrożeniu technologii.
Alternatywa dla obecnych, nieformalnych przeglądów
Obecnie proces oceny modeli AI w Stanach Zjednoczonych opiera się na doraźnych przeglądach rządowych, takich jak te przeprowadzone w przypadku modeli Mythos firmy Anthropic czy Sol od OpenAI. Podejście to spotkało się z falą krytyki ze strony środowisk technicznych, które wskazują na brak odpowiednich kompetencji po stronie urzędników oraz brak przejrzystości w procesie decyzyjnym dotyczącym gotowości modeli do publikacji.
Hassabis argumentuje, że przeniesienie tych kompetencji do wyspecjalizowanej organizacji, wspieranej przez rząd, ale finansowanej przez samą branżę AI i działającej w sposób niezależny, pozwoliłoby na bardziej merytoryczną ocenę. Taka struktura mogłaby rozwiązać problem politycznego oporu wobec tworzenia sztywnych regulacji. Sriram Krishnan, doradca Białego Domu ds. AI, otwarcie dystansował się od pomysłu powołania „FDA dla sztucznej inteligencji”, dlatego model samoregulacji typu FINRA może być jedynym akceptowalnym kompromisem.
Struktura i cele nowego regulatora
Kluczem do sukcesu nowej instytucji ma być jej techniczny charakter. Hassabis zakłada, że w skład organu wchodziliby eksperci z branży oraz przedstawiciele środowisk zajmujących się oprogramowaniem open source. Finansowanie pochodzące od laboratoriów AI pozwoliłoby na utrzymanie wysokich standardów kadrowych, a część zadań ewaluacyjnych mogłaby być zlecana zewnętrznym grupom specjalizującym się w bezpieczeństwie AI.
Siłą tego podejścia jest skupienie na technicznych aspektach przy jednoczesnym wspieraniu innowacji i zachęcaniu do odpowiedzialnych zachowań. System został zaprojektowany tak, aby nadążać za tempem rozwoju dziedziny i dostosowywać się do największych ryzyk w miarę ich identyfikacji.
Warto zauważyć, że w kontekście finansowym, ostatnie wydarzenia branżowe obejmują promocje dla założycieli startupów, gdzie oszczędności mogą sięgać nawet 190 dolarów (około 750 złotych). Choć kwoty te dotyczą wydarzeń networkingowych, podkreślają one skalę inwestycji i dynamikę rynku, w którym porusza się branża AI, wymagająca coraz bardziej precyzyjnych ram prawnych.
