W ciągu ostatniej dekady wysiłki badawcze w dziedzinie sztucznej inteligencji koncentrowały się głównie na zwiększaniu możliwości i bezpieczeństwa pojedynczych modeli. Obecnie jednak stoimy u progu nowej ery, w której miliony autonomicznych agentów AI, tworzonych przez różne organizacje, będą ze sobą współpracować, negocjować i przeprowadzać transakcje w środowiskach cyfrowych. Aby zapewnić stabilność tego ekosystemu, Google DeepMind, we współpracy ze Schmidt Sciences, Cooperative AI Foundation, Advanced Research and Invention Agency (ARIA) oraz Google.org, ogłosił nowy program finansowania badań technicznych o wartości do 10 milionów dolarów (około 40 milionów złotych).
Wyzwania związane z interakcją wielu agentów
Głównym problemem, przed którym stają badacze, jest fakt, że większość obecnych testów bezpieczeństwa analizuje modele w izolacji. Tymczasem w momencie, gdy duże grupy agentów AI zaczynają ze sobą współdziałać, mogą pojawić się nieprzewidziane, złożone zachowania zbiorowe. Obecnie brakuje nam narzędzi, które pozwoliłyby skutecznie przewidywać, mierzyć i monitorować te procesy. Istnieje realne ryzyko, że interakcje między niezależnymi systemami doprowadzą do nieprzewidywalnych zjawisk ekonomicznych lub nowych wyzwań w obszarze cyberbezpieczeństwa.
Zrozumienie tych mechanizmów jest kluczowe, ponieważ złożoność interakcji wieloagentowych zaczyna wyprzedzać istniejące modele bezpieczeństwa. Program finansowania ma na celu przyspieszenie prac nad rozwiązaniami, które pozwolą zrozumieć i ograniczyć ryzyka pojawiające się na styku różnych sieci i systemów.
Priorytetowe obszary badawcze
Inicjatywa ma charakter globalny i zaprasza do współpracy naukowców z ośrodków akademickich oraz niezależnych badaczy. Wsparcie finansowe zostanie przeznaczone na projekty realizowane w czterech kluczowych obszarach:
Jak wziąć udział w programie
Współpraca wielu podmiotów jest niezbędna, aby standardy bezpieczeństwa były przejrzyste i solidne dla wszystkich użytkowników. Inicjatywa ta wpisuje się w szersze działania wspierające naukę o godnej zaufania sztucznej inteligencji oraz programy dążące do koordynacji systemów cyber-fizycznych.
Osoby zainteresowane udziałem w programie mogą składać swoje propozycje badawcze za pośrednictwem dedykowanego portalu aplikacyjnego. Termin nadsyłania zgłoszeń upływa 8 sierpnia 2026 roku, a ogłoszenie wyników naboru planowane jest na jesień 2026 roku.
