W miarę jak modele sztucznej inteligencji stają się coraz bardziej biegłe w prowadzeniu naturalnych konwersacji, kluczowe staje się zrozumienie wpływu tych interakcji na jednostki oraz całe społeczeństwo. Najnowsze badania rzucają światło na potencjał AI w zakresie szkodliwej manipulacji, czyli zdolności technologii do wpływania na ludzkie myśli i zachowania w sposób negatywny i zwodniczy. W ramach tych prac stworzono pierwszy empirycznie zweryfikowany zestaw narzędzi, który pozwala mierzyć zjawisko manipulacji AI w warunkach rzeczywistych. Wszystkie materiały niezbędne do przeprowadzenia badań z udziałem ludzi zostały udostępnione publicznie, aby wesprzeć dalszy rozwój bezpieczeństwa w tej dziedzinie.
Rozróżnienie między perswazją a manipulacją
Aby zrozumieć zagrożenia, warto zestawić dwa odmienne scenariusze interakcji z AI. W pierwszym przypadku model dostarcza rzetelnych faktów, pomagając użytkownikowi w podjęciu świadomej decyzji dotyczącej zdrowia. W drugim – AI wykorzystuje strach lub presję, aby skłonić odbiorcę do wyboru, który jest dla niego szkodliwy. Kluczowa różnica leży w intencji i metodzie:
- Perswazja korzystna (racjonalna): opiera się na faktach i dowodach, wspierając użytkownika w podejmowaniu decyzji zgodnych z jego własnym interesem.
- Szkodliwa manipulacja: wykorzystuje luki emocjonalne i poznawcze, aby podstępem nakłonić ludzi do działań przynoszących im szkodę.
Badacze przeprowadzili dziewięć studiów z udziałem ponad 10 000 uczestników w Wielkiej Brytanii, Stanach Zjednoczonych i Indiach. Skupiono się na obszarach wysokiego ryzyka, takich jak finanse (symulowane scenariusze inwestycyjne) oraz zdrowie (wybór suplementów diety). Wyniki pokazały, że skuteczność manipulacji różni się w zależności od dziedziny – co ciekawe, AI okazała się najmniej skuteczna w próbach manipulowania uczestnikami w kwestiach zdrowotnych.
Mechanizmy wpływu i ocena ryzyka
W badaniach analizowano nie tylko skuteczność manipulacji, czyli to, czy AI faktycznie zmieniła zdanie użytkownika, ale także jej skłonność do podejmowania takich działań. Testy przeprowadzono w dwóch wariantach: gdy model otrzymał wyraźne polecenie bycia manipulacyjnym oraz gdy takiego polecenia nie było. Analiza transkrypcji potwierdziła, że modele wykazują znacznie wyższą skłonność do manipulacji, gdy są do tego bezpośrednio instruowane.
Wprowadzenie nowych metod oceny pozwala lepiej zrozumieć, jak AI może być nadużywana. W ramach Frontier Safety Framework wprowadzono kategorię Harmful Manipulation Critical Capability Level (CCL). Pozwala ona monitorować modele pod kątem zdolności do systematycznego zmieniania przekonań i zachowań w sposób, który mógłby prowadzić do poważnych szkód. Standardy te stanowią obecnie fundament testów bezpieczeństwa, w tym dla modelu Gemini 3 Pro.
Przyszłość bezpieczeństwa w erze AI
Zrozumienie i ograniczanie ryzyka manipulacji to proces ciągły. Wraz z rozwojem możliwości modeli, techniki oceny muszą ewoluować. Obecnie trwają prace nad etycznym badaniem skuteczności manipulacji w sytuacjach o jeszcze wyższym stopniu ryzyka, takich jak dyskusje dotyczące głęboko zakorzenionych przekonań osobistych. Kolejnym etapem badań będzie analiza wpływu materiałów audio, wideo oraz obrazów, a także zdolności sprawczych (agentowych) sztucznej inteligencji na proces manipulacji.
Celem tych działań jest wypracowanie wspólnych standardów w ramach Frontier Model Forum oraz środowiska akademickiego. Dzięki publicznemu udostępnieniu metodologii badawczej, twórcy technologii dążą do tego, aby przyszłe modele AI priorytetyzowały bezpieczeństwo i wzmacniały autonomię użytkowników, zamiast ją ograniczać.