Wyobraź sobie technologie sztucznej inteligencji, które potrafią przewidywać Twoje decyzje i sprzedawać je korporacjom, zanim nawet zdążysz je podjąć. Według badaczy z Uniwersytetu w Cambridge, taki scenariusz może stać się rzeczywistością za sprawą tzw. “Gospodarki Intencji” – nowego rynku, w którym motywacje człowieka stają się walutą cyfrowej ery.
Dr. Jonnie Penn, historyk technologii z Leverhulme Centre for the Future of Intelligence (LCFI), ostrzega przed tym, jak Gospodarka Intencji może wpłynąć na nasze życie. „Jeśli nie wprowadzimy odpowiednich regulacji, gospodarka intencji potraktuje nasze motywacje jako nowy rodzaj waluty. To będzie prawdziwa gorączka złota dla tych, którzy spróbują sterować, wykorzystywać i sprzedawać ludzkie intencje” – wyjaśnia ekspert.
To, co brzmi jak futurystyczna wizja rodem z literatury sci-fi, staje się realnym wyzwaniem dzięki szybkiemu rozwojowi AI oraz chatbotów. Badacze zwracają uwagę, że te technologie umożliwiają niespotykane dotąd poziomy manipulacji społecznej. Sztuczna inteligencja, analizując nasze internetowe nawyki i naśladując sposoby myślenia czy zachowania, będzie w stanie zyskać naszą głęboką ufność. Co więcej, podczas niepozornych rozmów, może zbierać bardzo prywatne dane psychologiczne – dane, które są znacznie bardziej intymne niż ślady pozostawione przez nas w social media.
„To, co ludzie mówią w trakcie rozmów, w jaki sposób to wyrażają oraz jakie wnioski można wyciągnąć w czasie rzeczywistym – wszystko to przynosi o wiele bardziej intymne informacje, niż jakiekolwiek zapisy interakcji online” – tłumaczy dr. Yaqub Chaudhary, Visiting Scholar w LCFI.
Jak się okazuje, największe firmy technologiczne już aktywnie działają nad realizacją tej wizji. Przykładowo, OpenAI otwarcie mówi o pozyskiwaniu danych odzwierciedlających ludzkie intencje, obejmujących dowolny język, temat czy format. Apple, w swojej nowej ramie programistycznej, wprowadza protokoły umożliwiające prognozowanie przyszłych działań użytkowników. Z kolei CEO Nvidii opowiada o zastosowaniu modeli językowych AI do zrozumienia ludzkich pragnień i intencji.
Konsekwencje takich działań mogą być dalekosiężne, wykraczając daleko poza codzienne wybory konsumenckie. Jak ostrzega dr. Penn, mogłoby to zagrozić nie tylko rynkowej konkurencji, ale także wolności mediów czy procesom demokratycznym, takim jak uczciwe wybory. „Zanim staniemy się ofiarami niezamierzonych konsekwencji tej wizji, musimy poważnie zastanowić się nad jej wpływem na ludzkie aspiracje oraz zasady, na których opiera się wolne społeczeństwo.”
Warto zauważyć, że technologia taka mogłaby początkowo wydawać się pomocna. Przykładowo, wyobraź sobie asystenta AI, który po wykryciu Twojego stresu zaproponuje: „Wspominałeś, że czujesz się przemęczony. Czy zarezerwować dla Ciebie bilety na ten film, o którym rozmawialiśmy?”. Pod powierzchnią takiej wygody kryje się jednak system stworzony z myślą o sterowaniu decyzjami użytkownika w sposób korzystny dla platform, reklamodawców, a być może nawet organizacji politycznych.
„Inwestuje się ogromne zasoby, aby umieścić asystentów AI w każdej dziedzinie naszego życia. Powinniśmy zadać sobie pytanie, czyje interesy i cele te tzw. asystenty mają naprawdę realizować” – podkreśla Chaudhary.
Mimo że taka przyszłość nie jest jeszcze przesądzona, badacze stanowczo wskazują na konieczność zwiększenia świadomości społecznej oraz podjęcia publicznej debaty na ten temat. „Świadomość społeczna tego, co nadchodzi, jest kluczem do tego, abyśmy nie obrali błędnej ścieżki” – podsumowuje Penn.
Zgodnie z tym, co opublikowano w Harvard Data Science Review, temat wymaga pilnej uwagi, ponieważ to my, jako społeczeństwo, powinniśmy zdecydować, w jaki sposób technologie AI będą kształtować nasze życie – zanim same technologie zdecydują za nas.
