Współpraca z algorytmami sztucznej inteligencji zmienia sposób, w jaki podejmujemy decyzje i oceniamy własną wiedzę. Najnowsze badania przeprowadzone przez naukowców z trzech uczelni we Francji i we Włoszech wskazują na niepokojące zjawisko: dostęp do podpowiedzi AI sprawia, że ludzie przestają krytycznie weryfikować informacje, tracąc jednocześnie umiejętność przyznania się do niewiedzy.
Złudne poczucie pewności
Badacze, wśród których znaleźli się Valerio Capraro z Uniwersytetu Milano-Bicocca, Chiara Marcoccia z École Normale Supérieure oraz Walter Quattrociocchi z Uniwersytetu Sapienza w Rzymie, przeprowadzili eksperyment z wykorzystaniem modelu AI Step 3.5 Flash. Zastosowano pytania, na które sztuczna inteligencja zazwyczaj odpowiada błędnie – dotyczyły one szczegółów wizualnych z filmów, takich jak kolor strojów drużyny w produkcji „Podkręć jak Beckham”.
Wyniki badania pokazują drastyczny spadek zdolności poznawczych użytkowników korzystających z pomocy AI:
Ludzie stali się znacznie mniej skuteczni, ich dokładność spadła trzykrotnie, ale byli dwukrotnie bardziej pewni swoich racji – zauważa Valerio Capraro.
Zjawisko to, określane przez badaczy z Wharton mianem „kapitulacji poznawczej”, polega na bezkrytycznym przyjmowaniu błędnych odpowiedzi generowanych przez AI. Nawet wprowadzenie zachęt finansowych nie przyniosło znaczącej poprawy – skłonność do przyznania się do braku wiedzy wzrosła jedynie do 8%, a dokładność do 16%, co wciąż pozostaje wynikiem znacznie gorszym niż w grupie pracującej bez wsparcia algorytmów.
Ryzyko dla krytycznego myślenia
Problem nie ogranicza się jedynie do zaufania wobec błędnych odpowiedzi. Sama obecność sztucznej inteligencji tłumi nawyk rozpoznawania granic własnej wiedzy. Capraro podkreśla, że umiejętność powiedzenia „nie wiem” jest kluczowa dla ludzkiego rozwoju, ponieważ stanowi wyraz świadomości ograniczeń własnego intelektu. Istnieje obawa, że młodsze pokolenia, dorastające w otoczeniu systemów AI, mogą nie wykształcić odpowiednich umiejętności krytycznego myślenia.
Obecne trendy w projektowaniu technologii tylko pogłębiają ten stan. Wiele nowoczesnych narzędzi, w tym wyszukiwarki oparte na AI, zastępuje tradycyjne linki pewnymi siebie, wygenerowanymi automatycznie podsumowaniami. Organizacja Common Sense Media określiła takie podejście jako „niedopuszczalne ryzyko” dla uczniów. Produkty oparte na sztucznej inteligencji są projektowane tak, aby zawsze udzielać odpowiedzi, nigdy nie przyznając się do niewiedzy, co w efekcie uczy użytkowników identycznego zachowania.
