Nowa generacja detekcji treści
Wraz z pozyskaniem funduszy, firma wprowadziła na rynek Pangram 4, swój najnowszy model do wykrywania tekstów generowanych przez AI, oraz zaprezentowała wersję badawczą modelu do analizy obrazów. Według zapewnień twórców, Pangram 4 osiąga ponad 99-procentową skuteczność w identyfikacji tekstów w całości stworzonych przez maszyny, jak również materiałów hybrydowych, w których AI wspierało pracę człowieka. Narzędzie radzi sobie także z wykrywaniem programów służących do tzw. „humanizacji” tekstu, czyli prób ukrycia śladów działania algorytmów.
Startup został założony dwa lata temu przez absolwentów Stanfordu, Maxa Spero i Bradleya Emi. Impulsem do jego powstania był gwałtowny rozwój ChatGPT, który doprowadził do zalania sieci botami, zautomatyzowanymi treściami SEO oraz kampaniami dezinformacyjnymi. Jak podkreśla Spero, umiejętność weryfikacji pochodzenia tekstu jest kluczowa dla bezpieczeństwa informacyjnego:
Myślę, że wiedza o tym, czy to, co czytasz, zostało wygenerowane przez AI, jest niezwykle cenna. Zmienia to sposób, w jaki podchodzimy do tekstu. Czy muszę uważać na halucynacje i czytać sceptycznie, czy może ufam, że to dobrze udokumentowany materiał przygotowany przez prawdziwego dziennikarza?
Jak działa technologia Pangram
System Pangram opiera się na zaawansowanym modelu uczenia maszynowego, który przeszedł trening na dziesiątkach milionów dokumentów napisanych przez ludzi. Aby nauczyć algorytm rozpoznawania wzorców, twórcy stworzyli „syntetyczne lustra” – dla każdego autentycznego tekstu wygenerowali odpowiednik przy użyciu modeli językowych, zachowując ten sam temat, długość i ton wypowiedzi. Dzięki temu system uczy się specyficznych wyborów stylistycznych, które konsekwentnie podejmuje sztuczna inteligencja.
W przeciwieństwie do rozwiązań opartych na ukrytych znakach wodnych czy metadanych, Pangram analizuje samą strukturę językową. Firma oferuje dostęp do swoich narzędzi poprzez subskrypcję w cenie 20 dolarów miesięcznie (około 80 złotych) oraz rozszerzenie do przeglądarki Chrome, które w czasie rzeczywistym oznacza treści na platformach takich jak X, LinkedIn, Substack czy Reddit.
Zastosowania w praktyce
Technologia Pangram jest już wykorzystywana przez podmioty zewnętrzne poprzez API. Z rozwiązań firmy korzysta m.in. platforma Substack, która pozwala czytelnikom sprawdzić, czy autorzy newsletterów korzystają z pomocy AI. Wśród klientów znajdują się również uczelnie, wydawnictwa oraz firmy rekrutacyjne. Potrzeba takich narzędzi wynika z rosnącej liczby incydentów związanych z bezkrytycznym wykorzystaniem AI:
Wyzwania i przyszłość
Testy dziennikarskie wykazały, że choć Pangram jest wysoce skuteczny, nie jest narzędziem nieomylnym. W przypadku tekstów mocno edytowanych przez ludzi, system potrafi wykazać się dużą precyzją, jednak zdarzają się przypadki błędnej klasyfikacji fragmentów autorskich jako wygenerowanych przez AI. Z kolei model do analizy obrazów, w przeciwieństwie do rozwiązań Google czy OpenAI, nie polega na znakach wodnych, lecz analizuje rozkłady statystyczne na poziomie pikseli, co pozwala mu wykrywać manipulacje nawet wewnątrz autentycznych zdjęć.
Max Spero zaznacza, że celem firmy nie jest walka z samą technologią AI, lecz przeciwdziałanie zalewowi niskiej jakości treści. W świecie, w którym moc obliczeniowa rośnie szybciej niż populacja ludzi, Pangram ma stanowić mechanizm obronny, który pozwoli zachować „ludzki sygnał” w cyfrowym szumie.
