W dobie powszechnej dostępności zaawansowanych modeli językowych (LLM), internet zmaga się z bezprecedensową falą spamu i treści generowanych automatycznie. Paradoksalnie, to właśnie technologia, która umożliwiła masową produkcję sztucznych wpisów, staje się teraz głównym narzędziem w walce z tym zjawiskiem. Reddit, jedna z największych platform dyskusyjnych na świecie, wdrożył nowe rozwiązania oparte na sztucznej inteligencji, aby skuteczniej filtrować niepożądane treści.
Skala problemu, z jakim mierzy się serwis, jest ogromna. Każdego dnia Reddit blokuje około 23 miliony wyświetleń spamu oraz wykrywa blisko 25 tysięcy nowych postów i komentarzy o charakterze spamerskim. Choć platformy społecznościowe od lat rozwijają zautomatyzowane systemy moderacji, tradycyjne metody często okazywały się niewystarczające wobec nowoczesnych, wyrafinowanych technik generowania treści. Nowe narzędzia Reddita wykorzystują modele językowe do identyfikacji subtelnych, skoordynowanych wzorców zachowań oraz sztucznie wykreowanego szumu, które wcześniej umykały starszym algorytmom.
Skuteczność tych działań jest już widoczna w statystykach. Firma poinformowała, że w okresie od stycznia do marca bieżącego roku udało się ograniczyć ekspozycję użytkowników na spam o 20 procent w porównaniu z poprzednim kwartałem. Jest to istotny krok w stronę poprawy jakości dyskusji, zwłaszcza że inne platformy, takie jak YouTube, Meta czy TikTok, przyjmują odmienne strategie – od wymogu oznaczania treści AI, po oferowanie użytkownikom narzędzi do samodzielnego decydowania o tym, ile materiałów wygenerowanych przez sztuczną inteligencję chcą widzieć w swoich kanałach.
Zdolność do szybszego wykrywania treści stworzonych przez AI otwiera również nowe możliwości w zakresie moderacji innych szkodliwych materiałów, w tym mowy nienawiści. Eksperci branżowi podkreślają jednak, że choć automatyzacja jest niezbędna, nie może ona całkowicie zastąpić człowieka. Najwyższą skuteczność w utrzymaniu standardów bezpieczeństwa i jakości treści osiąga się jedynie poprzez ścisłą współpracę zaawansowanych systemów AI z ludzkimi moderatorami, którzy potrafią ocenić kontekst i niuanse, z którymi algorytmy wciąż mogą mieć trudności.
