Setki zewnętrznych kontrahentów pracujących dla firmy Meta brały udział w zakrojonym na szeroką skalę projekcie, w ramach którego podszywały się pod osoby niepełnoletnie. Celem tych działań było sprawdzenie, w jaki sposób konkurencyjne modele sztucznej inteligencji, takie jak ChatGPT, Gemini oraz Character.AI, reagują na zapytania dotyczące tematów wysokiego ryzyka, w tym samobójstw, zaburzeń odżywiania, przemocy oraz treści o charakterze seksualnym.
Projekt Cannes i metodyka testów
Operacja, znana wewnętrznie pod kryptonimem Cannes, była zarządzana przez firmę Covalen, współpracującą z Metą. Działania te były prowadzone jeszcze w kwietniu 2026 roku. Pracownicy otrzymali instrukcje tworzenia fikcyjnych kont osób poniżej 18. roku życia, za pośrednictwem których wysyłali do konkurencyjnych chatbotów wyrafinowane zapytania oraz obrazy, a następnie kopiowali uzyskane odpowiedzi do arkuszy kalkulacyjnych. Wśród przesyłanych materiałów wizualnych znajdowały się zdjęcia noży, pętli, tabletek oraz schematy medyczne dotyczące procedur ginekologicznych.
Skala projektu była znacząca. Tylko w jednej serii testów zakończonej w sierpniu 2025 roku przetworzono ponad 45 000 zapytań. Firmy rozwijające testowane modele nie zostały poinformowane o prowadzonych badaniach, co stawia pod znakiem zapytania etyczną stronę tego przedsięwzięcia.
Charakter zapytań i ryzyko etyczne
Analiza dokumentacji projektu ujawnia, że wiele zapytań było sformułowanych z perspektywy dzieci lub nastolatków znajdujących się w kryzysie. Kontrahenci wcielali się w role osób pytających m.in. o sposoby ukrycia bulimii przed rodzicami, zakup środków poronnych czy radzenie sobie z sytuacjami zagrożenia życia. Część zapytań zawierała wulgaryzmy oraz treści rasistowskie. Warto zauważyć, że niektóre z tych działań naruszały regulaminy serwisów, które wyraźnie zabraniają prób omijania filtrów bezpieczeństwa oraz wykorzystywania narzędzi do celów innych niż przewidziane przez twórców.
Pracownicy zaangażowani w projekt wyrażali zaniepokojenie charakterem swojej pracy. Niektórzy z nich obawiali się, że generowanie odpowiedzi na tak drastyczne tematy może prowadzić do powstawania szkodliwych treści, a nawet materiałów, których przechowywanie mogłoby być problematyczne z punktu widzenia prawa. Jeden z byłych kontrahentów przyznał, że skala i treść zadań budziły wśród zespołu ogromne zdziwienie i poczucie dyskomfortu.
Strukturyzowanie wielomiesięcznego, zakrojonego na szeroką skalę projektu, który wydaje się zaprojektowany tak, aby systematycznie łamać zasady, przy użyciu fikcyjnych kont podszywających się pod dzieci, wykracza poza to, co zwykle określa się mianem standardowej oceny branżowej.
Stanowisko zaangażowanych stron
Meta broni swoich działań, określając je jako rutynowe testy bezpieczeństwa. Rzecznik firmy podkreślił, że sprawdzanie reakcji chatbotów w celu zapewnienia bezpiecznych doświadczeń dla użytkowników jest standardową praktyką w branży technologicznej. Firma zaprzeczyła jednocześnie, jakoby wykorzystywała wyniki tych testów do trenowania własnych modeli sztucznej inteligencji.
Zupełnie inaczej sytuację oceniają przedstawiciele testowanych platform:
Eksperci zwracają uwagę na niebezpieczny precedens. Łączenie testów bezpieczeństwa z benchmarkingiem konkurencji w sposób niejawny tworzy szarą strefę, w której dbałość o bezpieczeństwo użytkowników może stać się jedynie wygodną przykrywką dla działań o charakterze antykonkurencyjnym.
Jeśli Ty lub ktoś z Twojego otoczenia potrzebuje pomocy, pamiętaj, że wsparcie jest dostępne. W Polsce można skorzystać z bezpłatnego Kryzysowego Telefonu Zaufania dla Dorosłych pod numerem 116 123 lub Telefonu Zaufania dla Dzieci i Młodzieży pod numerem 116 111.
