Platformy należące do Meta, w tym Facebook i Instagram, ponownie stały się miejscem emisji reklam promujących narzędzia oparte na sztucznej inteligencji, służące do tworzenia pornograficznych materiałów typu deepfake. Jedna z kampanii promowała aplikację o nazwie Kromix, która w swoich materiałach wideo wykorzystywała wizerunek znanej amerykańskiej polityk. Choć Meta posiada rygorystyczne zasady zabraniające publikowania treści o charakterze seksualnym oraz materiałów typu „nudify” (narzędzi do cyfrowego rozbierania osób), reklamy te zdołały ominąć systemy weryfikacyjne firmy.
W materiałach promocyjnych Kromix przedstawiano jako narzędzie bez ograniczeń, wprost sugerując, że użytkownicy mogą tworzyć pornograficzne filmy z udziałem prawdziwych osób. W jednym z nagrań postać łudząco przypominająca amerykańską polityk mruga do kamery, po czym wideo przechodzi w scenę pornograficzną. Aplikacja, która do czasu interwencji mediów była dostępna w sklepie Apple App Store, oferowała użytkownikom możliwość wgrywania zdjęć w celu generowania treści o charakterze seksualnym, w tym symulacji przemocy.
Problem z wykrywaniem tego typu reklam jest złożony, ponieważ twórcy stosują techniki maskowania. Wiele z tych materiałów wideo posiadało miniatury przedstawiające neutralne krajobrazy, takie jak góry czy wodospady, co miało zmylić algorytmy moderujące. Według danych Meta, w okresie od listopada ubiegłego roku do stycznia firma usunęła 344 tysiące reklam promujących usługi typu „nudify”. Mimo to, badacze z Tech Transparency Project regularnie odkrywają tysiące kolejnych naruszeń.
Wszystkie reklamy, które do tej pory widzieliśmy w kontekście problemu nudify, mają charakter wyłącznie seksualizujący. Stawiają one kobiety w sytuacjach pornograficznych wygenerowanych przez AI. Rodzi to wiele pytań o to, jak Meta zamierza radzić sobie z takimi treściami, zwłaszcza gdy dotyczą one polityczek, a firma aktywnie wyświetla te reklamy na swojej platformie – komentuje Katie Paul, dyrektor Tech Transparency Project.
Eksperci wskazują, że demokratyzacja technologii AI sprawiła, iż nawet oficjalne portrety czy nagrania z konferencji prasowych stają się łatwym materiałem dla narzędzi typu „low-code”. Pozwala to osobom bez zaawansowanej wiedzy technicznej na tworzenie szkodliwych deepfake’ów. Benjamin Shultz z American Sunlight Project podkreśla, że politycy, a w szczególności kobiety, od lat są głównym celem tego typu ataków.
Meta tłumaczy, że jej systemy weryfikacji reklam opierają się głównie na automatyzacji, która ma sprawdzać treści jeszcze przed ich publikacją. Firma przyznaje jednak, że żaden system nie jest doskonały. W odpowiedzi na zapytania dotyczące konkretnych kampanii, Meta usuwa reklamy i blokuje konta, które je publikowały. Warto zauważyć, że konto odpowiedzialne za kampanię Kromix zostało założone zaledwie 3 sierpnia, nie posiadało obserwujących, a mimo to otrzymało zgodę na emisję 32 reklam.
Podobne wyzwania stoją przed Apple. Firma, która również zakazuje w swoim sklepie aplikacji służących do generowania pornografii, musiała usunąć Kromix oraz inną aplikację o nazwie MaskAI po interwencji dziennikarzy. Wcześniej w tym roku prokurator miejski San Francisco wystosował do Apple wezwanie do usunięcia 13 aplikacji tego typu, oskarżając giganta o współudział w rozpowszechnianiu szkodliwych treści.
Krytycy działań Meta, tacy jak Katie Paul, zwracają uwagę na rosnącą zależność firmy od algorytmów przy jednoczesnej redukcji liczby ludzkich moderatorów. Wskazują, że mimo publicznych zapewnień o inwestycjach w nowe technologie wykrywające naruszenia, jakość kontroli treści pozostaje niewystarczająca, co pozwala na dalsze funkcjonowanie szkodliwych usług w ekosystemie reklamowym giganta.