Problem "podwójnego zastosowania
Choć aplikacje te często reklamują się jako niewinne narzędzia do zamiany twarzy, badania przeprowadzone przez Cornell University i Georgetown University wskazują na poważny problem. Z testów wynika, że aż 70% sprawdzonych aplikacji tego typu nie posiada żadnych zabezpieczeń uniemożliwiających generowanie pornograficznych deepfake’ów.
> „Te aplikacje omijają moderację treści, ponieważ prezentują się jako nieszkodliwe, ale posiadają zdolność do tworzenia szkodliwych materiałów” – zauważają autorzy badania.
Skala zjawiska i odpowiedzialność finansowa
Prokurator Chiu podkreśla, że Apple i Google czerpią bezpośrednie zyski z prowizji od płatności wewnątrz tych aplikacji. Szacuje się, że giganci mogli zarobić miliony dolarów na oprogramowaniu, które jest wykorzystywane głównie do nękania, upokarzania i szantażowania kobiet oraz dziewcząt.
| Aspekt problemu | Szczegóły |
| :— | :— |
| Liczba aplikacji | 13 wskazanych w piśmie (8 w App Store, 5 w Google Play) |
| Główny cel | Generowanie niekonsensualnych intymnych obrazów |
| Skutki społeczne | Nękanie, utrata reputacji, problemy ze zdrowiem psychicznym ofiar |
| Działania firm | Google deklaruje usunięcie setek aplikacji; Apple nie udzieliło komentarza |
Czy dotychczasowe działania są wystarczające?
Mimo że obie firmy posiadają regulaminy zabraniające publikowania treści pornograficznych i promujących nadużycia, raporty organizacji takich jak Tech Transparency Project pokazują, że problem powraca. Wcześniejsze analizy wykazały istnienie setek podobnych aplikacji, które łącznie pobrano blisko 480 milionów razy, generując przy tym szacunkowo 120 milionów dolarów przychodu.
David Chiu zapowiada, że jeśli Apple i Google nie zaostrzą swoich systemów weryfikacji i nie usuną szkodliwych narzędzi, miasto rozważy dalsze kroki prawne. Władze San Francisco argumentują, że największe firmy technologiczne świata mają moralny i prawny obowiązek zaprzestania czerpania korzyści z technologii, która ułatwia przemoc seksualną.
