Władze San Francisco podjęły zdecydowane kroki przeciwko gigantom technologicznym, domagając się usunięcia z ich sklepów aplikacji wykorzystujących sztuczną inteligencję do tworzenia pornograficznych treści typu deepfake. Prokurator miejski wystosował oficjalne wezwania do Apple oraz Google, żądając wycofania łącznie 13 programów, które pod przykrywką narzędzi do zamiany twarzy (face-swap) służą do generowania nieautoryzowanych, nagich zdjęć prawdziwych osób.
Problem nielegalnych treści w sklepach z aplikacjami
W skierowanych do korporacji pismach podkreślono, że obecność tego typu oprogramowania w oficjalnych kanałach dystrybucji jest niedopuszczalna. Prokuratura argumentuje, że Apple i Google, czerpiąc prowizje od płatności wewnątrz tych aplikacji, w praktyce współuczestniczą w rozpowszechnianiu szkodliwych i nielegalnych treści. Szacuje się, że z tytułu opłat za korzystanie z tych narzędzi, firmy mogły zarobić miliony dolarów (w przeliczeniu na polską walutę są to kwoty rzędu kilku, a nawet kilkunastu milionów złotych).
Praktyka ta jest nielegalna, szkodliwa i całkowicie nieakceptowalna.
Wspomniane wezwanie dotyczy ośmiu aplikacji dostępnych w App Store oraz pięciu w sklepie Google Play. Władze San Francisco oczekują nie tylko usunięcia samych programów, ale również zerwania współpracy z ich twórcami, co ma zapobiec ponownemu wprowadzaniu podobnych rozwiązań na rynek.
Reakcja Apple i Google
Obaj giganci technologiczni posiadają regulaminy zabraniające publikowania treści pornograficznych, jednak problematyczne aplikacje regularnie pojawiają się w ich ofertach. Przedstawiciele Google poinformowali, że firma usunęła już setki programów oferujących funkcje „rozbierania” zdjęć za naruszenie zasad, w tym wszystkie pięć wymienionych w piśmie prokuratora.
Apple również odniosło się do sprawy, podkreślając, że bezpieczeństwo użytkowników jest priorytetem, a aplikacje generujące pornografię są surowo zabronione. Firma podjęła już konkretne działania:
Apple przypomina jednocześnie użytkownikom o możliwości zgłaszania nielegalnych lub obraźliwych treści za pośrednictwem dedykowanego portalu reportaproblem.apple.com. Warto zaznaczyć, że już w czerwcu firma zaostrzyła wytyczne dotyczące odpowiedzialności deweloperów za treści o charakterze seksualnym, co ma stanowić kolejną linię obrony przed rozprzestrzenianiem się technologii deepfake wykorzystywanej do celów przestępczych.
