W dobie dynamicznego rozwoju mediów generatywnych, coraz trudniej jest odróżnić materiały stworzone przez człowieka od tych wygenerowanych przez sztuczną inteligencję. Aby zwiększyć przejrzystość cyfrowego świata, wprowadzane są nowe narzędzia, które pozwalają użytkownikom łatwiej zweryfikować pochodzenie oraz historię edycji zdjęć, filmów i nagrań audio.
Technologia SynthID i standardy branżowe
Fundamentem tych działań jest technologia SynthID, wprowadzona trzy lata temu. Pozwala ona na umieszczanie w treściach generowanych przez AI niemal niewidocznych dla ludzkiego oka znaków wodnych. Do tej pory rozwiązanie to zostało wykorzystane do oznaczenia ponad 100 miliardów obrazów i filmów oraz 60 tysięcy lat nagrań audio.
Równolegle stosowany jest standard C2PA (Content Credentials), który dokumentuje sposób powstania i modyfikacji plików. Dzięki niemu użytkownicy mogą sprawdzić, czy dany materiał jest oryginalnym zapisem z aparatu, czy też został poddany obróbce. Funkcja ta, dostępna już w smartfonach Pixel 10, w najbliższych tygodniach zostanie rozszerzona o obsługę wideo w modelach Pixel 8 oraz 9.
Weryfikacja treści w codziennym użytkowaniu
Możliwość sprawdzenia pochodzenia plików trafia bezpośrednio do popularnych narzędzi Google. W aplikacji Gemini funkcja weryfikacji SynthID została już użyta 50 milionów razy. W najbliższym czasie podobne mechanizmy zostaną zaimplementowane w wyszukiwarce oraz przeglądarce Chrome. Użytkownicy będą mogli zapytać o pochodzenie pliku, korzystając z funkcji takich jak Obiektyw, AI Mode czy „Zakreśl, aby wyszukać”.
Weryfikacja za pomocą standardu C2PA również stanie się bardziej dostępna. Umożliwi ona szybkie sprawdzenie, czy zdjęcie lub film są autentycznymi zapisami z aparatu, czy też zostały zmodyfikowane przez konkretne oprogramowanie.
Współpraca na rzecz transparentności
Skuteczność tych rozwiązań zależy od ich powszechnego stosowania w całej branży technologicznej. Dlatego też firmy takie jak OpenAI, Kakao czy ElevenLabs integrują technologię SynthID w swoich produktach. Współpraca obejmuje również udostępnianie otwartych standardów oraz partnerstwa z podmiotami takimi jak NVIDIA, co pozwala na oznaczanie wideo generowanego przez zaawansowane modele światów wirtualnych.
Dla przedsiębiorstw przygotowano nowe rozwiązanie w ramach Google Cloud: AI Content Detection API. Pozwala ono firmom na automatyczne wykrywanie treści stworzonych przez AI, co jest kluczowe w procesach takich jak moderacja kanałów informacyjnych czy przeciwdziałanie oszustwom ubezpieczeniowym.
Dzięki członkostwu w komitecie sterującym C2PA, promowane są globalne standardy, które mają zapewnić interoperacyjność narzędzi. Przykładem tej współpracy jest Meta, która rozpoczyna oznaczanie materiałów z aparatów za pomocą Content Credentials na Instagramie. Oznacza to, że autentyczne zdjęcia i filmy wykonane smartfonami Pixel będą poprawnie rozpoznawane i oznaczane jako oryginalne również po udostępnieniu ich w mediach społecznościowych.
