Obecność treści typu deepfake w internecie narasta w zastraszającym tempie. Według danych platformy weryfikacji tożsamości Sumsub, globalna liczba deepfake’ów wzrosła czterokrotnie między 2023 a 2024 rokiem, co pokazuje, jak bardzo technologia sztucznej inteligencji staje się dostępna dla każdego. W 2024 roku treści deepfake stanowiły już 7% wszystkich przypadków oszustw, obejmując m.in. podszywanie się pod inne osoby, przejmowanie kont czy zaawansowane kampanie manipulacji społecznej.
Aby przeciwdziałać temu zjawisku, Meta zaprezentowała nowe narzędzie o nazwie Meta Video Seal. Narzędzie to ma za zadanie dokonywanie niemal niezauważalnego znakowania wodnego wideo generowanych przez AI. Dzięki temu znakowi, możliwe jest rozpoznanie, czy dany materiał wideo został stworzony przy użyciu technologii sztucznej inteligencji. Meta Video Seal został udostępniony jako projekt open source, co umożliwia integrację z istniejącymi już aplikacjami i systemami. Nowe rozwiązanie jest kolejnym krokiem w kierunku walki z fałszywymi treściami online i stanowi rozwinięcie wcześniej zaprezentowanych narzędzi, takich jak Watermark Anything, które również zyskało teraz bardziej otwartą licencję, oraz Audio Seal do znakowania dźwięków.
„Opracowaliśmy Video Seal jako bardziej skuteczne rozwiązanie do znakowania wideo, skupiając się na wykrywaniu treści generowanych przez AI i ochronie ich oryginalności” – mówi Pierre Fernandez, naukowiec badający sztuczną inteligencję w Meta. Nowe narzędzie różni się od istniejących technologii, takich jak SynthID od DeepMind czy rozwiązania Microsoftu, ponieważ eliminuje wiele ograniczeń, które dotąd były barierą dla wprowadzenia skutecznych systemów znakowania treści wideo.
Fernandez argumentuje, że obecne rozwiązania często nie spełniają wymagań współczesnego internetu. „Inne narzędzia do znakowania wodnego nie były wystarczająco odporne na kompresję wideo, która jest powszechnie stosowana na platformach społecznościowych. Ponadto wiele z nich nie działa wystarczająco wydajnie w większej skali, jest zbyt zamknięte lub nie zostało opracowane z myślą o znakowaniu wideo, co czyni je mniej efektywnymi” – dodaje.
Meta Video Seal wprowadza dodatkową funkcję, która poza znakowaniem wodnym pozwala na dodanie ukrytej wiadomości w materiale wideo. Informacja ta może zostać zrekonstruowana, by potwierdzić pochodzenie filmu. Meta zapewnia również, że narzędzie jest odporne na typowe modyfikacje, takie jak rozmywanie, przycinanie obrazu czy popularne algorytmy kompresji, co czyni je trudniejszym do obejścia dla osób tworzących fałszywe treści.
Jednakże, jak podkreśla Fernandez, Meta Video Seal nie jest rozwiązaniem doskonałym. Pewne ograniczenia wynikają z kompromisów między widocznością znaków wodnych a ich odpornością na manipulację. Silna kompresja i znaczne edycje wideo mogą zmienić znak wodny lub uniemożliwić jego odzyskanie. Tym niemniej, projekt stanowi istotny krok naprzód w walce z wyzwaniami, jakie stawia technologia deepfake.
Największym wyzwaniem dla Meta Video Seal może okazać się jednak brak zainteresowania branży oraz deweloperów, którzy już wykorzystują inne, często komercyjne, rozwiązania. Aby temu przeciwdziałać, Meta uruchomiła specjalny ranking publiczny nazwany Meta Omni Seal Bench, który porównuje skuteczność różnych metod znakowania treści. Firma planuje również organizację warsztatów podczas konferencji ICLR – jednego z ważniejszych wydarzeń poświęconych rozwojowi sztucznej inteligencji.
„Mamy nadzieję, że coraz więcej badaczy i twórców technologii sztucznej inteligencji włączy mechanizmy znakowania wodnego do swoich projektów” – mówi Fernandez. „Chcemy współpracować z przemysłem i środowiskiem akademickim, aby szybciej rozwijać tę dziedzinę.”
