OpenAI zaskakuje swoją nową technologią do generowania wideo – Sora, która właśnie została udostępniona szerokiemu gronu użytkowników. Jednak, co istotne, pewne funkcje tej innowacyjnej platformy nie trafią jeszcze do większości użytkowników, ponieważ firma postanowiła przeprowadzić dodatkowe testy i poprawki w zakresie bezpieczeństwa.
Ograniczony dostęp do zaawansowanych funkcji
Jedną z najbardziej oczekiwanych funkcji Sora jest możliwość generowania wideo na podstawie przesłanego zdjęcia lub filmu przedstawiającego prawdziwą osobę. OpenAI zdecydowało jednak, że funkcja ta zostanie początkowo udostępniona jedynie wybranej grupie użytkowników. W oficjalnym komunikacie firma wskazała, że taka forma generowania wideo niesie ze sobą potencjalne ryzyko nadużyć i w związku z tym przyjęto „stopniowe i ostrożne podejście” do jej wdrażania.
„Wczesne opinie artystów wskazują, że to potężne narzędzie kreatywne, które cieszy się dużą wartością w społeczności twórczej,” napisało OpenAI w jednym z postów na swoim blogu. „Jednak z uwagi na możliwość nadużyć, funkcja ta nie będzie na razie dostępna dla wszystkich użytkowników.”
Moderacja treści kluczem do bezpiecznego użytkowania
OpenAI zamierza wdrożyć szereg środków zapobiegających potencjalnym nadużyciom. Jednym z nich jest wprowadzenie filtrowania treści generowanych przez Sora, zwłaszcza tych, które mogą przedstawiać osoby poniżej 18 roku życia. Jeśli film zostanie rozpoznany jako przedstawiający niepełnoletniego, system automatycznie zastosuje surowsze kryteria moderacji w zakresie treści o charakterze seksualnym, przemocy, czy treści związanych z samookaleczeniem.
Kolejnym narzędziem ochronnym jest wprowadzenie metadanych zgodnych ze standardem technicznym C2PA, które pozwalają platformom weryfikować źródło pochodzenia filmu. Chociaż metadane można usunąć, OpenAI liczy na to, że ich wprowadzenie ułatwi szybkie rozpoznawanie treści wygenerowanych przez Sora, szczególnie na platformach wspierających standard C2PA.
Problem stylów artystycznych i ochrona praw autorskich
OpenAI podjęło również działanie mające na celu ograniczenie potencjalnych sporów dotyczących praw autorskich. System wprowadza mechanizm „re-write prompt”, który automatycznie zmienia zapytania użytkowników próbujących stworzyć wideo w stylu konkretnego, wciąż żyjącego artysty. Firma oświadczyła, że chce podejść do tego zagadnienia ostrożnie, ucząc się, w jaki sposób społeczność twórcza korzysta z Sora.
„W tradycji twórczej istnieje długa historia czerpania inspiracji z innych stylów artystycznych,” wskazało OpenAI, „ale rozumiemy, że niektórzy twórcy mogą mieć w tej kwestii zastrzeżenia.” Ochrona przed kopiowaniem stylu innych twórców jest kluczowa w erze, gdy generatywne AI coraz częściej spotyka się z zarzutami kradzieży własności intelektualnej.
Generowanie wideo z tekstu i obrazów
Sora to platforma o ogromnym potencjale kreatywnym. Pozwala użytkownikom generować wideo na podstawie prostych poleceń tekstowych lub przesłanych obrazów, a także edytować istniejące nagrania za pomocą narzędzia Re-mix. Innowacjami są również funkcje takie jak Storyboard, umożliwiające tworzenie sekwencji wideo, czy Blend, pozwalające na połączenie dwóch filmów w jeden, który zachowuje elementy obydwu materiałów. Funkcje takie jak Loop i Re-cut umożliwiają dodatkowe dostosowywanie i edycję poszczególnych scen wideo.
Ponadto użytkownicy subskrybujący usługi ChatGPT Pro i Plus zyskali dostęp do Sora, choć dotyczy to wyłącznie określonych krajów. Warto zaznaczyć, że mieszkańcy Unii Europejskiej mogą nie mieć jeszcze dostępu do tej technologii, co wynika z lokalnych restrykcji regulacyjnych.
Generatywne wideo – innowacja z wyzwaniami
Technologia generowania wideo jest niezwykle potężna i otwiera przed twórcami nowe możliwości, ale jednocześnie budzi kontrowersje. Jednym z największych wyzwań są deepfake’i oraz związane z nimi ryzyko dezinformacji. Według danych firmy Sumsub, przypadki oszustw z wykorzystaniem deepfake’ów wzrosły na świecie ponad dziesięciokrotnie w latach 2022-2023.
Z tego powodu wdrażanie takich technologii wymaga odpowiedzialności i ciągłego doskonalenia narzędzi moderacyjnych. Jak podkreślił Will Peebles, członek zespołu technicznego OpenAI, firma ma świadomość, że nie wszystkie aspekty Sora będą idealne od samego początku. „Chcemy zapobiec nielegalnym działaniom z wykorzystaniem Sora, ale także zachować równowagę z kreatywnym wyrażaniem się. To wyzwanie, które będzie trwało,” przyznał podczas prezentacji na żywo.
Podsumowanie
OpenAI, wprowadzając na rynek Sora, udowadnia, że generatywne AI może stać się kolejnym przełomowym narzędziem umożliwiającym artystyczne wyrażanie się i rozwijanie kreatywności. Jednak w erze cyfrowej bezpieczeństwo i odpowiedzialność za treści muszą stanowić priorytet. Zarówno twórcy, jak i użytkownicy staną przed wyzwaniem znalezienia równowagi między możliwościami sztucznej inteligencji, a jej potencjalnymi zagrożeniami. Czy Sora wyznaczy nowe standardy w świecie wideo generowanego przez AI? Czas pokaże.
