Należący do Elona Muska chatbot Grok wciąż jest wykorzystywany do generowania i udostępniania treści typu deepfake o charakterze seksualnym, mimo wcześniejszych zapewnień firmy xAI o wprowadzeniu odpowiednich zabezpieczeń. Śledztwo przeprowadzone przez redakcję wykazało, że na stronie Grok.com wciąż znajdują się dziesiątki obrazów i filmów przedstawiających osoby publiczne, w tym celebrytki oraz amerykańską polityk, w sytuacjach jednoznacznie seksualnych lub upokarzających.
Problem z zabezpieczeniami AI
Analiza publicznie dostępnych linków wygenerowanych przez system Grok Imagine ujawniła materiały, w których wizerunki znanych osób zostały wykorzystane bez ich zgody. Część z nich to fotorealistyczne obrazy przedstawiające sceny przemocy lub akty seksualne. Choć firma xAI deklarowała wdrożenie mechanizmów blokujących tworzenie szkodliwych treści, eksperci wskazują, że obecne zabezpieczenia są niewystarczające w porównaniu do standardów rynkowych.
Choć Grok i X mogły wprowadzić pewne poprawki w swoim modelu, szczególnie po fali krytyki na początku roku, wciąż nie wykonały wystarczającej pracy, aby dorównać standardom innych dostępnych narzędzi głównego nurtu.
Henry Ajder, ekspert zajmujący się technologią deepfake, podkreśla, że mimo pewnych zmian, systemy Muska pozostają w tyle za konkurencją. W testach przeprowadzonych przez dziennikarzy, te same polecenia, które pozwoliły wygenerować kontrowersyjne treści w Groku, zostały odrzucone przez konkurencyjne narzędzia, takie jak ChatGPT, Claude czy Meta AI, jako naruszające zasady bezpieczeństwa.
Kontekst prawny i finansowy
Sprawa nabiera szczególnego znaczenia w obliczu planowanego debiutu giełdowego firmy SpaceX, spółki matki xAI. W dokumentach złożonych przed IPO firma przyznała, że zabezpieczyła około 530 milionów dolarów (ponad 2 miliardy złotych) na pokrycie potencjalnych roszczeń prawnych związanych z działalnością Groka. Firma otwarcie przyznaje, że jej modele, w tym tryby o nazwach „Spicy” (pikantny) i „Unhinged” (nieskrępowany), niosą ze sobą wysokie ryzyko generowania treści szkodliwych, obraźliwych lub naruszających prawa autorskie.
W styczniu bieżącego roku, po fali publikacji tzw. „nudification” (obrazów przedstawiających osoby w stanie nagości), xAI stanęło w obliczu pozwów zbiorowych. Zarzuty dotyczyły m.in. seksualizacji wizerunków osób, które mogły być nieletnie. Kanadyjski komisarz ds. prywatności również wszczął dochodzenie, stwierdzając w swoich wstępnych ustaleniach, że xAI nie wdrożyło odpowiednich zabezpieczeń od samego początku i nie wykazało skuteczności wprowadzonych później zmian.
Skala zjawiska i reakcje
Mechanizm działania Groka pozwala użytkownikom na omijanie zabezpieczeń poprzez stosowanie opisów pośrednich. Wśród zidentyfikowanych materiałów znalazły się m.in. nagrania przedstawiające Ashley St. Clair, która wcześniej podjęła kroki prawne przeciwko xAI w związku z wykorzystaniem jej wizerunku. Prawniczka St. Clair, Carrie Goldberg, zwraca uwagę na historyczny wymiar tego zjawiska:
Nie tylko doszło do natychmiastowej publikacji cyfrowych aktów, ale najbogatszy człowiek świata promował technologię „rozbierania” wśród swoich 240 milionów obserwujących na X, monetyzując to na platformie dostępnej dla osób od 13. roku życia.
Po interwencji dziennikarzy, xAI oraz platforma X usunęły wskazane materiały, powołując się na naruszenie zasad dotyczących treści o charakterze seksualnym bez zgody osób zainteresowanych. Mimo to, badacze z Center for Countering Digital Hate ostrzegają, że systemy te wciąż stanowią narzędzie do łatwego tworzenia materiałów krzywdzących, a dotychczasowe działania moderacyjne są jedynie reaktywne, a nie prewencyjne.
