Firma Anthropic ogłosiła wprowadzenie systemu znakowania wodnego dla wszystkich modeli Claude. Mechanizm ten ma na celu identyfikację treści generowanych przez sztuczną inteligencję, co jest bezpośrednią odpowiedzią na unijny Kodeks postępowania w zakresie przejrzystości treści generowanych przez AI. Choć firma początkowo przedstawiała to rozwiązanie jako imperceptybilne i nieingerujące w jakość tekstu, rzeczywista technologia działania budzi poważne kontrowersje wśród ekspertów i użytkowników.
Jak działa steganografia semantyczna
W przeciwieństwie do prostych metod, takich jak ukrywanie niewidocznych znaków Unicode, Anthropic zdecydowało się na zastosowanie formy steganografii opartej na wyborze słów. W procesie generowania tekstu model dokonuje wyboru tokenów (słów lub ich części) w oparciu o probabilistyczne listy „zielone” i „czerwone”.
Kluczowym problemem tej metody jest fakt, że nie istnieje „idealny” synonim. Wybór słowa „banan” zamiast „ananas” w kontekście owoców tropikalnych może wydawać się błahy, ale w literaturze i precyzyjnej komunikacji każde słowo ma znaczenie. Narzucenie algorytmicznego filtra na proces twórczy oznacza, że model nie wybiera słowa najlepiej oddającego sens, lecz takie, które pasuje do wymogów znaku wodnego.
Kontrowersje wokół jakości i prywatności
Krytycy wskazują, że takie podejście jest „wrogie wobec pisarzy”. Nawet jeśli użytkownik korzysta z Claude jedynie do korekty własnego tekstu, model może nanieść zmiany, które sprawią, że cały dokument zostanie oznaczony jako wygenerowany przez AI. Co więcej, Anthropic zdecydowało się na globalne wdrożenie tego rozwiązania, mimo że wymogi prawne dotyczą głównie rynku Unii Europejskiej. Firma tłumaczy to brakiem technicznych możliwości ograniczenia działania systemu tylko do konkretnych regionów.
Sytuacja ta stawia Anthropic w trudnym położeniu wizerunkowym, zwłaszcza w obliczu planowanego debiutu giełdowego. Wartość rynkowa firmy szacowana jest na około 2 biliony dolarów (ponad 8 bilionów złotych), co czyni ją jednym z najcenniejszych przedsiębiorstw na świecie. Trudno uznać za wiarygodne twierdzenie, że tak potężna organizacja nie jest w stanie wdrożyć geofencingu dla swoich usług.
Porównanie podejścia do znakowania treści
Anthropic nie jest jedynym podmiotem wprowadzającym tego typu rozwiązania. Google stosuje system SynthID, który również ingeruje w prawdopodobieństwo wyboru słów. Poniższa tabela przedstawia główne aspekty tych działań:
Czy regulacje mają sens?
Wielu ekspertów, w tym James Padolsey, twórca narzędzia Declaude służącego do usuwania „AI-owego stylu”, zauważa, że próba regulacji AI poprzez znakowanie tekstu jest skazana na porażkę. Osoby chcące ukryć pochodzenie tekstu z łatwością obejdą te zabezpieczenia, używając zewnętrznych narzędzi do parafrazowania. W efekcie systemy te uderzają głównie w uczciwych użytkowników, którzy mogą zostać niesłusznie oskarżeni o korzystanie z AI, podczas gdy prawdziwi oszuści pozostaną niewykrywalni.
Ostatecznie, decyzja Anthropic o „zanieczyszczaniu” tekstu w imię zgodności z przepisami, które nie uwzględniają specyfiki pracy twórczej, może trwale obniżyć jakość generowanych odpowiedzi. W świecie, w którym precyzja języka jest kluczowa, narzucanie algorytmicznych „odcisków palców” kosztem jakości merytorycznej wydaje się działaniem sprzecznym z interesem użytkownika końcowego.
