Anthropic wyjaśnia, jak działa znak wodny w tekstach Claude’a
Według Anthropic lekka redakcja prawdopodobnie nie usunie całkowicie znaku z tekstu wygenerowanego przez Claude’a, a firma szykuje narzędzie do jego wykrywania. Dotyczy to także ofert, treści marketingowych i dokumentów firmowych.
Anthropic opublikował w piątek, 14 sierpnia, wpis wyjaśniający, jak działa znak wodny w tekstach generowanych przez Claude’a. Firma wprowadza go, by spełnić wymogi unijnego Kodeksu postępowania dotyczącego przejrzystości treści generowanych przez AI. Kodeks jest powiązany z art. 50 AI Act, czyli unijnego rozporządzenia o sztucznej inteligencji. Obowiązek oznaczania takich treści w sposób możliwy do zidentyfikowania wszedł w życie 2 sierpnia 2026. Szczegóły podają Anthropic (otwiera się w nowej karcie) i TechCrunch (otwiera się w nowej karcie).
Znak powstaje przy wyborach bez znaczenia dla sensu, np. między dwoma synonimami opisującymi pochmurną pogodę. Model wybiera wtedy słowa według wzorca, który wyznaczają klucz i kilka poprzedzających słów. Czytelnik go nie zauważy, ale wykryje go każdy, kto ma klucz. Anthropic korzysta z metody SynthID Text, opisanej przez Google DeepMind w 2024 roku. Firma zapowiada też API (interfejs programistyczny) do wykrywania znaku. Najpierw dostaną je w ograniczonej wersji m.in. regulatorzy, media, naukowcy, uczelnie i firmy z obowiązkami compliance, czyli zgodności z przepisami.
Według Anthropic lekka redakcja prawdopodobnie nie usunie znaku całkowicie. Zrobi to dopiero przepisanie tekstu, w którym każde słowo zostało zastąpione. Znak przenosi się z tekstem przy kopiowaniu i wklejaniu. Gdy Claude tylko poprawia tekst napisany przez człowieka, znak ma niewiele słów, w których mógłby się zapisać. W kodzie pojawia się głównie w komentarzach. Firma zapewnia, że znak nie zawiera danych identyfikujących osobę, organizację ani konkretną rozmowę. Znakowanie działa na całym świecie, bo, jak podaje Anthropic, nie da się go na razie trwale ograniczyć do jednego regionu.
Zapowiedź wywołała krytykę części użytkowników. Business Insider, cytowany przez TechCrunch, podał, że dziesiątki osób w serwisie X zadeklarowały rezygnację z subskrypcji. Kodeks podpisali też m.in. Google, Meta, Microsoft i OpenAI, więc podobne znaki trafią do innych narzędzi.
Dla firm oznacza to, że oferty, teksty marketingowe i dokumenty przygotowane z Claude’em i tylko poprawione przez człowieka mogą pozostać rozpoznawalne jako wygenerowane przez AI dla podmiotów, które mają dostęp do narzędzia wykrywającego znak.