Znak wodny w ChatGPT łatwo zatrzeć. Co z tego wynika dla firm piszących z AI?

OpenAI w najbliższych tygodniach domyślnie włączy znakowanie tekstów z ChatGPT i Codex w Unii Europejskiej. Według testów samej firmy wystarczy przeredagować piątą część tekstu, by detektor w większości przypadków przestał go rozpoznawać.

OpenAI ogłosiło, że w najbliższych tygodniach zacznie automatycznie oznaczać teksty generowane przez ChatGPT i narzędzie programistyczne Codex u użytkowników z Unii Europejskiej. Zmiana obejmuje wszystkie plany abonamentowe. Poza UE funkcja będzie dostępna, ale domyślnie wyłączona.

Firma nie robi tego z własnej inicjatywy. Od 2 sierpnia obowiązuje art. 50 unijnego AI Act. Wymaga on, by treści wygenerowane przez AI dało się rozpoznać maszynowo. Nie chodzi o napis „wygenerowano przez AI” pod każdym akapitem, tylko o sygnał, który odczyta oprogramowanie. Sprawdziliśmy, czy taki znak realnie odróżni tekst maszynowy od ludzkiego i co to oznacza dla firm, które piszą z pomocą AI oferty, posty i ogłoszenia o pracę.

Jak działa textGrain, czyli znak ukryty w doborze słów

System OpenAI nazywa się textGrain. Jest rozwiązaniem własnym firmy, a jego działanie opisano w opublikowanym artykule technicznym. Nie dodaje do tekstu ukrytych znaków, spacji ani metadanych, bo te znikają przy zwykłym kopiowaniu i wklejaniu.

Znak powstaje na etapie wyboru kolejnych słów. Model językowy przy każdym kolejnym słowie (tokenie) oblicza, jakie wyrazy mogą się pojawić. textGrain dzieli je na dwie grupy na podstawie tajnego klucza i poprzedzającego fragmentu tekstu. Potem lekko faworyzuje słowa z grupy uprzywilejowanej, o ile nie psuje to sensu ani płynności. Człowiek nie zauważy różnicy. Detektor, który zna klucz, widzi za to statystyczną nadwyżkę słów z jednej grupy.

Detektor nie będzie publiczny. OpenAI udostępni go ograniczonej liczbie badaczy i organizacji, a pozostali będą mogli ubiegać się o dostęp. Firma tłumaczy to ograniczeniami samej technologii. Woli też nie ułatwiać pisania narzędzi, które automatycznie usuwają znak.

Testy samej firmy pokazują, jak kruchy jest ten znak

W najlepszym scenariuszu z testów OpenAI detektor rozpoznaje oznaczony tekst w 92 proc. przypadków. To przyzwoity wynik, ale nie pewność. Gorzej wypada edycja. Według tych samych testów zmiana 10 proc. tekstu obniża skuteczność wykrywania o prawie 30 proc., a zmiana 20 proc. tekstu o prawie 75 proc.

Skuteczność spada także przy krótkich fragmentach i tekstach przetłumaczonych. Jest też wyraźnie niższa tam, gdzie model ma mało swobody w doborze słów, na przykład w tekstach matematycznych. Zwykła redakcja, zmiana szyku zdań czy podmiana synonimów wystarczą, by zatrzeć wzorzec. Tekst przepuszczony przez inny model z prośbą o przepisanie „własnymi słowami” traci znak całkowicie. Ars Technica ocenia, że to wyniki zbliżone do wcześniejszych, podobnych systemów znakowania.

Wniosek jest prosty: brak znaku niczego nie dowodzi. Tekst mógł powstać w innym modelu, zostać skrócony, przetłumaczony albo poprawiony przez człowieka. Detektor znajdzie więc głównie teksty osób, które nie zadały sobie trudu, by je zmienić.

Znak mówi o udziale AI, nie o autorstwie

OpenAI samo zastrzega, że wykrywanie może dawać zarówno fałszywe alarmy, jak i przeoczenia. W komunikacie firma opisuje też, czego znak w ogóle nie mierzy:

To zastrzeżenie ma praktyczne znaczenie. Autor, który użył ChatGPT tylko do wygładzenia stylu albo przetłumaczenia własnego tekstu, może dostać ten sam sygnał co ktoś, kto wkleił gotową odpowiedź. Gdy w sierpniu podobne znakowanie wprowadził Anthropic w modelu Claude, użytkownicy na forach branżowych protestowali właśnie z tego powodu. Ich argument: to oni dostarczają kontekst, strukturę i decyzje merytoryczne, a model jest narzędziem jak edytor tekstu.

Różni się też zasięg. Anthropic włączył znakowanie globalnie. OpenAI robi to domyślnie tylko tam, gdzie wymaga tego prawo, a w API (interfejsie programistycznym, przez który firmy podłączają modele do własnych narzędzi) zostawia funkcję wyłączoną z opcją włączenia. Firmy korzystające z modeli przez własne integracje same zdecydują więc, czy ich treści będą nosić znak.

Co z tego wynika dla marketingu, sprzedaży i HR

Znak wodny to obowiązek dostawcy modelu, czyli OpenAI. Firma, która publikuje treści stworzone z pomocą AI, ma w AI Act osobne obowiązki jako użytkownik systemu. Dotyczą one między innymi tekstów publikowanych w celu informowania opinii publicznej o sprawach interesu publicznego. Według analiz kancelarii prawnych, m.in. Orrick, Mishcon de Reya i Herbert Smith Freehills Kramer, obowiązek ujawnienia nie ma zastosowania, gdy tekst przeszedł rzetelną ludzką redakcję, a konkretna osoba lub podmiot bierze za publikację odpowiedzialność redakcyjną. Te same analizy, powołując się na wytyczne Komisji Europejskiej, wskazują, że zwykłe poprawki pisowni, gramatyki czy formatu nie wchodzą w zakres art. 50.

Regulacja ma zasięg poza Unią: obejmuje także firmy spoza UE, jeśli wynik działania ich systemu trafia do użytkowników w Unii. Za naruszenia obowiązków przejrzystości grożą kary do 15 mln euro albo 3 proc. globalnego rocznego obrotu, zależnie od tego, która kwota jest wyższa.

Dla działów, które codziennie korzystają z AI, rozsądniej jest więc oprzeć się na własnym procesie niż na znaku wodnym. W praktyce oznacza to:

• spisanie, do jakich treści zespół używa AI i kto je zatwierdza,
• dokumentowanie ludzkiej redakcji: kto sprawdził tekst, według jakich zasad i kto za niego odpowiada,
• rezygnację z detektorów AI jako dowodu w rekrutacji czy ocenie pracowników,
• sprawdzenie, czy w integracjach przez API znakowanie ma być włączone.

To, czy konkretna publikacja wymaga oznaczenia, zależy od jej charakteru i kontekstu. Przy wątpliwościach warto skonsultować się z prawnikiem znającym AI Act, bo część interpretacji dopiero się kształtuje.

Czy to działa? Jako narzędzie statystyczne tak, jako dowód nie

textGrain ma odpowiedzieć na literę przepisu: tekst z ChatGPT w UE będzie oznaczony w sposób czytelny dla maszyn. Nie rozstrzygnie jednak, kto napisał tekst, który ktoś choć trochę przeredagował. Branża traktuje znaki wodne jako jeden z elementów śledzenia pochodzenia treści, obok metadanych C2PA (standardu zapisującego informacje o pochodzeniu plików) stosowanych głównie w obrazach i wideo. Żadna z tych metod nie jest szczelna.

Dla firm wniosek redakcji jest praktyczny. Znak wodny nie zwalnia z odpowiedzialności za publikowane treści i nie zastąpi wewnętrznych zasad pracy z AI. Bezpieczniej mieć udokumentowany proces redakcji niż liczyć na to, że detektor kiedyś coś rozstrzygnie.