OpenAI zacznie domyślnie znakować teksty z ChatGPT w Unii Europejskiej
Niewidzialny znak wodny textGrain w ciągu kilku tygodni trafi do tekstów z ChatGPT i Codexa w UE. OpenAI wykonuje w ten sposób wymóg przejrzystości z AI Act, ale samo przyznaje, że znak łatwo zatrzeć.
OpenAI ogłosiło w poniedziałek 5 października, że zacznie domyślnie znakować tekst generowany przez ChatGPT i narzędzie programistyczne Codex dla użytkowników w Unii Europejskiej. Według MamStartup, powołującego się na TechCrunch, zmiana obejmie wszystkie plany abonamentowe. Znakowanie ma się pojawić „w nadchodzących tygodniach”, podaje Ars Technica (otwiera się w nowej karcie). Poza UE oraz w API (interfejsie, przez który firmy podłączają modele do własnych aplikacji) znakowanie jest dostępne jako opcja, domyślnie wyłączona.
Powodem jest AI Act, unijne rozporządzenie o sztucznej inteligencji. Jego art. 50, którego przepisy o przejrzystości obowiązują od 2 sierpnia 2026, wymaga od dostawców systemów AI oznaczania syntetycznych treści w sposób czytelny dla maszyn. Anthropic wprowadził podobne znakowanie dla modeli Claude w sierpniu, ale włączył je na całym świecie.
System OpenAI nazywa się textGrain. Przy wyborze każdego kolejnego słowa model, na podstawie tajnego klucza i poprzedzającego tekstu, lekko faworyzuje część możliwych słów. Dla czytelnika tekst brzmi tak samo, a detektor z tym samym kluczem rozpoznaje statystyczny wzorzec.
W najlepszym przypadku testy OpenAI pokazują 92 proc. skuteczności wykrycia. Według Ars Technica zmiana 10 proc. tekstu obniża ją o blisko 30 proc., a zmiana 20 proc. - o blisko 75 proc. Spider's Web (otwiera się w nowej karcie), omawiając wykresy OpenAI, pisze o zamianie 10 i 25 proc. słów. Skuteczność spada też przy krótkich i przetłumaczonych tekstach, a przepisanie przez inny model zaciera znak. Detektor dostanie na razie tylko ograniczona grupa zatwierdzonych badaczy i organizacji.
[Znaki wodne] mogą wskazywać, że system OpenAI wygenerował lub przetworzył część fragmentu tekstu, ale nie to, jak wiele ludzkiego osądu, redakcji czy kreatywności w niego włożono.
Dla firm w UE oznacza to, że teksty przygotowane w ChatGPT przez pracowników i agencje będą nosić ukryty znacznik. Jego brak nie dowodzi jednak ludzkiego autorstwa, a obecność nie mówi, kto i w jakim stopniu tekst redagował.