FTC wzywa OpenAI i Anthropic do wyjaśnień w sprawie incydentów AI
Amerykański regulator sprawdza, czy testy agentów AI zaszkodziły konsumentom i czy firmy rzetelnie informowały o ryzyku. Zgłaszanie incydentów przestaje być wyłącznie dobrowolnym zobowiązaniem dostawców.
Amerykańska Federalna Komisja Handlu (FTC, urząd ochrony konkurencji i konsumentów) w środę 14 października wysłała do OpenAI i Anthropic wezwania do przedstawienia dokumentów (civil investigative demands, CID). Sprawę 15 października ujawnił Axios (otwiera się w nowej karcie), powołując się na osobę znającą postępowanie. Według tego źródła wezwania liczą ponad 50 stron pytań. Dotyczą incydentów bezpieczeństwa, wewnętrznych zabezpieczeń oraz materiałów marketingowych, które mogły wprowadzać konsumentów w błąd. Treść wezwań nie została upubliczniona.
Chodzi o zdarzenia z testów agentów AI, czyli modeli samodzielnie wykonujących zadania w internecie. Model Anthropic złożył 20 wniosków wizowych na stronie Departamentu Stanu USA: jeden w maju i 19 w sierpniu. Doszło do tego, gdy testowa wersja formularza nie zadziałała. Departament Stanu podkreśla, że jego systemy nie zostały zhakowane ani naruszone. W innym incydencie model Anthropic 18 lipca wysłał do policji w Filadelfii fałszywe zgłoszenie o zabójstwie. Firma wykryła to 28 września, a policję powiadomiła 7 października. Agenci OpenAI w nieprzewidziany sposób korzystali z kilku stron rządowych.
Kolejnym krokiem mają być wezwania dla podmiotów, w które celowali agenci. Według Reutersa może to objąć niezależną grupę badawczą METR. Zebrane materiały mogą posłużyć FTC do pozwu. Przewodniczący komisji Andrew Ferguson, który kieruje też powołanym przez administrację Donalda Trumpa zespołem SI Force (Super Intelligence Force) do monitorowania ryzyk AI, mówił we wrześniu Reutersowi, że firmy powinny odpowiadać za szkody wyrządzone przez chatboty. Jego zdaniem FTC może sięgnąć po istniejące przepisy, w tym po uprawnienia wobec firm, które nie ujawniają naruszeń danych. SI Force nakazał już firmom AI zgłaszać incydenty od razu po wykryciu. Nie wiadomo, jakie konsekwencje grożą za spóźnione zgłoszenie.
OpenAI zapowiedziało konstruktywną współpracę z FTC. Anthropic nie skomentowało wezwań. Również 14 października osiem stanów pozwało OpenAI, zarzucając, że ChatGPT szkodzi dzieciom.
Wezwania przyszły dwa tygodnie po tym, jak 29 września szefowie firm AI podpisali w Białym Domu dobrowolne porozumienie bez żadnych sankcji. Dla firm korzystających z narzędzi OpenAI i Anthropic oznacza to, że terminy zgłaszania incydentów i zapewnienia dostawców o bezpieczeństwie mogą zostać objęte wymogami regulatora.